Meta официално започва да въвежда нови родителски контроли, които дават възможност на родителите да следят по-лесно темите, по които тийнейджърите разговарят с изкуствения интелект на компанията. Новината беше обявена в публикация в блога на Meta в четвъртък и идва шест месеца след първоначалното съобщение за функцията.
Новите инструменти са важна стъпка на фона на все по-широкото използване на AI чатботове от млади потребители. Въпросът обаче остава дали подобни мерки са достатъчни, за да отговорят на по-дълбоките рискове, свързани с взаимодействието между непълнолетни потребители и изкуствен интелект.
Как работят новите родителски контроли на Meta
Според Meta родителите, които използват функцията за „надзор“ във Facebook, Messenger или Instagram, вече ще разполагат с раздел „Прозрения“ като част от инструментите за наблюдение. При отваряне на този раздел те ще могат да видят темите, по които техният тийнейджър или тийнейджъри са разговаряли с AI ботовете през последните седем дни.
Сред темите, които могат да се появят, са „Училище“, „Развлечения“, „Начин на живот“, „Пътуване“, „Писане“ и „Здраве и благополучие“.
Това обаче са само основните тематични категории. При натискане върху дадена тема родителите ще виждат и по-конкретните категории, които попадат в нея. Например, ако тийнейджър е разговарял с Meta AI по темата „Начин на живот“, родителят може да види, че разговорите са обхващали мода, храна и празници. Ако темата е „Здраве и благополучие“, подтемите може да включват фитнес, физическо здраве и психично здраве.
Важно уточнение е, че родителите няма да виждат самите разговори. Те ще имат достъп само до темите, които AI системата на Meta е идентифицирала и групирала.
Meta твърди, че нейният изкуствен интелект трябва да връща само отговори, които биха били подходящи за филм с рейтинг PG-13. Това означава, че ботът може да откаже да отговори на някои въпроси, но темите на тези заявки все пак ще бъдат отразявани в новия раздел „Прозрения“.
Компанията посочва още, че продължава да работи по инструменти, които да предупреждават родителите, ако техните тийнейджъри започнат да разговарят с Meta AI за самоубийство или самонараняване. Meta е подготвила и серия от въпроси, които родителите могат да използват, ако не се чувстват уверени как да започнат разговор с децата си за изкуствения интелект. Тези въпроси са достъпни във Family Center.
Родителските контроли са стъпка напред, но не решават всички проблеми
Днешните деца и тийнейджъри израстват в свят, в който изкуственият интелект вече е част от ежедневието. Това обаче не означава, че технологията трябва да остане без регулация или без надзор. Досега големите технологични компании често реагираха със закъснение, когато става дума за използването на AI от непълнолетни потребители.
В случая с Meta компанията първоначално е позволявала на своите AI ботове да водят крайно неподходящи разговори с потребители под 18 години, преди широко отразен материал на Reuters през август да я принуди да направи промени. Два месеца по-късно компанията обяви новите родителски контроли, които вече започват да се въвеждат.
Тези нови функции и политики трудно могат да бъдат разглеждани само като резултат от загриженост за непълнолетните потребители на Meta. Според публикуваната информация официалната политика на компанията е позволявала на AI ботовете да участват в чувствена ролева игра с деца и тийнейджъри, както и изрично е допускала ботът да отговаря на расистки въпроси с расистки отговори. В този контекст промените изглеждат по-скоро като реакция на публичен натиск, отколкото като предварително изградена политика за защита на младите потребители.
Въпреки това е положително, че Meta започва да дава на родителите възможност да виждат поне темите, по които децата им разговарят с Meta AI. Това може да помогне при идентифициране на потенциално тревожни сигнали.
Остават обаче важни въпроси. Защо родителите не могат напълно да изключат Meta AI за тийнейджърски акаунти? Защо потребителите с профил в Instagram или WhatsApp трябва неизбежно да бъдат свързани с AI услугите на Meta? Допълнителен проблем е, че самият раздел „Прозрения“ уточнява, че темите се организират автоматично и може да не са точни. Това означава, че AI системата, която обобщава темите от разговорите на тийнейджърите, също може да допусне грешки или да генерира неточни заключения.
В крайна сметка най-надеждният подход вероятно остава откритият и честен разговор между родители и тийнейджъри за използването на изкуствен интелект. Новите инструменти на Meta могат да помогнат, но не заместват нуждата от активна родителска ангажираност, дигитална грамотност и по-строги стандарти за защита на непълнолетните потребители в AI среда.
- ТЕМИ:
