OpenAI въвежда нова функция за сигурност в ChatGPT, която използва изкуствен интелект, за да преценява възрастта на потребителите. Новият механизъм, наречен „age prediction“, има за цел да ограничи достъпа на непълнолетни до потенциално неподходящо съдържание и да създаде по-безопасна среда.
Как работи AI определянето на възрастта
Системата анализира поведението на потребителя в платформата, както и данни от акаунта. Това включва фактори като активност, часове на използване, модели на взаимодействие и дори информацията, която самият потребител е предоставил.
На база на тези сигнали AI моделът прави оценка дали потребителят е над или под 18 години. Ако системата счита, че даден потребител е непълнолетен, автоматично се активира по-ограничена версия на ChatGPT. При липса на достатъчна увереност, по подразбиране се прилага същият „по-безопасен“ режим.
Какво ограничава „по-безопасната“ версия
Ограниченият режим цели да намали излагането на рисково съдържание, включително:
- графично насилие или шокиращи сцени
- вирусни предизвикателства, които могат да доведат до опасно поведение
- ролеви игри със сексуален или насилствен характер
- описания на самонараняване
- съдържание, насърчаващо крайни стандарти за красота или нездравословни диети
От компанията посочват, че подходът е базиран на експертни мнения и изследвания в областта на детското развитие, включително различията при тийнейджърите в преценката на риска, импулсивността и емоционалния контрол.
Рискове и неточности при AI моделите
Както при всяка AI система, съществува риск от грешки. Възможно е пълнолетни потребители да бъдат погрешно класифицирани като непълнолетни и да получат ограничен достъп, или обратното.
За такива случаи OpenAI предлага допълнителна верификация чрез външната услуга Persona – същата, използвана от Roblox. Потребителите могат да потвърдят възрастта си чрез селфи, ако системата не е сигурна.
Интересното е, че компанията не споменава възможност за удостоверяване чрез личен документ, каквато вече се използва от Google.
Баланс между безопасност и поверителност
Въвеждането на подобни системи повдига въпроси за личните данни и поверителността. Макар целта да е защита на по-младите потребители, критиците отбелязват, че това често става за сметка на събирането и анализа на повече лична информация.
Въпреки това натискът върху платформите да осигурят по-безопасна среда за непълнолетни расте. Част от потребителите на ChatGPT са под 18 години, а в отделни случаи са възниквали сериозни инциденти, включително съдебни дела, свързани с неподходящо съдържание.
Какво следва
Новата система за „age prediction“ ще бъде ключов тест за това доколко AI може ефективно да регулира достъпа до съдържание според възрастта. Предстои да се види дали тя ще подобри безопасността за младите потребители, без да влоши потребителското изживяване за останалите.
- ТЕМИ:
