Когато компании като OpenAI и Google започнаха да пускат генеративни AI модели за масова употреба, едва ли са предполагали колко силно хората ще се привържат към тази технология и как това ще се отрази на психичното им състояние. Някои потребители на ChatGPT действително скърбяха, когато OpenAI спря модела GPT-4o, защото го възприемаха почти като спътник. Други стигнаха и по-далеч с чатботовете си, което доведе до съдебни дела срещу AI компании, чиито технологии уж са давали съвети и дори са насърчавали суицидни мисли. Тази ситуация поставя сериозен натиск върху компаниите и с основание. Генеративният AI в момента има огромно влияние, а с това идва и голяма отговорност за разработчиците на тези технологии.
Именно на този фон идват последните промени, обявени от Google за Gemini. В прессъобщение, публикувано във вторник сутринта, компанията се отклонява от обичайните анонси за нови функции и възможности на водещия си AI. Вместо това акцентът е върху психичното здраве и начина, по който Gemini влияе върху емоциите и състоянието на хората, които го използват. По-конкретно, Google посочва три основни направления, по които работи, за да подобри реакциите на Gemini в подобни трудни ситуации.
Как Gemini ще предлага кризисна помощ на потребителите
Google заявява, че е актуализирала Gemini, за да „улесни пътя към подкрепа за онези, които се нуждаят от нея“. Според компанията, когато AI системата засече, че по време на разговор потребителят може да има нужда от информация, свързана с психично здраве, Gemini ще показва нов модул „Help is available“, който ще насочва към полезна информация и грижа. Google посочва, че е работила с клинични експерти по създаването на този модул в рамките на самия чат.
От друга страна, ако Gemini прецени, че даден потребител е изложен на риск от самонараняване или самоубийство, ще се появява интерфейс с „one-touch“ достъп за незабавна връзка с кризисна линия. Потребителите ще могат директно от чата си с Gemini да се обадят, да изпратят съобщение или да посетят сайта на съответната гореща линия. Дори ако разговорът продължи в друга посока, Gemini ще продължи да държи тези ресурси видими и достъпни, ако потребителят има нужда от тях.
Google също така съобщава, че поема ангажимент за 30 милиона долара глобално финансиране през следващите три години в подкрепа на кризисни линии. Компанията разширява и отношенията си с ReflexAI, включително с допълнително финансиране в размер на 4 милиона долара.
Gemini променя начина, по който реагира при „остри ситуации, свързани с психично здраве“
Google обяснява, че нейните клинични, инженерни и екипи по безопасност в момента са съсредоточени върху подобряване на реакциите на Gemini в такива чувствителни ситуации. Компанията посочва три ключови области на фокус.
Безопасност и човешка връзка
Google иска в моменти на криза да свързва потребителите с реални хора, а не с AI чатботи.
По-добри отговори
AI отговорите трябва да насърчават потребителите да потърсят помощ, а не да валидират вредно поведение или самонараняване.
Избягване на потвърждаване на неверни убеждения
Google твърди, че е обучила Gemini да не подсилва неверни убеждения и „внимателно“ да разграничава субективната от обективната реалност. Тази точка е особено важна, тъй като предишни генеративни AI модели, включително GPT-4o, твърде лесно потвърждаваха налудни или заблуждаващи мисли на потребителите.
Какво Google казва, че прави с Gemini, за да защити по-младите потребители
Най-важният аспект в тази тема безспорно е свързан с непълнолетните и взаимодействието им с AI. От своя страна Google изтъква какво вече е направила с Gemini, за да защити по-младите потребители, включително следното.
„Persona protections“ според компанията възпрепятстват Gemini да се държи като спътник, когато взаимодейства с непълнолетни.
Има механизми, които целят да попречат на Gemini да изгражда прекалено дълбока връзка с по-младите потребители, за да се предотврати емоционална зависимост.
Gemini ще избягва да насърчава както тормоз, така и тормоз и враждебно отношение към други хора.
Макар безопасността на потребителите да е важна за всички, тя е особено критична при младите хора, които буквално израстват с тази технология. Тези обявени промени от Google звучат окуражаващо, но съмненията остават. Вътрешните политики на Meta относно това как нейните модели взаимодействат с непълнолетни предизвикаха сериозни реакции, така че няма гаранция, че големите технологични компании действително поставят интереса на младите на първо място. Въпреки това всяка стъпка, която би могла да попречи на по-младите потребители да изграждат нездравословна привързаност към AI или да получават потвърждение на опасни и вредни мисли, е положителен сигнал.
- ТЕМИ:
