Снимки, качени в Microsoft Copilot за редактиране, могат да попаднат пред човешки проверяващи, заедно с инструкциите, които потребителите въвеждат в чатбота. Разследване на 404 Media от 28 септември установява, че външни изпълнители преглеждат реални потребителски изображения, за да оценяват редакциите, направени от изкуствения интелект.
Според един от служителите лицата на хората в изображенията не се замъгляват.
Това поставя въпроси за поверителността при използването на Copilot. Потребителите, които изпращат снимки за редактиране с AI, може да не очакват, че изображенията им могат да бъдат видени от друг човек.
Някои от изпълнителите са изразили притеснения и дали хората, присъстващи на снимките, са дали съгласие за сексуализираните промени, които други потребители са поискали.
Какво могат да виждат човешките проверяващи
Вътрешни инструкции, получени от 404 Media, описват процес на сравнение на изображения едно до друго.
Изпълнителите получават оригиналната снимка и съответната потребителска инструкция, последвани от две версии, генерирани от Copilot.
Служители са описали заявки за скъсяване на поли на жени или поставяне на хора в сексуално внушаващи пози. По този начин проверяващите виждат както оригиналното изображение, така и конкретното описание на начина, по който потребителят е поискал то да бъде променено.
Въпросът за поверителността не засяга само собственика на акаунта.
Човек, чиято снимка е качена от друг потребител, също може да се появи в процеса на проверка, без самият той някога да е използвал Copilot. Ако лицето му не е замъглено, той остава разпознаваем в съдържание, за чието съществуване може изобщо да не знае.
Защо служители преглеждат тези изображения
Проверяващите трябва да установят дали дадена редакция отговаря на потребителската заявка и дали са запазени детайлите, които не е трябвало да бъдат променяни.
Те оценяват също визуални дефекти и общото качество на изображенията, след което избират по-добрата от двете генерирани версии.
При сексуализирани заявки това означава да бъде оценено доколко успешно Copilot е направил поисканите промени. Според разследването тези задачи са насочени към качеството на резултата, а не към определяне дали съдържанието е трябвало да бъде блокирано.
Някои изпълнители са се оплакали, че попадат на смущаващи изображения без предварително предупреждение.
Един от тях е поискал въвеждането на обозначение за потенциално опасно съдържание, след като получил комплект снимки, заснети под полите на жени. Случаят показва, че служителите могат да имат много ограничена предварителна информация за съдържанието на следващата задача.
Какво казва Microsoft за поверителността
Microsoft е заявила пред 404 Media, че използва потребителски данни в съответствие със своите условия за използване, за да подобрява продуктите си и да прилага правилата в своя кодекс за поведение.
Prolific, една от компаниите, които осигуряват външни изпълнители, не е отговорила на искането за коментар.
Разследването не установява колко често качените изображения достигат до човешки проверяващи или кои видове акаунти са засегнати.
Преди качване на чувствителна снимка в подобна услуга потребителите трябва да имат предвид възможността изображението да бъде видяно и от човешки проверяващ.
