Издатели и компании за електронна търговия, подложени на непрекъснато обхождане от AI ботове, започват да отвръщат с познат трик от сферата на киберсигурността, адаптиран към ерата на големите езикови модели – LLM honeypotting.
Терминът обозначава тактика за заблуждаване, която примамва ботовете към привидно достоверна, но в крайна сметка безполезна информация – например лабиринти от съдържание. По този начин се увеличават разходите им за изчислителни ресурси, а данните, използвани от моделите, могат да бъдат замърсени. Целта е да бъде нарушена икономическата логика зад масовото извличане на съдържание от интернет.
Така поне изглежда на теория. Реалността обаче е по-сложна.
Технологията все още се намира в начален и експериментален етап, но вече привлича вниманието на малка, макар и увеличаваща се група издатели и компании за електронна търговия.
Ето какво трябва да знаете за нея.
Стара или нова тактика е това?
Това е ново приложение на отдавна позната техника. Докато OpenAI, Google, Meta и множество външни компании засилват обхождането на сайтовете на издатели и търговски марки, паралелно започва да се оформя цяла индустрия от защитни инструменти. Един от тях е LLM honeypotting, който принадлежи към по-широка група техники, известни като заблуждаване или deception.
Както обяснява Саймън Уистоу, съосновател на доставчика на CDN услуги Fastly, заблуждаването отдавна се използва в киберсигурността, за да „промени икономиката на атаката“, вместо трафикът просто да бъде блокиран.
Идеята е проста: ако злоупотребата с дадена система струва на нападателя значително повече, отколкото той може да спечели от нея, цели бизнес модели започват да губят смисъл.
Приложено към големите езикови модели и ботовете за обхождане на сайтове, това означава определени посетители да бъдат третирани като нападатели – независимо дали са очевидно злонамерени, или просто нежелани автоматизирани системи.
Как работи LLM honeypotting?
Съществуват различни варианти. Един от тях е ботовете да бъдат принудени да извършват допълнителна работа. Това може да стане чрез задачи, изискващи доказателство за извършено изчисление, известни като proof-of-work, или чрез трудно забележимо забавяне на отговорите.
Така големите мрежи от ботове внезапно започват да плащат реална изчислителна цена за всяка посетена страница, докато обикновените потребители почти не усещат промяната.
Друг подход е ботовете да бъдат улавяни в „безкрайни лабиринти от съдържание“. Системата генерира неограничен брой страници, които изглеждат напълно правдоподобни, но в действителност съдържат безсмислена информация. Тези страници се показват единствено на ботовете и изразходват времето и изчислителния им бюджет.
Възможно е също моделите или системите им за извличане на информация да бъдат замърсени. За целта на LLM системите се подава статистически последователна, но безсмислена информация. Когато тези данни бъдат използвани, те могат да понижат качеството на отговорите или да предизвикат халюцинации.
Така се подкопава доверието в системите, които използват чуждо съдържание, без да са заплатили за достъп до него.
Това няма ли да задълбочи проблема с дезинформацията?
Не и по начина, по който обикновено разбираме дезинформацията.
Според Уистоу LLM honeypot системите нямат за цел да разпространяват политически или културни послания. Вместо да прокарват твърдения от рода на „имигрантите ядат лебеди“, те подават на моделите статистически последователни безсмислици.
Ако подобна информация се появи в отговорите на AI система, това е знак, че модел, използващ безплатно чуждо съдържание, е бил замърсен. Не става въпрос за целенасочена кампания за дезинформация. Резултатът отново е понижаване на качеството, но проблемът е различен от традиционните кампании за разпространяване на невярна информация.
„Халюцинациите се появяват дори при използването на качествени данни заради начина, по който работят големите езикови модели“, казва Уистоу. „Тук става въпрос за промяна на икономиката за хората, които злоупотребяват с вашия сайт, а не за организирането на някаква мащабна кампания за дезинформация.“
Кой използва технологията и какво се опитва да постигне?
Засега LLM honeypotting се тества предимно от малка група издатели и компании за електронна търговия. Технологията все още не е достигнала до масовия пазар.
Уистоу не посочва конкретни клиенти. Той отбелязва единствено, че някои големи компании за електронна търговия вече я прилагат с първоначален успех. Интерес проявяват както традиционни новинарски издатели, така и участници в електронната търговия.
Основната цел не е големите AI компании да бъдат демонстративно „наказвани“. По-важно е да се промени икономическият модел на множеството по-малки оператори на ботове, които в момента обхождат сайтовете при почти нулев допълнителен разход.
Вместо достъпът им просто да бъде блокиран, целта е всяка тяхна заявка да струва реални пари и същевременно да им носи по-малко полезни данни.
Няма ли съмнителните оператори просто да създадат нови ботове?
Някои представители на индустрията смятат, че упоритите оператори на „сиви“ ботове просто ще изоставят една мрежа и ще създадат друга. Това може значително да ограничи натиска, който honeypot системите са способни да окажат.
Фредерик Ян, съосновател на Centennal и разработчик на AI технологии, смята, че LLM honeypotting е твърде лесен за разпознаване и заобикаляне.
На практика лабиринтите и страниците с безсмислено съдържание често изобщо не се показват на прикритите ботове. Причината е, че защитните системи не успяват да ги разпознаят като автоматизиран трафик.
„Мисля, че концепцията е добра, но по-скоро от маркетингова гледна точка. Тя е нещо като трик, който не помага на никого да достигне до истинската цел“, казва той. „Единственият реален начин да бъде променена позицията на издателите е да се създадат действителни пречки на нивото на защитата.“
Други представители на индустрията, сред които Уистоу, отговарят, че целта не е извличането на данни да бъде напълно премахнато. Целта е бизнес моделът зад него да стане икономически неизгоден.
„Ако успеят да изразходват финансиране от 10 милиона долара само с едно обхождане, тези компании изведнъж ще станат нежизнеспособни и целият пазар ще се срине. Именно към това се стремите“, казва той.
Какви са недостатъците за издателите?
Безкрайните лабиринти от съдържание също имат своята цена. Създаването и поддържането им струва повече от простото блокиране на бота.
„Ако имате особено глупав бот, който успее да премине защитата, можете да го изпратите в безкраен лабиринт от съдържание. След пет дни проверявате и установявате, че е посетил 20 милиона страници. Колко ви струва това? Какъв е допълнителният разход за поддържането на цялото това фалшиво съдържание?“
Следователно издателите също трябва внимателно да изчисляват какви ресурси изразходват, за да задържат ботовете в подобни капани.
Доколко устойчив е този подход и трябва ли повече издатели да го използват?
Уистоу подчертава, че това не е универсално решение или функция, която всеки издател трябва задължително да активира.
Ако сайтът е опростен и обслужването на страниците му е евтино, икономическата логика вероятно няма да бъде достатъчно убедителна. Ситуацията е различна при големи и сложни сайтове, чиито страници изискват повече ресурси и генерират значителни приходи.
В тези случаи комбинацията от увеличаване на разходите за операторите на ботове и психологическото удовлетворение от това, че издателят „отвръща на удара“, може да оправдае експеримента. Това важи с особена сила, ако сайтът вече използва периферна облачна платформа като Fastly, Cloudflare или Akamai, чрез която допълнителните изчисления могат да струват по-малко.
Но дори тогава позицията на Уистоу е ясна: технологията все още е експериментална, разработва се според конкретните нужди и не представлява задължителен стандарт за издателите. По думите му компаниите, които изобщо обмислят подобна защита, са „пред останалите“, а не изостават.
За някои издатели LLM honeypotting би бил единствено крайна мярка.
„Ако скоро не се появи жизнеспособна и устойчива екосистема и ако не бъде направено нещо подобно, мога да си представя издателите да го използват като последен отчаян ход“, казва Крис Дикър, главен изпълнителен директор на Candr Media.
Той обаче предупреждава, че ако се стигне до подобен сценарий, последствията за отворената интернет среда биха били „ужасяващи“.
