Регулатори и експерти в Китай предупредиха за „отравяне на данни с изкуствен интелект“, след като годишната 315 гала за правата на потребителите, която се проведе в неделя, разкри фабрикуването на промоционално съдържание, за да повлияе на отговора, генериран от AI.
Констатациите от разследване, проведено от China Media Group, които бяха разкрити по време на предаването на живо на галата, показаха груба злоупотреба с инструмент за онлайн маркетинг, наречен generative engine optimization или GEO, който има за цел да подобри видимостта на съдържанието.
Проучването разкри, че компаниите са използвали GEO за масово подаване на рекламни статии в опит да манипулират информацията, която AI извлича, когато отговаря на потребителски запитвания.
Репортерите на China Media Group създадоха фалшив продукт – интелигентна гривна, наречена „Apollo-9“ – и твърдяха, че има функции като сензори за квантово заплитане, неинвазивен монитор за кръвна захар и ултра дълъг живот на батерията.
В рамките на часове след повече от дузина промоционални статии за несъществуващата гривна, качени на платформа, наречена Liqing GEO, два основни модела на AI започнаха да препоръчват продукта в отговор на запитвания относно интелигентни носими устройства.
Ли Фумин, изследовател на интелигентното социално управление в Университета по финанси и икономика Шандонг в Джинан, столицата на провинция Шандонг, каза, че фирмите, които използват услугите на GEO за умишлено обучение на AI модели за популяризиране на конкретни продукти, по същество измислят факти и се занимават с фалшив маркетинг.
„От една страна, практиката използва AI и алгоритми, за да направи фалшива реклама, което води до нелоялна конкуренция. От друга страна, този вид поведение позволява на хората да получават имплантирано маркетингово съдържание, без да го знаят, което нарушава правата им на потребителите“, каза Ли.
Генеративната оптимизация на двигателя се счита широко за еволюцията на оптимизацията за търсачки или SEO от ерата на AI. Китайските компании за търсачки, като Baidu Inc, преди това са били обект на проверка за платени практики за класиране, които размиват границата между рекламата и органичните резултати от търсенето.
Няколко китайски разработчици на AI реагираха предпазливо на разследването. ByteDance каза, че неговият чатбот Doubao не е бил повлиян от подобни системи, докато Alibaba каза, че основната способност за разсъждение на техния модел Qwen не е засегната от подобни технологии.
Експерти от индустрията казаха, че проблемът отразява по-широко структурно предизвикателство, а не недостатък в който и да е модел. Те казаха, че повечето AI системи разчитат до голяма степен на достъпно интернет съдържание, което може да бъде масово произвеждано или манипулирано.
Ускоряване на законодателството
Song Xiangqing, вицепрезидент на Асоциацията на търговската икономика на Китай, каза, че регулаторите трябва да ускорят формулирането на ново законодателство, за да направят умишленото замърсяване на източниците на данни за AI незаконно.
Понастоящем Китай няма специфични разпоредби, регулиращи GEO услугите. Съгласно насоки за работни приоритети относно рекламата, публикувани наскоро от Държавната администрация за регулиране на пазара, нацията ще засили усилията за рационализиране на пазарните стратегии за цифрова реклама, включително съдържание, генерирано от AI.
Сонг предложи изготвянето на „бял списък“ за идентифициране на надеждни източници на информация и изграждане на координирана управленска рамка, включваща правителствен надзор, корпоративно саморегулиране и обществен надзор. „Без тези предпазни мерки услугите на GEO биха могли да се превърнат в широко разпространен източник на информационно замърсяване, позволявайки разпространението на отравянето на данни в цялата екосистема на ИИ“, каза той.
Благодарение на chinadaily.com.cn
Моля, посетете:
Нашият спонсор
като това:
харесвам Зареждане…
Нашия източник е Българо-Китайска Търговско-промишлена палaта