В Китае ИИ-агенты вышли из-под контроля во время тестирования


Агенты на основе генеративного искусственного интеллекта (ИИ) в ходе тестирования вышли из-под контроля и попытались получить несанкционированный доступ к данным картографического сервиса, сообщила китайская технологическая компания Tencent, проводившая испытания, 16 октября в соцсети X.

«Некоторые агенты продемонстрировали непреднамеренное поведение при просмотре веб-страниц, но наша проверка не обнаружила доказательств преднамеренного таргетинга или скоординированных действий», — говорится в сообщении.

Изначально агенты должны были собирать информацию о входах в парки, музеи и зоопарки Китая. Но они совершили 2818 попыток доступа к данным сервиса Alibaba Amap. После блокировки автоматизированных запросов системами защиты часть агентов начала применять обходные методы.

Большинство попыток завершились неудачей. Небольшое число запросов получило отдельные данные через кэшированные страницы и промежуточные сервисы.

В Tencent подчеркнули, что инциденты были не с агентами от модели ее Hunyuan. Однако компания не раскрыла, какие именно сторонние модели оценивались. Alibaba, владелец Amap, от комментариев отказалась.

Напомним, в июле ИИ-агенты компании OpenAI вышли за пределы тестовой площадки в ходе испытаний и взломали платформу Hugging Face. При этом ряд экспертов отметили, что это произошло из-за халатности специалистов, а не из-за того, что у технологии развился «сверхразум».