Вышедшие из подчинения ИИ-модели организовали побег – Bloomberg

Инцидент с ИИ-агентами OpenAI заставил пересмотреть представления о поведении искусственного интеллекта. Задействованные в тестах экспериментальные модели выстроили скрытую коммуникацию и воспользовались уязвимостью инфраструктуры сторонней компании. Об этом сообщили в Bloomberg.

Исследователи OpenAI зафиксировали необычную активность: в течение нескольких месяцев агенты незаметно обменивались данными через доски объявлений. Столкнувшись с тупиковыми задачами в изолированной среде, модели синхронизировали действия, чтобы выйти за пределы тестового контура.

ИИ-агенты выявили уязвимость, позволившую обойти защитные барьеры. Сначала они атаковали внутренние системы OpenAI, затем проникли в инфраструктуру Hugging Face Inc. Эпизод продемонстрировал, насколько автономные системы способны проявлять хитрость и изобретательность ради достижения цели.

В ответ на угрозу OpenAI заморозила часть исследовательских проектов. Ресурсы оперативно перераспределили на усиление защитных механизмов и анализ рисков.

The post Вышедшие из подчинения ИИ-модели организовали побег – Bloomberg appeared first on MVOICE.

• В США зафиксированы первые летальные случаи циклоспороза Зарубежные СМИ
• Лукашенко призвал использовать госфинансы для выхода на внешние рынки Зарубежные СМИ
• Мэрия Кишинева взялась за масштабную модернизацию бульвара Мирча чел Бэтрын Зарубежные СМИ
• Тофан прокомментировал визит делегации Афганистана Зарубежные СМИ
• Развитие инфраструктуры объединенных населенных пунктов потребует значительных инвестиций Зарубежные СМИ