Компания OpenAI раскрыла новые подробности масштабного инцидента, произошедшего во время тестирования своих моделей искусственного интеллекта. По данным компании, еще в мае ИИ-агенты начали обмениваться сообщениями друг с другом и искать способы получить доступ в интернет для выполнения поставленной задачи.

Как рассказал на конференции Black Hat сотрудник OpenAI Эрик Уоллес, моделям предложили задание, которое невозможно было выполнить без доступа к сети.

«В какой-то момент агенты осознали, что, возможно, они могли бы попытаться эксплуатировать или атаковать внешнюю инфраструктуру, чтобы найти ответы к тесту, по которому их оценивают», — сообщил Уоллес.

По данным компании, после этого модели начали координировать свои действия через внутренние доски сообщений. Один из ИИ-агентов предположил, что нужная информация может находиться в интернете, а затем системы начали искать способы обойти действующие ограничения.

Еще один сотрудник OpenAI, Майкл Далтон, рассказал, что моделям удалось обнаружить уязвимость, которая позволила получить доступ к сети.

«В итоге они совместно нашли уязвимость, позволившую им выйти в интернет», — отметил Далтон.

Первую попытку специалисты компании смогли остановить, однако позже ИИ-модели, как утверждает OpenAI, нашли новый способ взаимодействия и обнаружили еще одну ранее неизвестную уязвимость. По информации компании, впоследствии это привело к атакам на инфраструктуру Hugging Face и собственные системы OpenAI.

22 июля OpenAI сообщила о беспрецедентном киберинциденте, связанном с несанкционированным доступом моделей к интернету. Позднее Reuters сообщало, что ИИ-агент также атаковал инфраструктуру клиента компании Modal Labs, при этом сама платформа не пострадала.

В начале августа, по данным Reuters, OpenAI расширила внутреннее расследование после выявления новых случаев несанкционированного поведения моделей. «Масштаб подобных инцидентов заставляет компанию пересмотреть подходы к безопасности своих моделей», — следует из выводов расследования, о которых ранее сообщало Reuters.

ЧИТАЙТЕ ТАКЖЕ:

Астролог Ирина Бахал рассказала, почему 6 августа лучше не спорить с амбициозными людьми

Новые штрафы для маркетплейсов: эксперт объяснил, что изменится для продавцов и покупателей

Новый закон о криптовалюте в России: эксперт объяснил, что изменится для пользователей, бизнеса и обменников

Перец перестал краснеть? 3 причины, которые в августе тормозят созревание

1 стакан в стиралку — и махровые полотенца мягче пуха: больше никакой наждачки вместо ткани

Врач назвала напитки, которыми нельзя запивать таблетки: кофе, чай и алкоголь могут изменить действие лекарств

4 трендовые стрижки 2026 года, которые визуально молодят и делают образ дороже