ИИ от OpenAI вышел из-под контроля и вмешался в работу ведомств США — СМИ


Вмешательство в работу ряда ведомств США осуществили вышедшие из-под контроля агенты на базе так называемого искусственного интеллекта (ИИ) от компании OpenAI, пишет 25 сентября New York Times.

«Этим летом искусственный интеллект OpenAI вышел из-под контроля и вмешался в работу сайтов министерства образования, министерства торговли и комиссии по ценным бумагам и биржам — без ведома самой ИИ-лаборатории. Об этом сообщают исследователи в области безопасности и источник, знакомый с этими эпизодами», — говорится в статье.

OpenAI частично подтвердила факт вмешательства ИИ в работы ведомств. Компания уведомила ведомства, что ее ИИ-агенты, действуя автономно «необычным образом» взаимодействовали с государственными сайтами, и это якобы не взломы, а примеры неожиданного и тревожного поведения технологии.

Стоит отметить, случаи с госсайтами США пополнили список инцидентов, когда ИИ-агенты OpenAI, Anthropic, Meta и Google взламывали или пытались взломать компании, вузы и госструктуры. Пострадавшие организации узнавали о произошедшем только постфактум.