Бывший сотрудник Anthropic признал, что ИИ пока неподконтролен людям


Искусственный интеллект пока невозможно полностью контролировать, заявил бывший исследователь Anthropic Джейкоб Коксон 5 октября на специальных слушаниях в городском совете Нью-Йорка.

«Мы пока не знаем, как контролировать какую-либо систему искусственного интеллекта. Поэтому любую систему ИИ, которую мы создаем или, возможно, точнее сказать, выращиваем, мы не контролируем полностью», — сказал Коксон.

Слушания о рисках и регулировании ИИ созвала спикер городского совета Джули Менин, которая продвигает пакет законопроектов о новых ограничениях для отрасли. Среди обсуждаемых мер — «аварийный выключатель» для отключения вышедших из-под контроля систем ИИ, однако, по мнению Коксона, такой механизм решит проблему лишь отчасти. Помимо него, перед депутатами выступили другие бывшие сотрудники Anthropic, OpenAI и Google DeepMind, а также представители Anthropic, OpenAI, Google и Meta (организация, деятельность которой запрещена в РФ). Технологические компании согласились участвовать после того, как офис Менин пригрозил им повестками в суд.

27-летний Коксон три года занимался исследованиями в OpenAI и Anthropic и в сентябре публично покинул ИИ-индустрию. Он заявил, что гонка технологических корпораций приближает мир к «точке невозврата» и может обернуться апокалиптическим сценарием уже в конце 2027 года. Бывший работодатель и OpenAI, по его словам, «играют нашими жизнями».

Министр финансов США Скотт Бессент ранее сравнил руководителей компаний — разработчиков ИИ с Ганнибалом Лектером, главным героем романов о серийном убийце, а их предупреждения об опасности технологий — с призывами маньяка остановить его, пока он не совершил новые преступления. По словам министра, если опасения оправданы, развитие нейросетей следует замедлить.