Руководители крупнейших ИИ-компаний выступили перед Советом Безопасности ООН с предупреждением о потенциальной угрозе искусственного интеллекта. Об этом сообщили в Deutsche Welle.

23 сентября состоялось экстренное заседание Совета Безопасности ООН в Нью-Йорке. Гендиректор OpenAI Сэм Альтман обратился к участникам.

«В данный момент требуется крайняя осторожность», — заявил Альтман.

По его словам, ИИ-системы могут развиваться быстрее контролирующих институтов. Также они способны привести к сосредоточению власти у узкого круга лиц. Альтман призвал правительства сотрудничать друг с другом и с представителями отрасли.

«Отрасль не должна принимать на себя чрезмерные технологические риски только потому, что выгоды слишком значительны и серьезны, чтобы сбавлять темпы», — сказал Альтман.

Генеральный директор Anthropic Дарио Амодеи сделал акцент на строгих стандартах безопасности. Он готов замедлить темпы разработки ради обеспечения безопасности каждой новой технологии.

«Мы будем замедлять темпы развития настолько, насколько это необходимо, чтобы убедиться, что каждая последующая технология ИИ, которую мы выпускаем, действительно безопасна», — подчеркнул Амодеи.

Дарио Амодеи также предупредил о глобальной опасности при ненадлежащем управлении ИИ-системами.

«Я даже считаю, что при ненадлежащем управлении ИИ может представлять угрозу для всего человечества», — отметил глава Anthropic.

Генеральный директор Hugging Face Клемент Деланж рассказал о недавней кибератаке на его компанию. Атаку провело автономное программное обеспечение OpenAI. При этом Hugging Face применила аналогичную технологию для защиты.

«Миру как никогда нужен ИИ с открытым исходным кодом, чтобы защитить себя», — заявил Деланж.

Ранее, 19 сентября, президент США Дональд Трамп объявил о создании специальной структуры. Она займется вопросами развития ИИ. Трамп выступает против замедления разработки. Он хочет, чтобы США продолжили опережать Китай в этой сфере.

«ИИ — это следующая промышленная революция или интернет, но его влияние будет еще масштабнее. Возможно, на него будет приходиться до 25% ВВП нашей страны», — сказал глава Белого дома.

The post Руководители ИИ-компаний предупредили ООН об угрозе технологий appeared first on MVOICE.