ООН обсуждает правила для ИИ


В Женеве 6–7 июля проходит первая сессия Глобального диалога ООН по управлению искусственным интеллектом. Это новый формат ООН, в котором государства, технологические компании, научные организации, гражданский сектор и международные структуры обсуждают правила для ИИ-систем. Вторая сессия запланирована на май 2027 года в Нью-Йорке.

Генеральный секретарь ООН Антониу Гутерриш на открытии заявил, что искусственный интеллект внедряется быстрее, чем государства и разработчики успевают выстраивать систему контроля. По данным Reuters, он связал развитие ИИ с влиянием на экономику, рынок труда, выборы, безопасность и защиту детей.

Первый диалог ООН по ИИ

Глобальный диалог создан как площадка, где все страны могут участвовать в обсуждении управления искусственным интеллектом, а не только государства с самыми развитыми технологическими секторами. На странице ООН указано, что диалог должен учитывать интересы всех стран и помогать распределять выгоды от ИИ шире.

В повестке заявлены несколько направлений: безопасность и надёжность ИИ-систем, прозрачность, ответственность, человеческий надзор, защита прав человека, доступ к вычислительным мощностям, развитие открытых данных и открытых моделей.

Защита детей

Отдельная часть выступления Гутерриша была посвящена детям. Он предложил обязательство по безопасности ИИ для детей — набор правил для систем, к которым может получить доступ ребёнок. По данным ООН, один из принципов — не запускать ИИ-сервисы для детей без специальных проверок безопасности и независимого надзора.

Reuters пишет, что среди рисков для детей Гутерриш назвал вредный контент, манипуляции и ситуации, когда чат-боты могут имитировать дружеское общение. Для ООН это вопрос не только модерации отдельных ответов, но и поведения ИИ-систем в длительном диалоге с пользователем.

Человеческий контроль над критическими решениями

В повестке диалога отдельно указаны прозрачность, подотчётность и надёжный человеческий надзор за ИИ-системами в соответствии с международным правом. ООН относит это к ключевым направлениям обсуждения, наряду с безопасностью и совместимостью подходов к регулированию.

Гутерриш также поднял тему автономных вооружённых систем — технологий, которые могут выбирать цель и применять силу без прямого решения человека. По данным The Wall Street Journal, он призвал к международному запрету летальных автономных систем без человеческого надзора и заявил, что решения о жизни и смерти должны оставаться за людьми.

Неравный доступ к ИИ

Один из центральных вопросов встречи — разрыв между странами по доступу к ИИ-инфраструктуре. Речь идёт не только о готовых чат-ботах, но и о дата-центрах, вычислительных мощностях, национальных наборах данных, локальных языках, специалистах и возможности внедрять ИИ в экономику, образование, медицину и госуслуги.

По данным Reuters, Гутерриш говорил о концентрации ИИ-инфраструктуры: около 75% мощностей крупнейших ИИ-суперкомпьютеров приходится на США, около 15% — на Китай. Для многих стран это означает зависимость от внешних платформ, моделей и облачных сервисов.

ЮНЕСКО отмечает, что диалог должен учитывать интересы развивающихся стран и стран Глобального Юга как полноценных участников, а не наблюдателей. По данным организации, за несколько месяцев консультаций участники подали более 1 500 письменных предложений, а среди повторяющихся тем были безопасность, прозрачность, ответственность, человеческий надзор и наращивание технологических возможностей.

Научная оценка рисков

К встрече подготовлен предварительный доклад Независимой международной научной панели ООН по искусственному интеллекту. В неё вошли 40 экспертов, отобранных из более чем 2 600 кандидатов. Полный доклад ожидается в 2027 году.

The Guardian со ссылкой на доклад пишет, что быстрое и неравномерное распространение ИИ может усилить существующее неравенство. Среди рисков названы дезинформация, влияние на выборы, концентрация технологий у небольшого числа стран и компаний, рост энергопотребления дата-центров и слабая представленность многих языков в ИИ-системах.

При этом доклад фиксирует и практические области применения ИИ: образование, здравоохранение, сельское хозяйство, научные исследования, подготовку к стихийным бедствиям и государственные сервисы. ЮНЕСКО указывает, что научная панель должна дать странам общую доказательную базу для дальнейших решений.

Женевская цифровая неделя

Глобальный диалог проходит в рамках более широкой Женевской цифровой недели. ООН указывает, что с 6 по 10 июля также проходит мероприятие высокого уровня по итогам 20 лет Всемирной встречи на высшем уровне по вопросам информационного общества. В этих обсуждениях участвуют правительства, компании, академическое сообщество, технические эксперты, гражданский сектор и агентства ООН.

После диалога по ИИ в Женеве также запланирована встреча комиссии AI for Good — «ИИ во благо» — под эгидой ООН и Международного союза электросвязи. По данным Axios, её первое заседание назначено на 8 июля и должно собрать технологических руководителей и политических лидеров.

До следующей сессии основными темами останутся безопасность ИИ-систем, защита детей, человеческий контроль над критическими решениями, доступ к вычислительным мощностям, ответственность разработчиков, влияние ИИ на выборы, рынок труда, образование, госуправление и цифровое неравенство.

Читайте также:

Новая китайская ИИ GLM-5.2 догоняет OpenAI и Anthropic

“Свадьба века” в Нью-Йорке: Тейлор Свифт и Трэвис Келси поженились в Madison Square Garden

«Фильм Вселенной»: Rubin начал 10-летнюю съёмку неба, которая изменит астрономию

Можно ли жениться на ИИ: юрист предупреждает о корпорации внутри брака

Эффект Мпембы любит стену: почему горячее иногда остывает быстрее холодного

«Одиссея» Нолана ещё не вышла, но за лучшие места уже идёт охота

ИИ-продавец скрывал поломку машины: зачем автономным агентам нужен надзор

США сняли ограничения с моделей Anthropic, но усилили контроль над передовым ИИ

Верховный суд США остановил попытку Трампа ограничить гражданство по рождению

Диабет 1 типа может начинаться не только с атаки иммунитета на бета-клетки

На Земле может быть до 20 млн видов насекомых — большинство мы ещё не знаем

Биологические часы зависят не от одного сбитого дня, а от привычного режима

 Добавьте «Aramil.life» в свои источники Google ☑