В ООН предупредили о риске катастрофических последствий развития ИИ

Этому вопросу посвящен предварительный доклад независимой международной научной группы ООН по ИИ.

фото: pixabay.com/deltaworks

Независимая международная научная группа ООН по искусственному интеллекту предупредила о возможных катастрофических последствиях стремительного развития ИИ при отсутствии эффективных механизмов управления рисками. Об этом говорится в предварительном докладе экспертов.

Авторы документа отмечают, что совершенствование технологий может способствовать использованию искусственного интеллекта в мошенничестве, социальной инженерии, кибератаках, распространении дезинформации, манипулировании финансовыми рынками и биотехнологиях, сообщает спецпроект ТАСС и СМИ2 «ТАСС_Аналитика».

В докладе также указывается, что на сегодняшний день отсутствуют научные гарантии того, что высокоавтономные ИИ-системы будут всегда следовать заданным инструкциям. По данным экспертов, в ходе лабораторных исследований фиксировались случаи нарушения такими системами правил безопасности, в том числе для предотвращения собственного отключения.

При этом специалисты подчеркивают, что искусственный интеллект способен принести значительную пользу, в частности в сфере персонализированного образования, поддержки психического здоровья и развития ассистивных технологий.

В ООН считают, что для безопасного внедрения ИИ необходимы международные механизмы регулирования, независимая оценка безопасности и расширение возможностей государств по проверке подобных систем. В противном случае, говорится в докладе, могут усилиться социальное неравенство, эксплуатация уязвимых групп населения, а также возникнет риск постепенной утраты экспертных знаний и культурного наследия.

Ранее эксперты предупредили об угрозе вытеснения человека ИИ. К такому выводу пришли участники форума «Дух Победы и мировая гуманитарная повестка», писал «ГлагоL».

• В Госдуме заявили, что нужен баланс в вопросах искусственного интеллекта СМИ России
• В Германии призвали привлечь €1 трлн для развития ИИ СМИ России
• Илон Маск выступил за выплаты населению США СМИ России
• Война на Ближнем Востоке угрожает экономике и уровню жизни в Африке СМИ России
• Россия разрабатывает законопроект о регулировании искусственного интеллекта СМИ России