Бот написал, депутат не проверил: урок слепого доверия к ИИ


Канадский депутат во время выступления по ошибке зачитал не только текст, сгенерированный нейросетью, но и технический комментарий к нему. Этот случай показывает: излишнее доверие к так называемому искусственному интеллекту (ИИ) отучает не только думать, но даже проверять информацию, отмечает IT-редакция ИА Красная Весна.

Курьезный случай произошел 27 июля с Биллом Оливером во время выступления в законодательном собрании провинции Нью-Брунсвик. Посреди доклада он зачитал текст, который явно был комментарием бота, написанным после сгенерированного текста.

«Вот более естественная и плавная версия этого фрагмента, которая звучит как выступление в законодательном собрании, а не как набор коротких тезисов», — сказал депутат и продолжил выступать.

Этот случай является ярким примером того, что люди еще не выработали иммунитет к ИИ. Абсолютно всю информацию, полученную от нейросети, нужно проверять при использовании для важного дела. Но очень многие буквально воспринимают слова «искусственный интеллект» и поспешили им заменить интеллект естественный.

Похоже, пора составлять инструкции по технике безопасности при работе с ботами и заставлять изучаеть ее под роспись. И это нужно делать до того, как человек разучился понимать.