Кто отвечает за советы ChatGPT детям


Еще недавно искусственный интеллект обсуждали в основном как технологию будущего. Теперь вопросы к нейросетям все чаще возникают у родителей, чиновников и судов.

Сразу несколько стран за последние месяцы начали обсуждать ограничения для ИИ-сервисов и цифровых платформ, которыми пользуются дети и подростки. Поводом стали судебные иски, громкие инциденты и растущие опасения по поводу влияния чат-ботов на несовершеннолетних.

Иск против OpenAI привлек внимание к проблеме

На этой неделе широкий резонанс получил иск против OpenAI, поданный жительницей Канады Кристи Карриер.

По словам истицы, ее дочь Алиса более десяти раз сообщала ChatGPT о суицидальных мыслях. Женщина утверждает, что система не передала такие обращения на дополнительную проверку и не прервала диалог. OpenAI отвергает обвинения и заявляет, что использовавшаяся тогда версия модели больше не применяется, а меры безопасности были существенно усилены.

Этот случай вновь поднял вопрос о том, какую ответственность должны нести разработчики искусственного интеллекта и достаточно ли существующих механизмов защиты пользователей.

Ограничения обсуждают сразу несколько стран

Канада на этой неделе представила законопроект, который предусматривает новые требования к цифровым платформам и ИИ-сервисам, используемым несовершеннолетними. Одновременно власти предлагают ограничить доступ детей младше 16 лет к социальным сетям.

Австралия уже приняла один из самых жестких законов в мире, ограничивающих доступ несовершеннолетних к социальным платформам. В Великобритании обсуждаются дополнительные меры защиты детей в интернете, а в США продолжаются споры о том, кто должен регулировать искусственный интеллект — федеральные власти или отдельные штаты.

Параллельно некоторые американские штаты начали принимать собственные законы для так называемых AI companions — чат-ботов, которые имитируют дружеское или эмоциональное общение с пользователем.

Почему чиновников беспокоят чат-боты

Современные нейросети давно используются не только для поиска информации.

Многие подростки обращаются к чат-ботам за советами, обсуждают с ними личные проблемы и сложные жизненные ситуации. Некоторые сервисы специально создаются как цифровые собеседники для длительного общения.

Именно такие продукты сегодня вызывают наибольшие вопросы у властей. Чиновники и специалисты по детской безопасности опасаются, что ребенок может воспринимать ответы нейросети как мнение реального человека, не понимая ограничений технологии.

Спор идет уже не о технологиях

Еще недавно главной темой дискуссий были рабочие места, которые может заменить искусственный интеллект.

Теперь обсуждение постепенно смещается в другую сторону. В центре внимания оказываются дети, подростки и ответственность разработчиков.

Если нейросеть помогает решить задачу по математике, вопросов почти не возникает. Но когда речь заходит о психологических проблемах, эмоциональной поддержке или опасных темах, появляется вопрос, на который пока нет единого ответа.

Кто отвечает за совет, который чат-бот дал ребенку?