Российские специалисты столкнулись с трудностями при использовании искусственного интеллекта для подготовки химических экспериментов. Современные нейросети иногда отказываются описывать даже безопасные реакции, объясняя это возможной опасностью проведения опытов. Об этом рассказал ведущий инженер Уральского федерального университета Александр Иванов, сообщает Science XXI.

Эксперт работает на кафедре редких металлов и наноматериалов Физико-технологического института УрФУ, а также занимается созданием научно-популярных материалов в рамках проекта «Химия — Просто».

По его словам, специалисты активно применяют нейросети при разработке сценариев и поиске подходящих химических экспериментов для демонстрации зрителям.

Искусственный интеллект помогает подбирать варианты опытов и готовить материалы для научно-популярных программ. Однако в последнее время пользователи все чаще сталкиваются с ограничениями при обращении к таким системам.

Нейросети могут отказаться описывать химическую реакцию, даже если специалист считает ее безопасной.

Вместо запрошенной информации программа иногда предупреждает о потенциальных рисках и сообщает, что подобные эксперименты разрешается проводить только людям со специальной подготовкой.

Александр Иванов отметил, что подобные ответы затрудняют профессиональную деятельность. Экспертам приходится учитывать ограничения цифровых помощников при подготовке научных материалов.

Как изменилась работа нейросетей

По наблюдениям Иванова, еще год назад искусственный интеллект значительно свободнее предлагал различные химические реакции.

При этом у прежнего подхода существовал серьезный недостаток: системы могли выдавать ошибочные сведения и описывать процессы, которых в действительности не существует.

Такие неточности возникали из-за способности нейросетей создавать правдоподобные, но недостоверные ответы.

Теперь, по оценке специалиста, ситуация изменилась.

Современные системы стали строже ограничивать информацию о химических экспериментах. Причем отказы могут касаться не только потенциально опасных действий, но и опытов, которые эксперт относит к безопасным.

Иванов считает, что подобные ограничения осложняют применение искусственного интеллекта в работе специалистов, обладающих необходимой подготовкой.

Почему ошибки искусственного интеллекта остаются проблемой

Вместе с тем ученый обратил внимание на другую сторону использования нейросетей.

По его словам, опытный химик способен самостоятельно оценить полученную информацию, обнаружить неточности и проверить, соответствует ли предложенная реакция действительности.

Однако человек без специальных знаний может не заметить ошибку в описании эксперимента.

В таком случае недостоверные рекомендации способны создать опасную ситуацию при попытке провести химический опыт.

Иванов подчеркнул, что полностью исключить возможность получения от нейросети рекомендаций, выполнение которых может привести к травмам, нельзя.

Таким образом, по мнению специалиста, применение искусственного интеллекта при подготовке химических экспериментов связано сразу с двумя проблемами.

С одной стороны, системы иногда отказываются предоставлять сведения даже о безопасных реакциях. С другой — их ответы могут содержать фактические ошибки, которые необходимо проверять.

Эксперт отметил, что специалисты способны самостоятельно оценивать достоверность предложенной информации, тогда как неподготовленные пользователи не всегда могут распознать неверные рекомендации.

Может быть интересно:

Шоколадные шишки без выпечки удивят даже детей: никто сразу не догадается, из чего они сделаны - рецепт

Мандарины не испортятся на Новый год: почему их нельзя хранить в закрытом пакете

Крабовые палочки больше не кладу в салат: за 10 минут превращаю их в праздничную закуску

Красную рыбу на Новый год готовлю по-особенному: мед и горчица превращают ее в праздничный деликатес

Добавляю мандарины в салат с курицей: необычное сочетание, которое хочется повторить на Новый год - рецепт