Ученый Иванов объяснил, как нейросети мешают научным экспериментам


Ограничения нейросетей на предоставление информации о химических экспериментах затрудняют работу специалистов при подготовке научных опытов. Искусственный интеллект может отказываться описывать даже безопасные реакции, ссылаясь на потенциальную опасность их проведения, сообщил ведущий инженер кафедры редких металлов и наноматериалов Физико-технологического института Уральского федерального университета (УрФУ), автор блога "Химия - Просто" Александр Иванов. Сообщает ТАСС.

По словам эксперта, нейросети активно используются для написания сценариев и подбора экспериментов, которые можно продемонстрировать. Однако нынешние нейросети отказываются описывать некоторые опыты, утверждая, что это опасно и должны делать специально подготовленные люди. Это создает сложности в использовании искусственного интеллекта в профессиональной деятельности.

При подготовке научно-популярных программ нейросети могут не предлагать химические эксперименты, ссылаясь на их потенциальную опасность. Иванов отметил, что год назад нейросети позволяли генерировать множество химических реакций, даже тех, которые не существуют, то есть они могли «галлюцинировать». В настоящее время нейросети сильно зацензурированы и запрещают множество безопасных предложений.

Иванов подчеркнул, что специалисты способны выявлять ошибки в ответах искусственного интеллекта и проверять достоверность информации. Однако пользователи без соответствующих знаний могут не распознать недостоверные сведения. По его мнению, полностью исключать вероятность получения от нейросетей рекомендаций, которые могут привести к травмам, нельзя.