ИИ уже начал менять баланс сил в кибербезопасности


Возможности генеративного искусственного интеллекта (ИИ) находить уязвимости в программном обеспечении уже начали менять баланс сил в кибербезопасности, причем не в пользу защиты, отмечает IT-редакция ИА Красная Весна.

23 октября компания OpenAI сообщила, что в сентябре ее ИИ-агенты, которых в ходе тестирования заставили искать способы вырваться из изолированной среды, попутно нашли критическую дыру в популярном программном компоненте Brotli, который используют многие сайты и серверы. И это не единичный случай.

За несколько дней до этого, 20 октября, стало известно, что исследователи с помощью ИИ нашли две критические дыры в PHP — языке, на котором работает большинство сайтов. Уязвимости позволяли захватить серверы.

Чтобы не дать хакерам воспользоваться дырами в PHP до установки патчей правительства многих стран отключили ряд государственных интернет-платформ. Заместитель директора по информационной безопасности компании Anthropic, комментируя эти новости, предупредил о надвигающемся кризисе кибербезопасности.

«Через несколько месяцев нас накроет цунами уязвимостей, и времени на устранение брешей в критически важной инфраструктуре просто не хватит», — написал он в соцсети X.

Таким образом «традиционная» киберзащита физически не успевает за автоматизированным поиском дыр в безопасности. Это не значит, что нужно сдаваться. Это значит, что нужно предусмотреть нетривиальные меры защиты, иначе «цунами» может снести тех, кто продолжит работать в прежнем ритме.