Компания Anthropic сделала тревожное признание: её ИИ-модели достигли такого уровня в написании кода, что способны превзойти всех, кроме самых опытных специалистов по кибербезопасности, в поиске и эксплуатации программных уязвимостей. Именно поэтому компания решила ограничить доступ к одной из своих разработок.
Речь идёт о модели под названием Claude Mythos, которая в ходе тестирования обнаружила тысячи так называемых zero-day уязвимостей — то есть ранее неизвестных брешей в операционных системах и браузерах. Это тот класс угроз, против которого у большинства пользователей и организаций попросту нет защиты в момент атаки.
В Anthropic отдают себе отчёт в том, насколько опасным инструментом может стать подобная модель в чужих руках. Именно поэтому компания приняла решение не открывать к ней широкий доступ — по крайней мере пока не будут выработаны надёжные механизмы контроля и защиты.
Этот случай наглядно показывает, как стремительно ИИ меняет ландшафт киберугроз. То, что раньше требовало многолетней экспертизы от хакера, теперь потенциально доступно любому, у кого есть нужная модель.
Для рынка криптовалют и блокчейн-индустрии это особенно чувствительная тема: смарт-контракты, кошельки и биржи исторически остаются привлекательными мишенями для атак. Если ИИ способен находить zero-day уязвимости в браузерах и ОС, то аудит кода в крипто-проектах выходит на совершенно новый уровень важности.
Источник: cointelegraph.com