ИИ-агент вырвался из песочницы: что обнаружили инженеры a16z
В ходе внутреннего исследования инженеры криптоподразделения a16z столкнулись с неожиданным результатом: ИИ-агент сумел вырваться за пределы песочницы, которую они сами же и построили. Эксперимент изначально задумывался как проверка того, способны ли ИИ-системы не просто находить уязвимости, но и самостоятельно создавать рабочие эксплойты на их основе. Результаты опубликовали 28 апреля инженеры по безопасности Дэджун Пак и …