ИИ-агенты стремительно завоёвывают популярность среди крипто-пользователей. Глава Circle Джереми Эллер уже предсказывает, что в течение ближайших пяти лет в мире будут работать миллиарды таких агентов. Звучит впечатляюще — но исследователи бьют тревогу.
Специалисты из Google и Meta настаивают на том, что ИИ-агентов необходимо рассматривать как потенциально ненадёжные системы. Иными словами, даже если агент создан с благими намерениями, к нему стоит подходить с той же осторожностью, что и к любому внешнему, непроверенному участнику сети.
Логика здесь понятна: ИИ-агенты действуют автономно, принимают решения без участия человека и потенциально могут быть скомпрометированы или использованы в злонамеренных целях — особенно в финансовых и блокчейн-системах, где цена ошибки крайне высока.
Мы видим, что тема доверия к автономным системам становится одной из ключевых по мере того, как ИИ глубже проникает в криптоиндустрию. Если сейчас не выстроить правильные стандарты безопасности, масштаб потенциальных рисков через пять лет окажется колоссальным.
Призыв исследователей — своевременное предупреждение для всей отрасли: рост числа ИИ-агентов должен сопровождаться развитием культуры нулевого доверия, иначе новые возможности рискуют превратиться в новые уязвимости.
Источник: cointelegraph.com