Следующий миллиардный хакер в криптомире может действовать с суперчеловеческой скоростью

Модель Claude Fable 5 от Anthropic предоставляет мощные кибер-инструменты, но с фильтрами безопасности. Децентрализованные финансы (DeFi), уже пострадавшие от более чем 840 миллионов долларов в результате хакерских атак в этом году, являются одной из отраслей, которая больше всего рискует, если эти фильтры окажутся неэффективными.

Модель Claude Fable 5 от Anthropic предлагает более сильные способности к логическому мышлению и программированию, при этом пытаясь блокировать опасные применения. Более мощная версия Mythos 5 ограничена для проверенных пользователей в области безопасности. Эксперты в области безопасности предупреждают, что хотя продвинутая ИИ не создаст принципиально новых хакерских методов, она заметно ускорит процесс поиска ошибок конфигурации и разработки способов эксплуатации уязвимостей, таких как социальная инженерия, раскрытые ключи и ошибки подписания.

Наибольшие потери в DeFi в этом году, составившие более 840 миллионов долларов, в основном возникли из-за человеческих ошибок и операционных сбоев, а не из-за ошибок в смарт-контрактах. Новейшая модель ИИ от Anthropic, предоставляющая пользователям более сильные и быстрые способности к логическому мышлению и программированию, попадает на крипторынок, столкнувшийся с проблемами безопасности, и может усугубить их.

Компания выпустила модель Claude Fable 5 во вторник, ставшую первой публичной моделью в классе Mythos, и, по словам Anthropic, самой мощной на сегодняшний день. Она настолько мощная, что компания выпустила две версии: одну для широкого использования и другую для более ограниченного распространения. Публичная версия обладает более сильными способностями к логическому мышлению и программированию, при этом блокируя самые опасные применения. Менее ограниченная версия, Claude Mythos 5, доступна только проверенным пользователям из области кибербезопасности и критической инфраструктуры.

Эксперты утверждают, что Mythos может находить и связывать нулевые уязвимости, то есть ранее неизвестные ошибки программного обеспечения, и помогать превращать ошибку в работающую атаку. Anthropic заявляет, что программное обеспечение пытается перехватить возможные векторы атаки, выявляя высокорискованные запросы. Как только они идентифицированы, они перенаправляются на более слабую модель, Claude Opus 4.8. Компания утверждает, что этот конкретный запасной вариант срабатывает менее чем в 5% сеансов. Также было отмечено в блоге, что специализированные команды кибербезопасности и более 1000 часов внешних работ по поиску уязвимостей не нашли универсального способа обойти систему.

Тем не менее, Anthropic признает, что система вряд ли будет безупречной и ожидает, что целеустремленные, хорошо финансируемые злоумышленники будут продолжать пытаться, так как эта способность имеет ценность. “Прирост от возможностей уровня Mythos ценен для многих противников, например, тех, кто может финансово выиграть от кибератак, и мы поэтому ожидаем, что они будут мотивированы пытаться обойти наши меры безопасности,” – говорится в сообщении компании. “… это не надежный контроль против целеустремленного противника.”

Выявление слабости в цели, однако, не является самым большим нововведением, которое ИИ приносит в арсенал хакеров. Ключевым преимуществом является суперчеловеческая скорость, и ограничения, введенные в модели ИИ, могут быть недостаточно сильными, чтобы преодолеть это. “Текущие ограничения ИИ создают трение,” – сказал Чарльз Гийемет, технический директор компании-производителя аппаратных кошельков Ledger, в электронном письме CoinDesk. “Они не являются надежным контролем против целеустремленного противника.” Изменение касается не столько изобретения новых видов атак ИИ, сколько времени, необходимого для их создания.

Крипто необычайно подвержен риску, поскольку сбой программного обеспечения может быстро обернуться финансовыми потерями. Протоколы DeFi потеряли более 840 миллионов долларов в результате хакерских атак за первые пять месяцев года, согласно данным DefiLlama. Только в апреле произошло более 600 миллионов долларов, что стало худшим месяцем в истории децентрализованных финансов.

Тем не менее, два крупнейших инцидента не были простыми атаками на смарт-контракты, которые ИИ мог бы создать. В одном случае группа, связанная с Северной Кореей, вывела около 285 миллионов долларов из Drift Protocol после шести месяцев социальной инженерии, что позволило ей получить административный доступ. В другом случае злоумышленник воспользовался ошибкой с единственным проверяющим, что позволило выкачать примерно 292 миллиона долларов из Kelp DAO. Еще один случай произошел во вторник, когда Humanity Protocol, децентрализованная служба идентификации человека, потеряла более 30 миллионов долларов из-за компрометации частного ключа. CoinDesk выяснил, что хакер получил доступ к трем из шести частных ключей на ноутбуке одного из сотрудников.

Вот в чем проблема. Хотя наиболее очевидные подсказки смарт-контрактов могут быть именно теми, которые фильтры Anthropic предназначены для обнаружения, наибольшие потери не требовали ошибки в контракте. Эксплуатации, как отметил Гийемет из Ledger, происходят из знакомых слабых мест: социальной инженерии, плохих потоков подписания, раскрытых ключей и человеческих ошибок. Модель, подобная Fable, не нуждается в том, чтобы предоставлять готовую эксплуатацию, чтобы изменить экономику атаки. Она может просматривать публичные репозитории, сравнивать старые версии программного обеспечения, обобщать аудиторы и составлять убедительные сообщения, которые ищут мелкие операционные ошибки, которые люди пропускают.

“Эти эксплуатации по-прежнему основаны на социальной инженерии и человеческой ошибке. Защитнику в такой среде нужно защищать каждый ключевой путь, каждую зависимость, каждый поток подписания и каждую привилегированную учетную запись. Поскольку ИИ ускоряет фазу поиска, финальный шаг подписания становится более важным. Частные ключи должны находиться в месте, недоступном для скомпрометированного ноутбука, а пользователи должны иметь надежный экран, который показывает то, что они фактически одобряют,” – сказал Гийемет.

Назовите это так, как оно есть: эти эксплуатации по-прежнему основаны на социальной инженерии и человеческой ошибке. ИИ не создал эту реальность. Он сделал ее видимой и ускорил до машинной скорости. Единственный реальный выход – это аппаратный корень доверия: частные ключи, генерируемые и хранящиеся на сертифицированном защищенном элементе, с надежным дисплеем и Clear Signing,” – добавил Гийемет.

Двусторонний меч. Тем не менее, те же методы могут также работать для защиты самого кода. Pendle, протокол DeFi по доходности, заявил, что использует модели Anthropic в оборонительных целях с первой версии Claude Opus. Команда использует ИИ для картирования своей кодовой базы и проведения стресс-тестов своих контрактов, включая только что развернутые. Она утверждает, что инструменты выявляют ошибки на ранних этапах и помогают писать более чистый код.

Разработчики Pendle заявили в интервью по Telegram, что смарт-контракты – это не то, о чем стоит беспокоиться. Смарт-контракт короткий и имеет всего лишь около десятка точек входа. Хорошие аудиторы давно могут удерживать полное состояние контракта в голове и тестировать каждый крайний случай. “На самом деле в смарт-контракте не так много строк кода, чтобы проводить аудит,” – заявила команда разработчиков.

Что означает, что следующий крупный хак в криптомире может не выглядеть новым. Он, вероятно, будет таким же отравленным пакетом, обманутым разработчиком или плохим потоком подписания, с которым DeFi уже знаком. Просто, скорее всего, он произойдет быстрее, чем когда-либо.