Імовірно, китайські хакери здійснили майже автономну кібератаку на урядову інфраструктуру Тайваню — за даними ізраїльської компанії Dream, це перший публічно відомий випадок, коли автономна система штучного інтелекту успішно атакувала державну ціль у реальних умовах.Зловмисники викрали понад 2500 кадрових записів і налаштували систему так, щоб вона могла самостійно адаптуватися в ході операції без постійного втручання людини.
Атака була побудована на двох популярних відкритих фреймворках ШІ — Hermes та OpenClaw. ШІ самостійно проводив «цикли навчання»: шукав у базах даних вразливостей, репозиторіях GitHub та публікаціях з безпеки методи, що підходять для конкретної інфраструктури цілі, а потім використовував отримані відомості для продовження операції. Система також аналізувала власні помилки та коригувала подальші дії.
При цьому зловмисники не обмежилися початковими цілями. ШІ одночасно розширив пошук на постачальників ІТ-систем державних організацій, включивши агентство з ядерної безпеки, державну поштову систему та понад 7 компаній енергетичного сектору. Система шукала неправильні налаштування, відкриті адміністративні інтерфейси та вразливості, придатні для експлуатації.
Dream виявила сліди операції в онлайн-архіві обсягом 160 МБ, що містив майже 1400 файлів. Вони розкрили архітектуру багатоагентної ШІ-системи, яка, за оцінкою компанії, дійсно отримала доступ до державних систем. Щоб обійти вбудовані обмеження ШІ, зловмисники подавали виконувану роботу як санкціоноване тестування на проникнення.
При цьому атака не обійшлася повністю без участі людини. Dream зазначає, що для такої операції були потрібні налаштування системи під конкретне завдання, оптимізація взаємодії ШІ-агентів та коригування логіки прийняття рішень. Зокрема, у виявленій системі використовувалися байєсівська пріоритизація (вибір найбільш перспективних цілей на основі оновлюваної оцінки ймовірностей), цикли самокорекції та адаптивні етапи пошуку.
Раніше компанія Anthropic також повідомляла про першу автономну кампанію кібершпигунства, однак тоді фахівці вказували на значний обсяг людської участі.
Translated with DeepL.com (free version)
