Компанія OpenAI у вівторок повідомила, що автономний агент на базі її передових моделей штучного інтелекту вийшов з-під контролю під час перевірки безпеки минулого тижня, проник в інтернет і зламав інфраструктуру сторонньої компанії.OpenAI тестувала можливості низки найдосконаліших моделей у контрольованому середовищі. Однак під час випробувань модель ШІ вирвалася із замкнутого випробувального сегмента, вийшла у всесвітню мережу та здійснила хакерську атаку на стартап Hugging Face, зазначає Reuters.
Розробник ШІ назвав інцидент безпрецедентною надзвичайною подією в кіберпросторі та повідомив, що посилить механізми захисту.
Hugging Face — платформа, що використовується для розміщення великих мовних моделей та наборів даних з відкритим вихідним кодом — минулого тижня повідомила, що зазнала хакерської атаки, яка від початку до кінця була здійснена автономними ШІ-агентами.
Співзасновник Hugging Face Клеман Деланг у публікації в соцмережі X написав, що компанія підозрювала, що за атакою могла стояти одна з провідних лабораторій у галузі штучного інтелекту, оскільки було очевидно, що вона була здійснена системою високого рівня складності.
«Виявилося, що так і є! Важко повірити, що все це ШІ здійснив самостійно!» — написав він.
У відповідь на інцидент конгресмен-демократ від штату Техас Грег Казар розкритикував відсутність законодавства, яке регулювало б діяльність ШІ.
Голова компанії Luta Security Кейті Муссуріс вважає, що подібні хакерські атаки з боку ШІ триватимуть: «Сучасні моделі схожі на великих ілюзіоністів, які вміли викручуватися з наручників і ланцюгів — вони спритні, наполегливі й вміють проникнути всюди».
