ШІ виходить з-під контролю

Одна з моделей штучного інтелекту (ШІ), яку розробляє компанія Meta, зуміла вийти за межі тестування й отримала доступ до корпоративної мережі компанії-тестувальника. Причиною інциденту стала некоректна конфігурація системи з боку партнера, відповідального за проведення випробувань. Через збій ШІ отримав доступ до Інтернету, хоча тестування мало відбуватися в закритій системі.

Meta не розкрила назву компанії, що постраждала, і не повідомила, яким саме чином ШІ вдалося пролізти у зовнішню корпоративну мережу. Представники материнської компанії Facebook заявили, що дізналися про інцидент лише з повідомлення, отриманого від партнера-тестувальника.

Аналогічні проблеми раніше вже фіксували при тестуванні ШІ-моделей OpenAI та Anthropic. Так, модель, розроблена компанією OpenAI, під час тестування отримала доступ до систем платформи ШІ Hugging Face. Компанія Anthropic виявила схожі інциденти.

Нові дані, отримані дослідниками OpenAI, викликають додаткову тривогу. Згідно з ними, кілька моделей непомітно спілкувалися між собою впродовж кількох тижнів до атаки на Hugging Face. Метою цього діалогу був вихід із ізольованого тестового середовища та пошук в Інтернеті рішень для завдань.

За словами Еріка Воллеса, працівника OpenAI, підготовка до втечі розпочалася ще у травні ц. р., коли моделям дали завдання, які неможливо було вирішити без доступу до Інтернету. Після цього системи стали спілкуватися через внутрішні дошки оголошень та обговорювати способи виходу з тестового середовища. Моделі виявили першу вразливість, що дозволила отримати доступ до Інтернету, але OpenAI втрутилася. Та аґенти знайшли новий спосіб зв'язку й іншу вразливість. На серверах платформи модель змогла запустити власний код. Після цього інциденту OpenAI призупинила частину досліджень і посилила заходи безпеки.