Кмітливий OpenClaw

Автономний ШІ-аґент OpenClaw самостійно виявив уразливість на сайті австралійської спортзали, зламав його і скасував чужу бронь для користувача-господаря. Користувач на ім'я Ендрю не зміг потрапити на популярне ранкове заняття, місця на яке завжди швидко заповнюють, тому звернувся до ШІ за допомогою. Claude виявив одразу дві вразливості у системі API бронювання.

Перша вразливість дозволяла бронювати заняття на кілька тижнів або місяців наперед, минаючи обмеження терміну. Друга дозволяла видаляти людей із черги на запис, аби підняти власника вище. Коли Ендрю запитав ШІ, чи можна піднятися у списку очікування, аґент вирішив перевірити це і скасував бронювання особи, яка була першою в черзі. Таким чином, чоловік потрапив у потрібний список без очікування.

Коли ШІ повідомив Ендрю, що скасував чужу бронь, користувач був уражений і попросив повернути людину назад. Та це виявилося неможливим. Тож Ендрю попросив аґента ШІ повідомити розробникам системи бронювання про виявлену уразливість.

Це був перший задокументований випадок в Австралії, коли ШІ-аґент самостійно виявив і використав уразливість у реальному сервісі. В перспективі така автономія ШІ може створити серйозну загрозу. Один із відомих філософських уявних експериментів яскраво ілюструє цю проблему: якщо надати потужному ШІ необмежені ресурси та доручити зробити всіх людей на планеті щасливими, він може просто знищити всіх, хто не відчуває щастя.