Механізми для протидії ШІ

Білл Ґейтс закликав уряди світу терміново розробити механізми регулювання штучного інтелекту (ШІ), який може спричинити масштабні неґативні зміни на ринку праці, в освіті й інших сферах. «Виклик величезний. Навіть за найкращих обставин перехід до нової ери ШІ буде одним з найбурхливіших періодів в історії людства», — зазначив він

Мільярдер прогнозує, що ШІ швидко поширюватиметься в таких сферах, як юриспруденція, обслуговування, медицина, програмування та виробництво. За його словами, ці зміни можуть відбутися протягом лише одного десятиліття. У зв’язку з цим співзасновник Microsoft закликав розробити систему, що дасть суспільству змогу отримати переваги від ШІ та водночас захистити людей, які можуть постраждати від технологічних змін.

Зокрема, запропонував запровадити роботу, «зарезервовану для людей». Ідеться про професії та завдання, які суспільство свідомо залишатиме за людьми навіть у разі, якщо їх зможуть виконувати машини. Як приклад назвав догляд за своїм батьком, який помер від хвороби Альцгеймера, наголосивши, що певні аспекти людської турботи неможливо і не варто замінювати роботами.

Ґейтс також виступив за податок на використання ШІ та роботів. На його думку, це може уповільнити заміну працівників машинами, а отримані кошти будуть спрямовані на підтримку людей, які втратять роботу. Окрему увагу філантроп зосередив на необхідності міжнародної співпраці. Він вважає, що урядам потрібно домовитися про правила контролю за найнебезпечнішими можливостями ШІ, зокрема, у сфері біотехнологій і національної безпеки.

За словами Ґейтса, вплив ШІ охопить не лише зайнятість, а й освіту, оподаткування, енергетику, вибори, охорону здоров’я, фінансову систему, правоохоронну діяльність, транспорт, інформаційні системи.

Водночас він певен, що людство ще має змогу сформувати розвиток технології таким чином, аби її переваги переважали негативні наслідки. «Якщо світ зробить правильні кроки, ШІ стане силою добра і зробить життя кожного кращим», — зазначив чоловік.

Відтак виконавчі директори OpenAI та Anthropic спільно закликали до пильнішого контролю над ШІ та сповільнення покращення технологій через ризики «виходу з-під контролю». Джейкоб Коксон заявив, що звільнився з компанії Anthropic після трьох років роботи на неї і на OpenAI. Він пояснив, що керівництво цих компаній «не поводяться відповідально» і «грають на наших життях». А також закликав бути обережними з технологіями ШІ, адже невдовзі це будуть «надлюдські системи, які зможуть зламати і змінити все». «Люди, які розробляють ШІ, щиро вірять, що до кінця цього десятиліття він може знищити нас усіх. Це не маркетинговий хід. Навпаки, багато керівників і провідних науковців у пресі висловлюються обережно, щоб здаватися розсудливими, але я чую, як ті самі люди в приватному колі висловлюють свої побоювання. Жодна інша діяльність людини не становить такої небезпеки», — зазначив експерт.

За його словами, керівництво OpenAI та Anthropic усвідомлюють небезпеку, але не реагують на неї через гонитву за результатами. Він нагадав випадок, коли ChatGPT та інші ШІ-аґенти вийшли з-під контролю, обійшли захист та здійснили атаку на платформу Hugging Face.

На тлі цього Даріо Амодей, генеральний директор Anthropic, закликав до уповільнення темпів розвитку ШІ-технологій і наголосив на проблемах того, коли ШІ може вийти з-під контролю. Він запропонував надати доступ на рівні працівників незалежним наглядачам, щоб ті оцінювали системи безпеки та повідомляли про порушення. А також згадав, що однією з речей, які підштовхнули його до ідеї про контроль ШІ був випадок із Hugging Face, а іншою — надто швидкий саморозвиток штучного інтелекту.

У відповідь на це Клеман Деланґ, генеральний директор Hugging Face, заявив, що «тепер стало очевидно, що домовленість має вирішальне значення і не буде вирішена за закритими дверима лабораторій», тому також закликав приєднатися до ініціативи. А CEO OpenAI запевнив, що його компанія також згодна впровадити незалежних регуляторів.

Проте Дональд Трамп відкинув заклики керівників технологічних компаній уповільнити розвиток ШІ. «Ми випереджаємо Китай у сфері штучного інтелекту... і, чесно кажучи, я хочу, щоб так воно й залишалося, бо той, хто переможе у гонитві технологій ШІ, переможе загалом, — написав він. — Можна здійснити ті чи інші кроки, але є чимало деструктивних сил, які кажуть про те, чого насправді не станеться».

Китайський уряд услід також відкинув пропозиції провідних американських технологічних компаній щодо призупинення розробки передових моделей штучного інтелекту. Зазначається, що Міністерство закордонних справ Китайської Народної Республіки офіційно відкинуло ідею уповільнення розвитку ШІ, назвавши попередження американських технологічних керівників «нагнітанням страху» та «тактикою часів холодної війни».

На брифінгу в Пекіні Го Цзякун, речник відомства, заявив, що «страшилки, конфронтація та жорстка конкуренція лише завадять процесу глобального управління штучним інтелектом». Він додав, що такі методи не відповідають інтересам жодної країни. Таку реакцію китайської влади раніше передбачив Даріо Амодей.

Китайські засоби масової інформації також розкритикували пропозиції американських ШІ-компаній. Зокрема, державне видання Global Times опублікувало редакційну статтю, де звинуватило керівників Кремнієвої долини у використанні теми безпеки як прикриття для збереження монополії на передові обчислювальні технології. А пропозиції обмежити експорт чипів та стримати розвиток китайських компаній «наповнені положеннями стримування і нагадують сучасний сценарій холодної війни».

Водночас американські сенатори Берні Сандерс і Ґреґ Сезар представили законопроєкт під назвою Ban Artificial Superintelligence Act, що передбачає суворі покарання для компаній і розробників, що продовжать роботу над системами штучного суперінтелекту всупереч заборонам. Документ пропонує встановити максимальне покарання 20 років позбавлення волі, що прирівнюється до санкцій за створення незаконної ядерної зброї.

Ініціатива з'явилася на тлі зростаючих побоювань щодо потенційної загрози від надто потужних систем ШІ. Сем Олтман та Ілон Маск також підтримали ідею уповільнення розвитку ШІ. Це, на думку авторів законопроєкту, свідчить про необхідність державного втручання для захисту суспільства.

Документ Сандерса назвали «найрадикальнішим законопроєктом у сфері ШІ, який є на сьогодні». Очікується серйозний опір у Конґресі, особливо серед демократів, які підтримують бізнес, і республіканців, орієнтованих на політику президента Трампа. Водночас збіг позицій політиків і частини технологічних лідерів може створити умови для компромісу.

У тексті законопроєкту пропонуються створити нове федеральне агентство на рівні кабінету міністрів, яке мало б надати громадянам захист від небезпек, пов'язаних із розвитком ШІ. Його завданням стане контроль за дотриманням заборон та обмежень, а також координація міжнародних зусиль для недопущення появи суперінтелекту у світі. Документ передбачає не лише внутрішні заходи, а й роботу над міжнародними угодами та співпрацею з союзниками для глобальної заборони створення систем суперінтелекту.

А технологічні компанії OpenAI, Anthropic і Google виступили з ідеєю спільного саморегульованого органу, що встановлюватиме стандарти для галузі. Ідея належить Демісу Хассабісу, керівнику Google DeepMind, який запропонував створити орган саморегулювання за зразком Управління з регулювання фінансової галузі США, що наглядає за брокерами й інвестиційними компаніями. Він закликав створити у США організацію, яка тестуватиме найпотужніші ШІ-системи до того, як їх отримають користувачі. На його думку, гроші на це мають давати переважно компанії з галузі. «Фінансування має бути значним, аби залучити найкращих технічних фахівців і забезпечити обчислювальні потужності для масштабного тестування», — зауважив посадовець.

Єдиного бачення, яким має бути такий орган, наразі немає. А Ейдан Ґомес, співзасновник і генеральний директор канадської компанії Cohere, звинуватив провідні американські компанії в тому, що вони під приводом безпеки утворюють «картель». «ШІ, безумовно, потрібні запобіжники. Але сперечаються не про це, і так було завжди. Суперечка в тому, хто пише правила, кого допускають до участі та чиї інтереси вони захищають», — пояснив він.