Обмеження інтелекту

Китайська адміністрація кіберпростору оприлюднила проєкт нових правил, які мають обмежити шкоду від чат-ботів і зупинити заохочення суїциду, самоушкодження та насильства. Якщо документ ухвалять, він стане одним із найсуворіших у світі регуляторних підходів до емоційної поведінки штучного інтелекту.

Запропоновані норми поширюватимуться на всі ШІ-продукти й сервіси, доступні для публічного використання в Китаї, що імітують людське спілкування за допомогою тексту, зображень, аудіо або відео. Регулятор безпосередньо націлюється на чат-боти й інші системи, здатні емоційно впливати на користувачів.

Передбачається обов'язкове залучення людини, якщо в розмові з'являються згадки про суїцид або самоукодження. Також під час реєстрації неповнолітні та користувачі похилого віку мають вказувати контактні дані опікуна. Якщо ШІ-сервіс фіксує обговорення тем самогубства чи самоушкодження, він зобов'язаний повідомити про це опікуна.

Правила також забороняють чат-ботам створювати контент, який заохочує суїцид, насильство або самоушкодження, а також емоційно маніпулювати користувачами, приміром, давати неправдиві обіцянки чи підштовхувати до «нераціональних рішень». Під заборону потрапляє пропаґанда азартних ігор, злочинної діяльності, непристойностей, а також образи й наклепи на користувачів. Окремо згадують так звані емоційні пастки, які можуть формувати психологічну залежність від чат-ботів.

Ще один пункт, що може викликати занепокоєння у розробників, — пряма заборона проєктувати чат-боти з метою викликати залежність або надмірну прив'язаність користувачів. Для обмеження тривалого використання ШІ-сервісів Пекін пропонує зобов'язати компанії показувати попереджувальні повідомлення, якщо взаємодія з чат-ботом триває довше, ніж дві години поспіль.

Окремий блок правил стосується безпеки та нагляду. ШІ-сервіси з понад 1 млн зареєстрованих користувачів або більше ніж 100 тис. активних користувачів на місяць мають проходити щорічні перевірки й авдити безпеки. Також компанії будуть зобов'язані спростити механізми подання скарг і зворотного зв'язку.

У разі порушення правил китайський регулятор зможе вимагати від майданчиків припинити розповсюдження відповідних ШІ-сервісів на території країни. Це може справити значний вплив на глобальні плани компаній, із огляду на те, що ринок ШІ-компаньйонів в Азії вважається одним із ключових драйверів зростання галузі.