Китай готує перелік найжорсткіших правил для ШІ

Як передає Укрінформ, про це повідомляє Arc Technica.

"Китай розробив знакові правила, щоб заборонити чат-ботам зі штучним інтелектом емоційно маніпулювати користувачами, зокрема це може стати найсуворішою політикою у світі, спрямованою на запобігання самогубствам, самоушкодженню та насильству, що підтримуються штучним інтелектом", - йдеться у повідомленні.

Якщо цей проєкт буде ухвалено, він стане одним з найсуворіших у світі регуляторних підходів до емоційної поведінки штучного інтелекту.

Запропоновані норми поширюватимуться на всі ШІ-продукти та сервіси, доступні для публічного використання в Китаї, які імітують людське спілкування за допомогою тексту, зображень, аудіо або відео. Регулятор прямо націлюється на чат-боти, а також інші системи, здатні емоційно впливати на користувачів.

Передбачається обов'язкове залучення людини, якщо в розмові з'являються згадки про суїцид або самопошкодження. Також під час реєстрації неповнолітні та користувачі похилого віку мають вказувати контактні дані опікуна. Якщо ШІ-сервіс фіксуватиме обговорення тем самогубства чи самопошкодження, він буде зобов'язаний повідомити про це опікуна.

Правила також забороняють чат-ботам створювати контент, який заохочує суїцид, насильство або самопошкодження, а також емоційно маніпулювати користувачами, наприклад, давати неправдиві обіцянки чи підштовхувати до "нераціональних рішень". 

Окрім того, забороняється пропаганда азартних ігор, злочинної діяльності, непристойностей, а також образи та наклеп щодо користувачів. Окремо згадуються так звані емоційні пастки, які можуть формувати психологічну залежність від чат-ботів.

Як повідомляв Укрінформ, пекінська технологічна компанія ByteDance має намір розширити свої багатомільярдні витрати на штучний інтелект (ШІ) до 160 млрд юанів (23 млрд дол.) наступного року, прагнучи не відставати від своїх американських конкурентів.

Фото: Pixabay