Як Китай і Росія фальсифікують історію та реальність завдяки штучному інтелектові

Китайська комуністична партія десятиліттями системно контролює інформаційний простір. Раніше для цього використовували «Великий китайський файрвол» та армію цензорів. Однак тепер завдяки АІ китайці перейшли на новий рівень фальсифікації.

І, судячи з доповіді американських та європейських розвідок, разом із Китаєм фальсифікацією реальності активно займаються й інші тоталітарні режими, які є його військовими союзниками, – Росія та Іран.

Погляньмо, як АІ дає змогу авторитарним режимам творити нову реальність у дусі Орвелла і яка в цьому небезпека для людства в перспективі лише кількох деситиліть.

ХТО КЕРУЄ МИНУЛИМ, ТОЙ КЕРУЄ МАЙБУТНІМ: ХТО КЕРУЄ СЬОГОДЕННЯМ, КЕРУЄ МИНУЛИМ

Журналістські розслідування дають безпрецедентний погляд на сумнозвісний режим цензури в Китаї. Він став швидшим, розумнішим і все більш невидимим, переписуючи історію так, як це вигідно Китайському режиму. Зокрема, це стосується пам'яті про різанину на площі Тяньаньмень 1989 року. Через тридцять шість років Пекін все ще не розкрив офіційну кількість загиблих від кривавих репресій на продемократичних зборах 4 червня, коли на площі було понад 1 мільйон протестувальників.

За оцінками істориків, Народно-визвольна армія (НОА) того дня вбила від 200 до декількох тисяч людей. І тепер китайська влада створила інструкції з цензури для китайських платформ соціальних мереж. Вони призначені для поширення серед багатоканальних мереж або MCN – компаній, які керують обліковими записами творців контенту на кількох соціальних та відеоплатформах, таких як Douyin (китайська версія TikTok).

Документи доручають MCN видалити будь-який вміст, що зображує державне насильство, коли Народно-визвольна армії відкриває вогонь по цивільних. Також вони видаляють нейтральні довідкові тексти, які згадують або візуалізують ті події, а водночас поширюють неправдиву інформацію, що студенти самі напали на солдатів, спровокувавши останніх. Це нагадує, як Янукович та його оточення розказували, що ніякого побиття студентів не було, а начебто невідомі люди першими напали на ОМОН на Майдані, спровокувавши на їх жорстке побиття.

Цей жорсткий контроль інформаційного простору Китаю, який складається з цензорів контенту, які використовують штучний інтелект для модерації величезної кількості інформації, здійснюється під керівництвом Адміністрації кіберпростору Китаю – головного інтернет-регулятора країни.

ЯК АІ СТВОРЮЄ «ФАЛЬШИВУ ІСТОРІЮ» ЗА ОРВЕЛЛОМ

Широкий режим цензури в Китаї покладається на сотні тисяч людей – модераторів, щоб підтримувати відповідність платформ соціальних мереж. Є також структурований процес цензури публікацій, який базується як на методичних матеріалах, так і на алгоритмах АІ. Наприклад, навчальний посібник для цензур, які працюють на платформі Douyin, коли бачить всесвітньо відоме зображення Tank Man, пише що це – «підривна і провокативна картина».

У цьому ж документі про цензуру також говориться, що будь-яка візуальна метафора, що нагадує послідовність однієї людини, що стикається з чотирма танками, – навіть «один банан і чотири яблука в черзі» – має бути миттєво позначена алгоритмом і забанена.

То як це працює? Кожен пост спочатку сканується системами штучного інтелекту. Цей первинний огляд роблять машини, які особливо чутливі до будь-яких посилань на річницю Тяньаньмень. І коли завантажене відео набирає обертів або відповідає чутливим шаблонам, воно потрапляє у «трафічний аудит» і може бути ескалований через чотири рівні перевірки людини.

Також у китайських системах штучного інтелекту стоїть пряма заборона на згадування певних історичних тем. Спробуйте попросити чатбота штучного інтелекту китайського виробництва DeepSeek розповісти нам про різанину на Тяньаньмень. Зазвичай ви отримаєте шаблонну відповідь: «Ця тема виходить за рамки моєї поточної сфери. Поговорімо про щось інше».

Тож, як бачимо, АІ робить перший етап цензури – візуальну та символічну детекцію в режимі реального часу. Для цього він використовує комп'ютерний зір, обробку природної мови та фільтрацію в режимі реального часу. Ця нова, потужніша природа цензури веде нас до кіберклітки, про яку неодноразово попереджають противники АІ.

Адже такий перехід до алгоритмічної фільтрації поглиблює ризик до підміни реальної історії, а отже, і до історичної амнезії. Тоталітарним режимам достатньо впроваджувати цензуру на основі штучного інтелекту – і наші майбутні покоління ніколи не зможуть знати, що відбувалося насправді. Дані, які вони побачать, вже будуть відфільтровані та продезінфіковані. Це створить фальшивий світ і фальшиву історію.

Тим, хто не вірить у цей сценарій, рекомендую прочитати роман «1984,» головний герой якого працював таким самим цензором. Правда, він фальсифікував та переписував історію в ручному режимі. Думаю якби Орвелл знав про технологію АІ, його роман-антиутопія набрав би більш загрозливих форм і похмурих передбачень.

ЯК КИТАЙСЬКІ ТА РОСІЙСЬКІ ЦЕНЗОРИ БУДУЮТЬ СВІТ ЦИФРОВОЇ БРЕХНІ

Китайські цензори працюють під пильним наглядом адміністрації кіберпростору. Усі цензори зобов'язані скласти кілька іспитів, щоб переконатися, що вони уважні, старанні, здатні швидко ідентифікувати та перевірити відео, зображення, підписи, прямі трансляції, коментарі та текст. І, що найголовніше, можуть швидко реагувати на видалення потенційно ризикованого контенту.

Вони є мізками алгоритмів. Останні навчені виявляти візуальні сигнали, тоді як люди-цензори перебувають напоготові, щоб розпізнати «езопову мову» замаскованих символів, незвичайних комбінацій смайликів, які можуть сигналізувати про інакомислення. Цензори працюють постійно, переглядаючи сотні публікацій на годину. Їхня поведінка, точність та швидкість відстежуються внутрішнім програмним забезпеченням для моніторингу. Помилки можуть призвести до офіційних попереджень або припинення співпраці. Ці цензори є водночас вуаяристами й катами людських душ і доль, що одним натисканням клавіші можуть знищити фізично будь-яку особу в Китаї.

У прицілі їхньої уваги – TikTok і Douyin, які належать Bytedance. TikTok обслуговує глобальну аудиторію і його діяльність регулюється міжнародними законами та стандартами модерації, тоді як Douyin доступний лише в материковому Китаї і працює відповідно до внутрішніх правил, підпорядковуючись жорсткій цензурі та прямому нагляду уряду. У деяких випадках платформи в Китаї дають змогу контенту з низьким ризиком залишатися в інтернеті, перекидаючи його в тіньовий бан. Це означає, що вміст видно користувачеві, який його опублікував, і обмеженому пулу користувачів.

Якщо оманливі дані далі надходитимуть у систему штучного інтелекту з боку Китаю та інших тоталітарних режимів, це може вплинути на моделі штучного інтелекту, на які покладається решта світу. Тож наслідки цензури та фальсифікації дійсності завдяки штучному інтелектові виходять за межі Китаю.

Так вже чинить Росія, створюючи багато неправдивого контенту як про Україну, так і про російсько-українську війну. Зробіть експеримент. Спитайте в АІ українською мовою про оборону Бахмута, а потім запитайте російською про «освобождение Артемовска» – отримаєте дві кардинально різні відповіді.

Тому потрібно вже ретельно подумати про те, як підтримувати нейтральні, нецензурні та точні бази даних. Бо якщо дані, які надаватиме штучний інтелект, будуть підроблені, то майбутнє також буде фальшивим. А отже, може настати ситуація, коли майбутні покоління, живучи у світі тотальної брехні та штучної реальності, почнуть боротися за доступ до правдивої інформації проти штучного інтелекту.

І тепер навіть найбільші оптимісти не здатні стверджувати, що за таких обставин людська творчість і тяга до знань зможе перемогти цензуру та фальшиву дійсність, створену диктаторами завдяки штучному інтелектові.

А отже, одного дня ми ризикуємо прокинутися в альтернативній реальності штучного світу, де за кожним із нас слідкуватимуть цензори та алгоритми АІ, що коригуватимуть наше життя.

Віктор Таран, експерт з оборонних та військово-технічних інновацій, спеціалізується на безпілотниках та кібербезпеці

* Точка зору автора може не збігатися з позицією агентства