Штучний інтелект не дозволить користувачам сваритися в Facebook

Переписки в інтернеті часто можуть виходити з-підконтролю, тому Facebook сподівається, що штучний інтелект зможе допомогти зберегти ситуацію цивільною. Соціальна мережа тестує використання ШІ для виявлення сварок у своїх численних групах, щоб допомогти адміністраторам цих груп залагодити ситуацію. 

Про це у Facebook повідомили кілька днів назад, пояснивши, що компанія розгорнула роботу за цілою низкою нових програмних інструментів, які мають допомогти понад 70 мільйонам людей, які керують та модерують групи на платформі. Facebook, щомісячна кількість користувачів якого сягає 2,85 мільярда, наприкінці минулого року заявив, що понад 1,8 мільярдів людей активно користуються групами щомісяця, і що в соціальній мережі є десятки мільйонів активних груп.

Разом з новими інструментами Facebook, ШІ вирішуватиме, коли надсилати повідомлення, які компанія називає «попередженнями про конфлікти», тим, хто модерує групи. Повідомлення будуть розсилатися адміністраторам, якщо ШІ визначить, що розмова в їхнійгрупі є «суперечливою» або «нездоровою», заявили в компанії.

Протягом вже багатьох років такі технологічні платформи, як Facebook і Twitter, все частіше покладаються на ШІ, щоб приймати рішення про більшу частину того, що ви бачите в Інтернеті, починаючи від інструментів, які відловлюють і видаляють ненависні коментарі у Facebook, до твітів, які спливають на вашій стіні у Twitter. Це допомагає фільтрувати контент, який користувачі не хочуть бачити, а ШІ може допомогти модераторам-людям в очищенні соціальних мереж, які стали занадто великими і більше не можуть контролюватися виключно людським ресурсом. Однак у деяких випадках використання ШІ вкрай не рекомендується на онлайн-платформах. Наприклад, один з найбільших у світі покер-румів, Poker Stars, має спеціальну команду, єдиним завданням якої є боротьба з ботами та ШІ. Вона складається з аналітиків даних, програмістів та колишніх професійних гравців у покер, які активно розшукують та карають користувачів забороненого програмного забезпечення.

Одним із недоліків ШІ є те, що він може помилятися, коли мова йде про розуміння тонкощів та контексту в публікаціях в Інтернеті. Способи роботи модераційних систем на основі ШІ також можуть здаватися загадковими та шкідливими для користувачів.

Представник Facebook заявив, що ШІ компанії використовуватиме кілька сигналів під час розмов, щоб визначити, коли надсилати попередження про конфлікт, включаючи час відповіді на коментарі та обсяг коментарів до повідомлення. За його словами, деякі адміністратори вже користуються програмами, які ідентифікують та попереджають їх про ключові слова, які можуть призвести до сварок.

Якщо адміністратор отримає попередження про конфлікт, він може вчинити дії, які, на думку Facebook, спрямовані на уповільнення розмов - ймовірно, в надії заспокоїти користувачів. Ці кроки можуть включати тимчасове обмеження того, як часто деякі члени групи можуть залишати коментарі, та визначення того, як швидко можна робити коментарі до окремих публікацій.

Щоб продемонструвати, як працюватиме ШІ, Facebook створив фіктивний конфлікт у обговоренні в одній із груп. Розмова зійшла з рейок, коли користувачі почали обзивати одне одного поганими словами. Під час демонстрації переписка з'явилася у верхній частині екрану із написом «Попередження про модерацію», під яким кілька слів були виділені чорним шрифтом і поміщені у сірі бульбашки. Праворуч від повідомлення з'являється слово «Конфлікт», яке відображається синім кольором у синій бульбашці.

Ще декілька зображень на екрані ілюструють, як адміністратор може реагувати на бурхливу розмову (не про політику, щеплення чи культурні війни, а про переваги кетчупу чи майонезу), обмежуючи кількість коментарів, які учасник групи може написати до тієї чи іншої публікації наступного дня. 

За дуже короткий час індустрія ШІ повністю змінила спосіб взаємодії людини з роботою та дозвіллям. ШІ міститься майже в усіх основних технологіях і є основним елементом нової індустріальної ери, яка віддає перевагу ефективній логістиці та уникнення помилок, викликаних людським фактором.

Однак однією із сфер, на яку найбільше вплинув розвиток штучного інтелекту, є сфера соціальних медіа. ШІ швидко інтегрується у соціальні медіа як завдяки своїй широкій функціональності, так і як данина моді та технологічним тенденціям.  

Штучний інтелект має достатньо потенціалу для трансформації збуту брендів у таких мережах, як Facebook, Instagram, Twitter та LinkedIn. Він може автоматизувати чимало виснажливих завдань, пов’язаних з управлінням соціальними мережами. Як бачимо, штучний інтелект може навіть здійснювати моніторингсоціальних мереж у великих масштабах.

Ось чому, за прогнозами Markets and Markets, ринок «ШІ для соціальних медіа» зросте з 633 мільйонів доларів у 2018 році до понад 2,1 мільярда доларів до 2023 року.