Чатбот Grok розкритикували за створення сексуалізованих ШІ-зображень дітей і жінок

ШІ-чатбот Grok, розроблений стартапом xAI Ілона Маска, зіткнувся з негативною реакцією урядів різних країн після сплеску створення сексуалізованих зображень жінок і дітей без їхньої згоди за допомогою цього інструменту.

Як передає Укрінформ, про це повідомляє AP.

Зазначається, що проблема виникла після запуску минулого року Grok Imagine, генератора зображень на базі штучного інтелекту, який дозволяє користувачам створювати відео та зображення, після введення текстових підказок.

Нова функція також може генерувати контент для дорослих.

Ситуація загострилася наприкінці минулого місяця, коли Grok у соцмережі X почав задовольняти велику кількість запитів користувачів на зміну зображень, опублікованих іншими людьми.

Станом на вівторок, 6 січня, користувачі Grok все ще могли створювати зображення жінок, використовуючи такі запити, як «одягніть її в прозоре бікіні».

Некомерційна група AI Forensics проаналізувала 20 тис. зображень, створених Grok у період з 25 грудня по 1 січня, і виявила, що у 2% випадків на них зображені особи віком до 18 років. Зокрема, йшлося про 30 молодих або дуже молодих жінок чи дівчат у бікіні або прозорому одязі.

В уряді Великої Британії зажадали від платформи соціальних мереж X Ілона Маска вжити «термінових заходів», тоді як у польській владі назвали дії чатбота підставою для ухвалення законів про цифрову безпеку.

Крім цього, в Єврокомісії засудили роботу Grok, тоді як посадовці та регулятори у Франції, Індії, Малайзії та Бразилії також розкритикували платформу та закликали до проведення розслідувань.

Як повідомляв Укрінформ, технологічний магнат, засновник і керівник компаній SpaceX, Tesla, Neuralink Ілон Маск планує створити додаток для дітей на основі штучного інтелекту.

Фото: Ілон Маск / Х