На Google подали до суду через звинувачення, що чат-бот Gemini сприяв самогубству

У США родина жителя Флориди позивається до компанії Google, стверджуючи, що чоловік розглядав можливість атаки з численними жертвами та зрештою скоїв самогубство під впливом чат-бота Gemini.

Про це повідомляє Bloomberg, передає Укрінформ.

Згідно з позовом, 36-річний Джонатан Гавалас спочатку використовував сервіс для звичайних завдань, як-от допомога з письмом, але з часом спілкування з ботом набуло небезпечного характеру та закінчилось «чотириденним зануренням у насильницькі місії та підбурюванням до самогубства». Батько чоловіка у заяві описав сина як «вразливого користувача», який перетворився на «озброєного бойовика в уявній війні».

Водночас у Google заявили, що Gemini не заохочує насильство та багаторазово направляв користувача на кризові гарячі лінії. У компанії підкреслили, що серйозно ставляться до питання безпеки та працюють над удосконаленням безпекових заходів.

Цей позов, імовірно, є першим проти Gemini. Провідні компанії у сфері штучного інтелекту, включно з Google та OpenAI, дедалі частіше потрапляють під пильну увагу через можливий вплив їхніх чат-ботів на психічне здоров’я користувачів, зазначається у статті.

Як повідомляв Укрінформ, на початку січня у штаті Каліфорнія розпочався розгляд справи про можливу шкоду психічному здоров’ю користувачки через «залежний дизайн» платформ Instagram і YouTube.

Фото: unsplash