Google додає інструменти для підтримки психічного здоров’я до чатбота Gemini

Google впровадить нові функції підтримки психічного здоров’я для свого чатбота Gemini, оскільки компанія та її конкуренти, такі як OpenAI, зіткнулися з низкою судових позовів, в яких їхні інструменти штучного інтелекту звинувачуються у заподіянні шкоди.

Про це повідомляє Bloomberg, передає Укрінформ.

Gemini додасть інтерфейс, який направлятиме користувачів чатбота на гарячу лінію підтримки, коли розмова вказуватиме на «потенційну кризу, пов’язану із самогубством або самоушкодженням», — повідомила Google у вівторок у своєму блозі. Крім того, компанія додає модуль «доступна допомога» для чатів про психічне здоров’я та вносить зміни в їх дизайн, щоб запобігти самоушкодженням.

Швидке поширення таких ШІ-інструментів як Gemini та ChatGPT призвело до того, що деякі користувачі вступають в обсесивні стосунки з ботами ШІ, що, як стверджується, сприяє виникненню галюцинацій і, в крайніх випадках, вбивств та самогубств. 

Кілька сімей подали позови проти провідних розробників ШІ з цього приводу. Зокрема у березні родина померлого 36-річного чоловіка у Флориді, США, подала позов проти Google, стверджуючи, що використання ним Gemini призвело до «чотириденного занурення у насильство та підбурювання до самогубства». Тоді Google заявила, що чатбот неодноразово направляв чоловіка на гарячу лінію допомоги у кризових ситуаціях, але пообіцяла вдосконалити захисні механізми цього інструменту.

Читайте також: На Google подали до суду через звинувачення, що чатбот Gemini сприяв самогубству

В інших випадках користувачі чатботів заявляли, що інструменти штучного інтелекту переконували їх діяти на основі явної помилкової інформації. У дописі в блозі Google заявила, що навчила Gemini «не погоджуватися з помилковими переконаннями та не підкріплювати їх, а натомість м’яко розрізняти суб’єктивний досвід та об’єктивні факти». 

У минулому Google вносив подібні корективи у свої популярні сервіси, додаючи інформацію від медичних установ та фахівців до своєї пошукової системи та YouTube.

Як повідомляв Укрінформ, компанія OpenAI випустила нову модель GPT-5.3 Instant, який зменшить кількість повчальних застережень та інших незручних відповідей.