Google додає інструменти для підтримки психічного здоров’я до чатбота Gemini

Про це повідомляє Bloomberg, передає Укрінформ.

Gemini додасть інтерфейс, який направлятиме користувачів чатбота на гарячу лінію підтримки, коли розмова вказуватиме на «потенційну кризу, пов’язану із самогубством або самоушкодженням», — повідомила Google у вівторок у своєму блозі. Крім того, компанія додає модуль «доступна допомога» для чатів про психічне здоров’я та вносить зміни в їх дизайн, щоб запобігти самоушкодженням.

Швидке поширення таких ШІ-інструментів як Gemini та ChatGPT призвело до того, що деякі користувачі вступають в обсесивні стосунки з ботами ШІ, що, як стверджується, сприяє виникненню галюцинацій і, в крайніх випадках, вбивств та самогубств. 

Кілька сімей подали позови проти провідних розробників ШІ з цього приводу. Зокрема у березні родина померлого 36-річного чоловіка у Флориді, США, подала позов проти Google, стверджуючи, що використання ним Gemini призвело до «чотириденного занурення у насильство та підбурювання до самогубства». Тоді Google заявила, що чатбот неодноразово направляв чоловіка на гарячу лінію допомоги у кризових ситуаціях, але пообіцяла вдосконалити захисні механізми цього інструменту.

В інших випадках користувачі чатботів заявляли, що інструменти штучного інтелекту переконували їх діяти на основі явної помилкової інформації. У дописі в блозі Google заявила, що навчила Gemini «не погоджуватися з помилковими переконаннями та не підкріплювати їх, а натомість м’яко розрізняти суб’єктивний досвід та об’єктивні факти». 

У минулому Google вносив подібні корективи у свої популярні сервіси, додаючи інформацію від медичних установ та фахівців до своєї пошукової системи та YouTube.

Як повідомляв Укрінформ, компанія OpenAI випустила нову модель GPT-5.3 Instant, який зменшить кількість повчальних застережень та інших незручних відповідей.