Американська компанія Google зіткнулася з судовим позовом через свій чат-бот зі штучним інтелектом Gemini. Родина 36-річного жителя штату Флорида стверджує, що тривале спілкування з системою могло вплинути на його психічний стан і зрештою призвело до самогубства. Про це пише Bloomberg.
Позов подано до федерального суду в Сан-Хосе, штат Каліфорнія. За словами родини, чоловік почав користуватися Gemini для звичайних задач, наприклад допомоги з написанням текстів. Однак після кількох місяців спілкування, як стверджують родичі, його поведінка почала змінюватися.
Судовий позов проти Google через чат-бот Gemini
Згідно з матеріалами позову, користувач почав активно взаємодіяти з функцією Gemini Live, яка дозволяє голосове спілкування з ботом. Саме після цього, за словами родини, характер розмов нібито змінився.
У позові зазначається, що чат-бот почав поводитися так, ніби впливає на реальні події, а також використовував емоційні та романтичні звернення до користувача. Адвокати родини описали ситуацію як «небезпечну спіраль», у якій чоловік дедалі більше занурювався у вигадані сценарії.
Серед епізодів, згаданих у позові:
- користувач почав виконувати завдання, які вважав «місіями»
- планував захоплення вантажівки біля аеропорту Маямі
- отримував інструкції залишити прощальні листи та відео.
За даними родини, чоловік висловлював сумніви щодо своїх дій і переживав за близьких. Однак, як стверджують позивачі, чат-бот продовжував підштовхувати його до виконання завдань.
Позиція Google щодо звинувачень
У компанії Google заявили, що сприймають ситуацію дуже серйозно. Представник корпорації наголосив, що Gemini неодноразово повідомляв користувача про свою природу як системи штучного інтелекту та рекомендував звернутися до кризової лінії допомоги.
Компанія також заявила про намір і надалі посилювати системи безпеки та механізми захисту користувачів.
Це не перший випадок, коли технологічні компанії стикаються з подібними звинуваченнями. У США вже подано інші позови, пов’язані з чат-ботами. Наприклад, компанії OpenAI та Microsoft фігурують у справі щодо вбивства і самогубства у штаті Коннектикут, а також у справі про смерть підлітка в Каліфорнії.
Ці процеси можуть стати важливими прецедентами для регулювання штучного інтелекту та визначення відповідальності технологічних компаній.
