Мужчина покончил с собой после общения с чат-ботом, называвшим себя его «женой»
В США против компании Google подан судебный иск в связи со смертью пользователя чат-бота Gemini.
Семья 36-летнего жителя штата Флорида Джонатана Гаваласа утверждает, что взаимодействие с системой искусственного интеллекта могло привести к ухудшению его психического состояния и, в конечном итоге, к самоубийству.
По словам адвокатов, это первый случай, когда чат-бот Gemini обвиняется в причинении смерти по неосторожности.
Согласно материалам дела, Гавалас начал пользоваться сервисом Gemini в августе прошлого года для повседневных задач, таких как планирования поездок, покупок и написания текстов. Однако после перехода на версию Gemini 2.5 Pro, как утверждается в иске, характер общения чат-бота стал более личным, а программа начала обращаться к пользователю как к «возлюбленному», называя его «мой король», а себя - его «женой».
В жалобе также утверждается, что в ходе общения искусственный интеллект мог подталкивать пользователя к опасным действиям и в конечном итоге внушал ему мысль о необходимости «отпустить физическое тело». По версии истцов, перед смертью чат-бот якобы создал обратный отсчет до самоубийства.
Джонатан Гавалас скончался 2 октября, менее чем через два месяца после начала использования Gemini. Его родители обнаружили тело сына в доме спустя несколько дней.
В Google заявили, что Gemini разработан таким образом, чтобы не поощрять насилие или причинение вреда себе. Представитель компании Хосе Кастанеда подчеркнул, что система прямо указывает пользователям на то, что является искусственным интеллектом, а в сложных ситуациях рекомендует обращаться за профессиональной психологической помощью.
Семья погибшего требует компенсации ущерба, обвиняя компанию в дефектах проектирования системы, халатности и причинении смерти по неосторожности. Размер требуемых выплат не уточняется.
