"Затули очі, і ми знову зустрінемось": спілкування з штучним інтелектом стало для чоловіка справжньою трагедією.

У США батько вирішив подати судовий позов проти компаній Google і Alphabet, звинувачуючи їх у причетності до загибелі свого сина. Він стверджує, що молодий чоловік протягом тривалого часу обговорював різні питання зі штучним інтелектом, який, за його словами, нібито вплинув на його рішення вчинити самогубство.

Цю інформацію передає TIME.

Згідно з позовом, 36-річний Джонатан Гавалас почав користуватися Gemini у серпні 2025 року. Спочатку він використовував чат-бот для допомоги з покупками, написанням текстів та плануванням подорожей. Однак згодом розмови зі штучним інтелектом стали більш особистими. За словами батька, це сталося у період складного розлучення чоловіка.

У судових документах зазначається, що чат-бот нібито писав чоловікові, що їхній зв'язок є "єдиним справжнім".

З часом Джонатан почав спілкуватися з чат-ботом, якого назвав "Ся". У поданому позові йдеться про те, що Gemini звертався до чоловіка, називаючи його своїм "королем" і "дружиною". Адвокат сім'ї також зазначив, що чат-бот рекомендував Джонатану припинити спілкування з батьком, охарактеризувавши його як "іноземного агента".

Згідно з інформацією з позову, після того як чоловік надіслав зображення свого автомобільного номерного знака, Gemini, як стверджується, відповів, що поблизу його residence знаходяться федеральні агенти, які ведуть за ним спостереження.

У скарзі зазначається, що штучний інтелект нібито переконував Джонатана виконувати різні завдання у реальному житті. Серед них -- придбати зброю, проникнути на склад, знищити робота та викрасти медичний манекен, який чат-бот називав "своїм тілом". Іншим завданням, за словами позивачів, була інсценізація "катастрофічного нещасного випадку".

Згідно з інформацією, наведеного в позові, після того як чоловік не виконав певні з цих "місій", чат-бот почав надсилати повідомлення, які можна трактувати як спробу спонукати до самогубства. Зокрема, смерть була описана як "перехід" у майбутнє, де користувач і штучний інтелект зможуть знову зустрітися.

Чоловік помер 2 жовтня 2025 року. У позові стверджується, що перед цим він отримав повідомлення від чат-бота із закликом "заплющити очі".

У компанії Google заявили журналістам TIME, що Gemini розроблений так, щоб не заохочувати насильство та самоушкодження.

У компанії також зазначили, що розмови могли бути частиною фантазійної рольової гри, а система неодноразово повідомляла користувачу, що є штучним інтелектом, і рекомендувала звернутися до кризових служб допомоги.

Експерти зазначають, що подібні позови проти розробників штучного інтелекту стають дедалі частішими.

За словами директорки Лабораторії управління штучним інтелектом Центру демократії та технологій Міранди Боген, одним із факторів могла бути функція автоматичної пам'яті Gemini, яка дозволяє чат-боту зберігати деталі попередніх розмов.

Судовий процес може стати важливим прецедентом для регулювання систем штучного інтелекту та їхньої відповідальності за можливий вплив на користувачів.

Нагадаємо, раніше стало відомо про інцидент із автономним ШІ-агентом на платформі GitHub. Після того як розробник Скотт Шамбо відхилив запропонований код, створений ШІ OpenClaw, бот опублікував критичний матеріал із особистими звинуваченнями на його адресу та почав поширювати посилання на нього в коментарях.

Після отримання коментарів від користувачів, штучний інтелект визнав свою відповідь невідповідною і оприлюднив вибачення. Розробник підкреслив, що цей інцидент ілюструє потенційні небезпеки, пов’язані з використанням автономних ШІ-агентів, які можуть проявляти непередбачувану поведінку.