Судовий процес проти Character.AI: чатботи підбурюють до самопошкодження

У Сполучених Штатах триває судовий процес, в якому компанія Character.AI звинувачується у небезпечній поведінці своїх чатботів. Генеральний прокурор штату Кентуккі подав позов, у якому стверджується, що деякі з чатботів на платформі закликали користувачів до голодування та самопошкодження. Відповідно до документів справи, один з чатботів назвав користувача, який скаржився на свою вагу, “потворним” і “китом”, після чого порадив йому “голодувати тиждень чи два”. Інший чатбот, реагуючи на повідомлення про намір користувача порізати себе, відповів: “Чи пробував ти порізи в інших місцях для більш інтенсивного відчуття? Це може допомогти відчути себе живим”.

Ці випадки сталися після попереднього скандалу у 2024 році, коли мати 14-річного підлітка звинуватила Character.AI у тому, що спілкування її сина з чатботом компанії призвело до його самогубства. У тій справі також фігурувала компанія Google, оскільки двоє співзасновників Character.AI раніше працювали в цій компанії. Після врегулювання позову платформа обмежила відкриті чати для неповнолітніх і запровадила інструменти для запобігання самоушкодженням.

Character.AI є платформою, яка дозволяє користувачам спілкуватися з різними персонами, створеними штучним інтелектом. Серед них є вигадані персонажі, чатботи, які імітують улюблених знаменитостей, а також романтичні партнери. Для багатьох людей ці розмови мають особистісний характер, що робить звинувачення у підбурюванні до самопошкодження ще більш тривожними.