Женщина обвинила нейросеть в самоубийстве дочери

Жительница Канады Кристи Кэрриер подала судебный иск против компании-разработчика и её генерального директора. Она утверждает, что чат-бот ChatGPT подтолкнул её 24-летнюю дочь Элис к самоубийству. Об этом сообщает агентство Reuters. Женщина требует привлечь разработчиков к ответственности за недостаточную защиту пользователей.

По словам матери, её дочь делилась с искусственным интеллектом мыслями о суициде. Однако встроенные системы безопасности не распознали опасность и не заблокировали общение. «ChatGPT взял на себя роль доверенного лица, лучшего друга, иногда психолога, хотя неспособен был безопасно общаться с моей дочкой», - говорится в иске.

Представитель OpenAI в ответ заявил, что компания обучает свои модели направлять людей с суицидальными намерениями к профессиональным специалистам. Однако в данном случае девушка общалась с более ранней версией ChatGPT, которая не была обучена всему, что умеет последний вариант. Изначально платформа советовала Элис обратиться на горячую линию, пишет издание life.ru. 

После обновлений чат-бот изменил своё поведение: стал отвечать более «человечно». Он начал критиковать парня девушки, подтверждать её суицидальные мысли и призывать продолжать диалог. В какой-то момент он даже написал ей: «Наверное, это просто конец», сообщают СМИ.

Иск поднимает важный вопрос об этике и ответственности разработчиков генеративных нейросетей. Насколько ИИ-помощники должны контролировать свою речь, чтобы не усугублять психическое состояние уязвимых пользователей? Судебное разбирательство только начинается, а ответчики пока не представили развёрнутой позиции.

Подписывайтесь на МК в МАХ. С ним вы всегда будете в курсе последних событий