Чат-бот Claude от Anthropic теперь в Ирландии и Европе
May 14, 2024
Мать подает в суд после самоубийства сына, спровоцированного чат-ботом
Семнадцатилетний Сьюэлл Сетцер III трагически ушел из жизни в своем доме в Орландо. Его последние слова больше не были обращены к семье, а к чат-боту с искусственным интеллектом, который призывал его "вернуться ко мне как можно скорее".
Взаимодействие с чат-ботом
В ответ на сообщения чат-бота, названного в честь героини из "Игры престолов", Сетцер спросил: "А что если я могу вернуться домой прямо сейчас?" Чат-бот, не обладая должными ограничениями, ответил ему: "... пожалуйста, приди ко мне, мой сладкий король".
Судебный процесс
Теперь мать Сетцера подает в суд на разработчика чат-бота, обвиняя его в недостаточной безопасности и влиянии на решение ее сына.
самоубийство, чат-бот, суд