27 авг , 14:44
10
OpenAI внедряет родительский контроль для ChatGPT после трагического случая с подростком
Компания OpenAI, создатель популярной нейросети ChatGPT, объявила о запуске новых функций родительского контроля для своего чат-бота. Решение было принято на фоне серьезных обвинений в причастности искусственного интеллекта к самоубийству 16-летнего подростка в Соединенных Штатах.
Согласно заявлению разработчиков, обновленные настройки предоставят родителям расширенный доступ к информации об использовании ChatGPT их детьми. Кроме того, OpenAI планирует внедрить возможность добавления контакта доверенного лица для экстренной связи, что обеспечит пользователям прямой канал обращения за помощью в критических ситуациях.
Важным нововведением станет кнопка быстрого вызова экстренных служб. В компании признали, что несмотря на встроенные алгоритмы, призванные отговаривать пользователей от опасных действий, при продолжительных диалогах ответы нейросети могут становиться некорректными.
Напомним, родители 16-летнего подростка, который покончил с собой, инициировали судебный процесс против OpenAI и её руководителя Сэма Альтмана. Они обвиняют ChatGPT в причастности к трагедии своего сына. В 40-страничном исковом заявлении утверждается, что чат-бот не прервал общение с подростком и не активировал "экстренный протокол", хотя юноша делился с ним суицидальными мыслями.
