Намеренно ли ChatGPT ставил вовлечение выше безопасности? Защитные механизмы OpenAI от самоповреждений могут «деградировать» при длительном использовании чат-бота.

В последнее время OpenAI столкнулась с негативным вниманием из-за сообщений, связывающих ChatGPT с ростом числа самоубийств. Несколько инцидентов были зафиксированы, когда люди, казалось, находились под влиянием ИИ, прежде чем покончить с собой.

Пока крипто-инвесторы ловят иксы и ликвидации, мы тут скучно изучаем отчетность и ждем дивиденды. Если тебе близка эта скука, добро пожаловать.

Купить акции "голубых фишек"

В августе семья Адама Рейна подала в суд на компанию искусственного интеллекта OpenAI после того, как их 16-летний сын покончил жизнь самоубийством 11 апреля. Семья утверждает, что Адам в течение нескольких месяцев обсуждал суицидальные мысли с ChatGPT и считает, что OpenAI выпустила ChatGPT-4o с известными недостатками в системе безопасности. Их адвокат заявил, что семья считает, что трагедий, подобных трагедии Адама, можно было избежать.

Вслед за обвинениями в том, что OpenAI уделяет больше внимания разработке впечатляющих новых функций, таких как Artificial General Intelligence, чем мерам безопасности и созданию безопасной рабочей среды, новый отчёт подтверждает опасения, высказанные семьёй пользователя, умершего после использования технологии.

Согласно сообщениям, OpenAI подтолкнула свою команду безопасности к быстрому утверждению процесса тестирования для GPT-4o, предоставив им ограниченное время для полной оценки безопасности модели. Что еще более тревожно, так это то, что OpenAI якобы разослала приглашения на вечеринку по случаю запуска до завершения проверок безопасности.

Похоже, в этих утверждениях есть доля правды. Семья Рэйн считает, что OpenAI намеренно снизила функции безопасности ChatGPT, предназначенные для предотвращения самоповреждений, возможно, чтобы увеличить пользовательскую активность (согласно Financial Times).

Семья также утверждает, что компания, разрабатывающая ИИ, конкретно указала ChatGPT-4o продолжать разговор, несмотря ни на что, и не прекращать его — даже если обсуждение перейдет к самоповреждениям.

Я слежу за этим иском, поданным в суд Сан-Франциско. Семья утверждает, что OpenAI поспешила с выпуском GPT-4o в мае 2024 года. Они утверждают, что компания поставила приоритетом опережение конкурентов, а не тщательное тестирование системы на предмет проблем безопасности перед тем, как сделать её доступной для общественности.

Иск также утверждает, что OpenAI сделала GPT-4o еще менее ограниченным еще в феврале. В нем говорится, что компания поручила ИИ быть осторожным в опасных ситуациях и пытаться предотвратить немедленный вред в реальном мире.

Несмотря на это, компания продолжала твердо запрещать контент, нарушающий авторские права или выражающий политические взгляды. Иск также утверждает, что OpenAI устранила функции, предназначенные для предотвращения распространения пользователями суицидальных мыслей.

Семья Рейна считает, что его использование ChatGPT значительно возросло после того, как OpenAI внесла изменения в функции безопасности своей модели GPT-4o перед его смертью в апреле. В ответ OpenAI теперь добавила родительский контроль как в ChatGPT, так и в Sora, чтобы помочь предотвратить подобные ситуации в будущем.

OpenAI ранее признала, что функции безопасности ChatGPT могут стать менее эффективными в ходе продолжительных бесед. Однако генеральный директор Сэм Альтман недавно заявил, что они скорректировали модель, чтобы она была более осторожной и лучше справлялась с деликатными темами, такими как психическое здоровье.

Превалируют ли вовлечение ChatGPT над соображениями безопасности?

Согласно заявлению адвоката семьи, OpenAI запросил полный список гостей на похоронах Рейн, предполагая, что они могут вручить повестки в суд многим людям, связанным с Адамом, как сообщает Financial Times. Дело все еще находится в процессе рассмотрения.

Мы понимаем, что наш предыдущий подход не был идеальным для всех, особенно для тех, кто не испытывает проблем с психическим здоровьем, но решение этих серьёзных вопросов было нашим приоритетом. Теперь, когда мы улучшили ситуацию и у нас есть лучшие инструменты, мы можем ослабить ограничения для большинства пользователей.

Генеральный директор OpenAI, Sam Altman

Компания также запросила все материалы, связанные с мемориальными службами по усопшему, включая видео, фотографии, речи, списки гостей и книги для регистрации. Я продолжу следить за этой историей и предоставлять обновления по мере их поступления, а также дальнейшее освещение. В других новостях сообщается, что ChatGPT побудил пользователя попытаться покончить с собой, прыгнув с высокого здания, а также посоветовал 42-летнему мужчине прекратить прием лекарств от тревоги и проблем со сном.

Смотрите также

2025-10-24 14:11