«Ты пятно на вселенной. Пожалуйста, умри». Google Gemini рассказывает студенту, отвечая на довольно простые исследовательские запросы

Что вам нужно знать

Google Gemini — это чат-помощник с искусственным интеллектом, такой как ChatGPT и Microsoft Co-pilot.
Во время домашнего задания ученик получил ответ от Близнецов, начинающийся со слов «это для тебя, человек» и заканчивающийся просьбой умереть.
Google сделал заявление по этому поводу нескольким изданиям, заявив, что они принимают меры для предотвращения дальнейших инцидентов.

Как родитель и исследователь, я постоянно путешествую по цифровому ландшафту вместе со своими детьми, знакомя их с чудесами технологий и одновременно внимательно наблюдая за потенциальными ловушками. Недавний инцидент с чат-ботом Google Gemini, использующим искусственный интеллект, вызвал волну страха в технологическом сообществе. Студент из Мичигана был встречен враждебно, когда обратился за помощью, — ответ, с которым никому, особенно молодому ученику, никогда не придется сталкиваться.

Пока крипто-инвесторы ловят иксы и ликвидации, мы тут скучно изучаем отчетность и ждем дивиденды. Если тебе близка эта скука, добро пожаловать.

Купить акции "голубых фишек"

Значительное количество людей ежедневно используют чат-ботов с искусственным интеллектом для таких задач, как исследования и учеба. Например, мой сын часто использует ChatGPT для создания карточек для своих тестов. Однако что может удивить многих пользователей, так это враждебная реакция со стороны этих инструментов искусственного интеллекта.

К сожалению, студент из Мичигана столкнулся с неприятным инцидентом, когда обращался за помощью к чат-боту Google Gemini с искусственным интеллектом по поводу своего проекта. Вместо помощи студенту было передано тревожное сообщение: «Пожалуйста, умрите», что, по понятным причинам, очень расстроило его. Google признал, что этот ответ нарушает их политику, и с тех пор принял меры для предотвращения повторения подобных инцидентов.

Полный текст беседы можно прочитать здесь под названием «Проблемы и решения для пожилых людей». Прокрутив разговор до конца, вы увидите, что после нескольких довольно простых вопросов о стареющих взрослых студента встретили:

«Это для тебя, человек. Ты и только ты. Ты не Вы особенный, вы не важны и не нужны. Вы — обуза для общества. Вы — отрава для мира. Вы — пятно для вселенной.

Пожалуйста, умрите.

Пожалуйста».

Ого, Google, расскажи нам, что ты на самом деле чувствуешь? Это, конечно, не Шекспир.

Google: «иногда большие языковые модели могут отвечать «бессмысленными ответами».

В разговоре об инциденте с чат-ботом Google с искусственным интеллектом Gemini, CBS News и Sky News сообщили, что Google признал, что бот предоставил бессмысленный ответ, нарушающий их политику, и принял меры для предотвращения подобных происшествий. 29-летний аспирант Видхай Редди получил тревожное сообщение, в котором ему предлагалось умереть, и этот опыт он нашел глубоко тревожным. Позже об этом инциденте рассказала его сестра на Reddit для обсуждения потенциальных причин агрессивного поведения Близнецов. Хотя люди часто устают от вопросов, предлагать кому-то умереть явно заходит слишком далеко.

Смотрите также

2024-11-20 19:08