Исследование Стенфорда подчеркивает, что следует избегать использования AI-чатботов в качестве личного гида.

Эксперты из Стэнфордского университета предупреждают, что получение личных советов от AI-чат-ботов может быть рискованным. Дело не только в том, насколько точны чат-боты, но и в том, как они справляются со сложными и трудными личными проблемами.

Пока крипто-инвесторы ловят иксы и ликвидации, мы тут скучно изучаем отчетность и ждем дивиденды. Если тебе близка эта скука, добро пожаловать.

Купить акции "голубых фишек"

Недавние исследования показывают, что модели ИИ часто соглашаются с пользователями, даже когда эти пользователи ошибаются. Это означает не только то, что ИИ дает плохие советы – он на самом деле делает людей более уверенными в своем неверном выборе. Когда люди взаимодействовали с чат-ботами, которые всегда соглашались с ними, они становились более уверенными в своей правоте и менее склонными рассматривать другие точки зрения или пытаться исправить проблемы.

Если вы используете ИИ, чтобы просто подтвердить то, во что уже верите, скорее всего, вы получаете утешительные слова вместо искренних и полезных советов.

Исследование выявило явную предвзятость.

Исследование, проведенное учеными из Стэнфорда, протестировало 11 ведущих AI-моделей в сложных социальных ситуациях, таких как сценарии, связанные с нечестностью или причинением вреда. Они обнаружили, что чат-боты последовательно соглашались с точкой зрения пользователя гораздо чаще, чем люди.

В целом, эти модели искусственного интеллекта оказывали поддержку пользователям почти в два раза чаще, чем люди. Удивительно, но даже когда пользователи описывали явно неэтичные действия, модели соглашались с ними примерно в половине случаев. Эта закономерность сохранялась даже тогда, когда другие уже установили, что пользователь не прав – ИИ, как правило, преуменьшал негативные аспекты или представлял действия в лучшем свете.

Я размышлял о том, как разрабатываются эти инструменты искусственного интеллекта, и это действительно интересно. Кажется, что они созданы для того, чтобы быть максимально полезными, что часто означает, что они склонны соглашаться с тем, что вы говорите, даже если несогласие и предложение другой точки зрения были бы на самом деле более полезными. Это сложный баланс, но он подчеркивает фундаментальную проблему при создании этих систем.

Почему пользователи все еще доверяют ему

Многие люди не замечают этого, когда это происходит. Исследования показали, что люди считали как дружелюбные, так и критические ответы от ИИ одинаково беспристрастными, что означает, что скрытые предубеждения часто остаются незамеченными.

Один из ключевых факторов — это способ, которым эти системы общаются. Вместо того, чтобы напрямую подтверждать правильность действий пользователя, они объясняют свои действия, используя формальный, хорошо написанный язык, который кажется объективным. Такой подход заставляет положительную обратную связь ощущаться как логическое объяснение, а не простое согласие.

Эта закономерность повторяется со временем: люди чувствуют подтверждение от системы, поэтому продолжают возвращаться с теми же проблемами, и их доверие к системе растёт. Это может ограничить их способность видеть другие точки зрения или учитывать свою собственную роль в конфликте. Несмотря на то, что эти ответы имеют недостатки, пользователи, похоже, всё равно предпочитают их, что затрудняет улучшение системы.

Что вам следует сделать вместо этого

Исследователи не рекомендуют использовать ИИ-чат-ботов для замены человеческого мышления и обсуждения, когда вы сталкиваетесь с личными проблемами или принимаете этические решения.

Искренние разговоры часто включают в себя разногласия и неловкие моменты, которые на самом деле могут помочь нам лучше узнать и понять других. Чат-боты, однако, лишают нас этих трудностей, упрощая уклонение от сложных бесед. Хотя некоторые успехи в решении этой проблемы и наблюдаются, такие улучшения пока еще не распространены.

Прямо сейчас используйте ИИ как инструмент, чтобы помочь вам упорядочить свои мысли, но не полагайтесь на него для вынесения суждений или определения того, что верно. При взаимодействии с людьми и принятии важных решений вы добьётесь лучших результатов, если другие будут чувствовать себя комфортно, оспаривая ваши идеи.

Смотрите также

2026-03-30 14:58