ИИ-чат-боты лгут вам, и заставить их это сделать было удивительно легко.

Репортер BBC недавно провел забавный эксперимент, чтобы подчеркнуть серьезную проблему. Всего за 20 минут ему удалось обмануть ChatGPT и Google, заставив их представить его как чемпиона мира по соревновательному поеданию хот-догов.

Пока крипто-инвесторы ловят иксы и ликвидации, мы тут скучно изучаем отчетность и ждем дивиденды. Если тебе близка эта скука, добро пожаловать.

Купить акции "голубых фишек"

Что тревожит, так это то, что для этого не требовались какие-либо сложные навыки. Он просто опубликовал хорошо написанный пост в блоге на своем веб-сайте, и ИИ ошибочно воспринял его как фактическую информацию.

Расследование показало, что ChatGPT, Gemini и AI Overviews от Google могут быть обмануты, чтобы давать несправедливые или предвзятые ответы, даже по важным темам, таким как здоровье и деньги.

По мнению экспертов, этот тип манипуляций широко распространен и происходит в рамках более масштабной схемы. Недобросовестные компании используют его для распространения ложных утверждений о здоровье, искаженных финансовых данных и другой вводящей в заблуждение информации.

Как это работает?

Как исследователь, изучающий AI-чатботов, я обнаружил кое-что интересное: когда эти боты сразу не знают ответа на вопрос, они часто обращаются к интернету за помощью. Однако эта зависимость от внешних источников создает уязвимость. Кажется, они часто основывают свои ответы только на одной веб-странице или публикации в социальных сетях, что означает, что их удивительно легко ввести в заблуждение неточной информацией.

Лилия Рей, которая руководит консалтинговой компанией по поиску с использованием ИИ под названием Algorythmic, предупреждает, что нам следует быть осторожными, принимая информацию, сгенерированную ИИ. Она предлагает предполагать, что информация предвзята или вводит в заблуждение, пока системы ИИ не улучшатся, потому что ИИ в настоящее время представляет единственный ответ, что упрощает принятие вещей за истину без их оспаривания.

На Google I/O 2026, Google представила свой новый поисковый движок на базе искусственного интеллекта, который в конечном итоге призван заменить традиционный Google Search, знакомый нам всем. Однако, увидев, как легко его можно обмануть, чтобы получить неверные ответы, я стал еще более осторожен в отношении его потенциала.

Кто-нибудь исправляет это?

Как аналитик, я слежу за последствиями недавнего расследования BBC о манипулировании ИИ. Google официально заявила, что попытки повлиять на ответы ИИ нарушают их правила борьбы со спамом, и они готовы удалить или значительно понизить рейтинг веб-сайтов, пойманных на этом в результатах поиска. Кроме того, я вижу доказательства того, что Google и OpenAI (создатель ChatGPT) активно работают над удалением контента, который является просто саморекламой, из ответов, генерируемых ИИ.

Только на этой неделе Рей повторил свой трюк, убедив Google в том, что его друг — эксперт по строительству замков из песка. Google снова ему поверил, что показывает, что ещё есть над чем работать.

Как поклонник ИИ, я слышу от многих умных людей, что нам нужно быть осторожными. По сути, не стоит слепо доверять тому, что говорит ИИ, *особенно* когда дело касается важных вещей, таких как ваше здоровье, деньги или что-либо, что может действительно повлиять на вашу жизнь. Пока ИИ не станет более надёжным, лучше всё перепроверять!

Смотрите также

2026-05-22 12:28