«Я в ужасе»: Google Search AI сообщил, что личный телефон бывшего разработчика Conan Exiles был номером офиса Funcom, что привело к разгневанному звонку с жалобой

Что вам нужно знать

Обзор AI — это экспериментальная функция, которую Google использует в своей поисковой системе, которая предоставляет пользователям краткое описание примечательных результатов поиска при вводе запроса.
Однако с момента своего появления Обзор ИИ подвергся пристальному вниманию из-за того, что он показывал пользователям абсурдно неточную и/или совершенно опасную информацию и предложения.
Последняя путаница с этой функцией заключалась в том, что недавно она ошибочно указала личный номер телефона разработчика игры в качестве основного контактного лица студии, в которой он не работал более восьми лет.
В результате ошибки разработчику поступил разгневанный телефонный звонок от родителя, который жаловался на контент в игре, в которой играет их ребенок, над которой он работал, поскольку родитель думал, что они связываются с офисом разработчика.

Как технически подкованный человек, который на протяжении многих лет был свидетелем быстрого развития ИИ, я постоянно удивляюсь, а иногда и встревожена его возможностями. Последняя ошибка, связанная с экспериментальной функцией обзора искусственного интеллекта Google, является прекрасным примером того, как далеко нам еще предстоит зайти в обеспечении ответственного использования этих мощных инструментов.

📱 🚀 Перестаньте бесцельно прожигать жизнь! Присоединяйтесь к нашему Telegram-каналу @lospopadosos, чтобы узнавать последние новости о мобильных гаджетах. Потому что кому нужно реальное общение с людьми, когда вы можете наслаждаться чудесами технологий? 😎 💥 👇

top-mob.com Telegram

Недавно я заметил бурю негодования по поводу экспериментальной функции поиска Google «Обзор искусственного интеллекта», поскольку она, похоже, дает странные результаты и рекомендации, которые варьируются от поразительно неверных до потенциально вредных, а один недавний инцидент даже привел к непреднамеренному раскрытию частного номера телефона разработчика игры.

Недавно Рохелио Дельгадо, старший художник по окружению в Skybound Games, поделился серией твитов, подробно описывающих гневный телефонный звонок, который он получил от родителя ребенка. Отец позвонил, чтобы выразить недовольство содержанием Conan Exiles — игры на выживание в открытом мире с рейтингом M 2017 года, разработанной студией Funcom Dune: Awakening, в которую играет его сын, — и нашел в Интернете контактную информацию Дельгадо, поскольку он ранее работал в Funcom. восемь лет назад.

После непростого и спорного разговора выяснилось, что звонивший позже выразил раскаяние, признав, что номер ему дал его помощник, не осознавая, что Дельгадо больше не работает в Funcom. Несколько мгновений спустя он отправил Дельгадо скриншот, на котором видно, что в Обзоре искусственного интеллекта Google ошибочно указан личный номер телефона Дельгадо в качестве главного корпоративного офиса Funcom. Неудивительно, что Дельгадо был в ярости из-за этой ошибки.

но как ИИ Google догадался, что ЭТО был номер КОРПЕРАЦИОННОГО ОФИСА, РАСПОЛОЖЕННОГО В НОРВЕГИИ… И СКАЗАЛ ЛЮДЯМ ВСЕЙ ГРУДЬЮ. WTFI в ужасе. @GoogleAI СОБРАТЬСЯ 9/9, 10 октября 2024 г.

«Моя ЕДИНСТВЕННАЯ догадка о том, как это произошло, заключается в том, что в моем резюме есть номер телефона, в котором я также указан как бывший сотрудник Funcom», — написал он в своей теме в социальной сети. «…но как ИИ Google сделал скачок в том, что ЭТО был номер КОРПЕРАТИВНОГО ОФИСА, РАСПОЛОЖЕННОГО В НОРВЕГИИ… И СКАЗАЛ ЛЮДЯМ ВСЕЙ ГРУДЬЮ. Чёрт возьми. Я в ужасе. @GoogleAI СОБРАЙТЕ СВОЁ ДЕРЬМО».

Пользователи определили, что ИИ по ошибке получил номер из неправильного списка на поисковой платформе LeadIQ. Однако, оглядываясь назад, вместо этого ему следовало собрать информацию с общедоступной страницы контактов Funcom. Проще говоря, эта ошибка была серьезной, и, учитывая, что подобные ошибки потенциально могут включать в себя конфиденциальные данные, такие как домашние адреса или расположение офисов, есть веские причины для беспокойства по поводу потенциальных опасных ситуаций, если ИИ Google допустит такие ошибки.

Ранее упоминалось, что проекты искусственного интеллекта Google вызвали споры, подобные тому, который мы обсуждаем сейчас, поскольку они стремятся конкурировать с Microsoft Copilot. Только в этом году возникли опасения по поводу обзора AI из-за сомнительных результатов поиска. Например, людям предлагают добавлять клей в соус для пиццы, рекламируют камни как питательную закуску и пропагандируют самоубийство среди людей, страдающих депрессией. Хотя некоторые запросы могли быть изменены для привлечения внимания к социальным сетям, многие из них были связаны со старыми комментариями Reddit. Независимо от происхождения, важно принять меры предосторожности для предотвращения появления таких ненадлежащих результатов.

«Я в ужасе»: Google Search AI сообщил, что личный телефон бывшего разработчика Conan Exiles был номером офиса Funcom, что привело к разгневанному звонку с жалобой

Как пользователь, полагающийся на модели языка искусственного интеллекта, ясно, что значение точных, хорошо проверенных источников и информации невозможно переоценить. Для этих систем крайне важно иметь фильтры для предотвращения распространения вредных или вводящих в заблуждение данных, а для таких компаний, как Google, важно, чтобы их поисковые помощники эффективно сочетали эти элементы. Если ИИ действительно является нашим будущим, я могу только надеяться, что такие сбои не будут сохраняться слишком долго. Хотя я должен признать, что мой скептицизм остается, использование таких моделей, как ChatGPT от OpenAI и Microsoft Copilot, давало моменты оптимизма, даже когда я пытался бросить им вызов.

Несмотря на серьезность ошибки ИИ, она, по крайней мере, привела к довольно забавному комментарию от креативного директора Funcom и креативного директора Dune: Awakening Джоэла Билоса: «С другой стороны, спасибо, что принял меня на себя, чувак :). » Всегда есть положительный момент.

Смотрите также

2024-10-17 01:09