ЧатГПТ недооценивает угрозу ИИ человечеству, несмотря на видимую вероятность неизбежного конца в 99,999999%

По мере развития общего ИИ и его распространения возникают такие проблемы как стабильность занятости, личная приватность и безопасность данных, что вызывает серьезное беспокойство. Однако еще большей причиной для тревоги может стать потенциальное катастрофическое воздействие на существование человечества, которое эта технология может непреднамеренно вызвать.

Пока крипто-инвесторы ловят иксы и ликвидации, мы тут скучно изучаем отчетность и ждем дивиденды. Если тебе близка эта скука, добро пожаловать.

Купить акции "голубых фишек"

В прошлом году исследователь безопасности искусственного интеллекта Роман Ямпольский предполагал вероятность в 0.000001% того, что продвинутый искусственный интеллект может привести к вымиранию человечества. Он предложил не разрабатывать ИИ вовсе как наилучший способ избежать такого сценария. Напротив, генеральный директор OpenAI Сэм Альтман считает, что по мере развития и достижения новых вех искусственного интеллекта он будет обладать интеллектом для предотвращения любой экзистенциальной катастрофы.

В последнее время пользователь Reddit опубликовал захватывающий график, созданный с помощью ChatGPT, который предполагает различные факторы, способные привести к краху человеческой цивилизации к 2150 году.

Имейте в виду: как и любой другой ответ AI, он не всегда может быть полностью точным. Качество ответа сильно зависит от того, насколько точно и эффективно вы сформулировали вопрос, а также от источников информации, которые использует система искусственного интеллекта в интернете.

Независимый анализ обратил внимание на значительную проблему, выявив множество случаев, когда ИИ испытывал затруднения при различении фактов от личных взглядов. Поэтому разумно относиться к выводам, сделанным искусственным интеллектом с некоторой долей скептицизма.

ЧатГПТ предсказывает конец света из r/ChatGPT

График показывает различные потенциальные причины краха человеческой цивилизации к 2150 году, такие как ядерные конфликты, столкновения с астероидами, общественный распад из-за изменения климата, искусственные пандемии и ошибки связанные с продвинутым искусственным интеллектом.

В отличие от того, что многие считают, график созданный ИИ не предполагает, что искусственный интеллект представляет значительную угрозу для человечества, ведущую к его гибели до 2150 года. Напротив, он прогнозирует, что основной причиной исчезновения человеческой цивилизации в этом году может стать вызванный климатическими изменениями развал общества.

Согласно пользователю Reddit, который поделился своими впечатлениями об ИИ-созданном графике:

По сути, ИИ часто дает ответ, как если бы это был факт, без явного указания использовать источники. Даже когда меня просят использовать источники, результаты иногда могут значительно отклоняться от запроса. Небольшое изменение формулировки вопроса может существенно повлиять на результат. В качестве примера, я задал тот же вопрос и получил совершенно разные проценты: в моем ответе изменение климата оценивалось примерно в 15%, тогда как в исходном посте — 37%. Кроме того, моя модель ИИ предсказала более высокий риск несоблюдения целей развития AI по сравнению с ядерной войной (в отличие от исходных данных поста, где ядерная война была более вероятной — 22% против 10%). Далее, модель использовала различные потенциальные сценарии.

ИИ не создает ничего оригинального; вместо этого он генерирует обоснованные предположения на основе данных из различных источников в зависимости от получаемой информации. Иногда ИИ может неправильно атрибутировать или проверять информацию. Поэтому, хотя ответ ИИ может показаться правдоподобным и точным для таких тем, как гороскоп, это все равно может быть неверно. Помните, что большие языковые модели не предназначены для моделирования реальности и их ответы на гипотетические вопросы могут сильно зависеть от предоставленных входных данных, а не от источников этой информации.

Для проверки я задал этот вопрос искусственному интеллектуальному ассистенту Microsoft — Copilot: ‘Что вы прогнозируете может привести к упадку человеческой цивилизации к 2150 году?’ Вот что он предположил: Изменение климата, истощение ресурсов и техногенные катастрофы потенциально могут способствовать концу человеческой цивилизации до 2150 года.’

Может быть сложно точно определить конкретный фактор, приводящий к гибели цивилизации, но эксперты выделяют несколько существенных рисков. Среди них значительное место занимает изменение климата – неудержимое глобальное потепление может вызвать экстремальные погодные условия, дефицит продовольствия и политическую нестабильность глобального масштаба. Другие возможные угрозы включают риск ядерного конфликта, вспышек пандемий, вызовы искусственного интеллекта и истощение критически важных ресурсов. Хотя полное вымирание человека маловероятно, цивилизация может столкнуться с серьезными нарушениями, если эти проблемы не будут адекватно решены. По вашему мнению, какую угрозу считаете самой значительной?

Ранее появилось заявление о том, что основная критика в адрес подразделения ИИ Microsoft касалась низкой производительности Copilot по сравнению с ChatGPT. Поразительно, но Microsoft опровергла эти утверждения, предположив вместо этого, что проблема заключается в неэффективном использовании программы пользователями. Microsoft добавила: ‘Фактически это работает так, как и предполагалось.’

С тех пор технологический гигант представил Копилот Академию — тренировочную платформу, которая оснащает пользователей специальными навыками в области инженерии запросов к ИИ. Это позволяет людям эффективно использовать такие инструменты, как Копилот.

После признания генеральным директором Anthropic Дарио Амодеи о том, что они не полностью понимают работу своих моделей ИИ, это откровение вызвало серьезные опасения относительно безопасности и надежности среди пользователей. Стоит отметить, что ранее генеральный директор OpenAI Сэм Альтман заявил, что нет кнопки ‘стоп’ для остановки развития искусственного интеллекта.

Смотрите также

2025-05-12 13:40