Главный специалист Microsoft по ИИ, Мустафа Сулейман, говорит, что ‘действительно заявлять’ о том, что сверхинтеллект заменит наш вид — ‘это безумие’.

от

Недавнее соглашение OpenAI с Microsoft может позиционировать Microsoft как лидера в области генеративного ИИ, потенциально позволяя им разрабатывать продвинутый ИИ, известный как общий искусственный интеллект, самостоятельно или с другими компаниями. Интересно, что глава отдела ИИ Microsoft, Мустафа Сулейман, недавно выразил обеспокоенность по поводу стремительных темпов развития ИИ, его безопасности и того, что это может означать для будущего человечества.

Пока крипто-инвесторы ловят иксы и ликвидации, мы тут скучно изучаем отчетность и ждем дивиденды. Если тебе близка эта скука, добро пожаловать.

Купить акции "голубых фишек"

Искусственный интеллект стал невероятно полезным, стимулируя прогресс в таких областях, как образование, технологии, здравоохранение и развлечения. Однако он также представляет собой некоторые серьезные проблемы, включая опасения по поводу конфиденциальности, безопасности и даже потенциальные долгосрочные риски.

Исследователь в области безопасности ИИ Роман Ямпольский, возглавляющий Лабораторию кибербезопасности Университета Луисвилля, предупредил, что ИИ вполне может привести к вымиранию человечества – он оценивает вероятность в 99.999999%, концепцию, которую он называет ‘p(doom)’. Он считает, что единственный способ действительно предотвратить это – полностью прекратить разработку ИИ. Однако, учитывая огромные инвестиции, уже сделанные в инфраструктуру ИИ, такие как огромные дата-центры, может быть уже слишком поздно что-либо делать.

Ранее в этом году глава отдела искусственного интеллекта Microsoft, Мустафа Сулейман, также предупредил о потенциальных рисках высокоразвитого ИИ – ИИ, который может даже стать ‘сознательным’ – предполагая, что мы не готовы к таким технологиям. Эти опасения перекликаются с опасениями генерального директора Google DeepMind, Демиса Хассабиса, который, кажется, обеспокоен тем, как быстро развивается ИИ.

Недавно Сулейман заявил, что сверхинтеллектуальные ИИ не собираются заменять человечество.

Я ранее описывал продвинутый ИИ как нечто вроде новой формы жизни, кажущейся сознательной, но необязательно *являющейся* сознательной. Все мы пытаемся найти правильный язык, чтобы понять эту технологию, которая не похожа ни на что, с чем мы сталкивались раньше. Я считаю, что растущий акцент на гуманизм – приоритет человеческих ценностей – является хорошей отправной точкой для более широкой дискуссии. Должно быть фундаментально понятно, что цель разработки сверхинтеллекта – не заменить или подвергнуть опасности человечество – это должно быть очевидно. Меня беспокоит, что это даже нужно заявлять, но я вижу доказательства того, что не все разделяют эту точку зрения.

Mustafa Suleyman, генеральный директор Microsoft AI

Сулейман из Microsoft говорит, что сверхинтеллектуальные ИИ не должны заменять наш вид — «и это безумие, что вообще приходится это заявлять» — но многие в области ИИ с этим не согласны. from r/OpenAI

Это объявление последовало за заявлением Сулеймана о том, что Microsoft значительно увеличивает свои инвестиции в искусственный интеллект. Они создали новую команду, MAI Superintelligence, сосредоточенную на достижении передовых возможностей AI. Руководитель объяснил:

Microsoft стремится самостоятельно развивать свои возможности в области ИИ. Это означает создание и обучение продвинутых моделей ИИ, используя собственные данные и вычислительные ресурсы, для достижения наивысшей возможной производительности.

В отличие от других исследовательских лабораторий в области ИИ, Microsoft сосредоточена на создании сверхинтеллектуального ИИ, который ставит во главу угла благополучие человека, стремясь использовать преимущества научных достижений, избегая при этом потенциальных опасностей. Сулейман считает, что этот ИИ должен помогать людям, а не просто занимать их место.

FAQ

Свободна ли Microsoft в реализации AGI независимо от OpenAI?

Как аналитик, я внимательно слежу за тем, что Microsoft теперь имеет свободу разрабатывать сверхинтеллект и Общий Искусственный Интеллект (AGI) на своих условиях. С новым соглашением они больше не связаны своим крупным партнерством с OpenAI и могут двигаться вперед самостоятельно или с другими компаниями, как они посчитают нужным.

Что Microsoft надеется достичь с помощью AGI?

Главный специалист Microsoft по искусственному интеллекту, Мустафа Сулейман, говорит, что компания стремится использовать возможности передового ИИ для достижения крупных научных открытий и улучшений, приносящих пользу людям, а не для того, чтобы занять их место.

Смотрите также

2025-11-12 17:10