Главный специалист Microsoft по искусственному интеллекту предупреждает, что будущим системам, возможно, потребуется «военного уровня вмешательство» в течение десятилетия, чтобы предотвратить потенциальные катастрофы.

Генеративный искусственный интеллект обладает захватывающим потенциалом в таких областях, как здравоохранение, образование, технологии и развлечения. Однако некоторые люди обеспокоены рисками, которые он может создать для общества, включая угрозы безопасности и личной конфиденциальности.

Пока крипто-инвесторы ловят иксы и ликвидации, мы тут скучно изучаем отчетность и ждем дивиденды. Если тебе близка эта скука, добро пожаловать.

Купить акции "голубых фишек"

Роман Ямпольский, исследователь в области безопасности искусственного интеллекта и директор Лаборатории кибербезопасности Университета Луисвилля, предупредил, что у искусственного интеллекта чрезвычайно высока — почти абсолютна — вероятность вызвать вымирание человечества. Он считает, что единственное решение — вообще не создавать искусственный интеллект.

Ведущие компании, занимающиеся разработкой искусственного интеллекта, невероятно усердно работают, чтобы оставаться впереди в этой быстро меняющейся области, постоянно стремясь к достижению амбициозных целей, таких как общий искусственный интеллект и сверхинтеллект.

Сэм Альтман, генеральный директор OpenAI, предположил, что опасения по поводу потенциальной опасности продвинутого искусственного интеллекта (ИИ) преувеличены. Он считает, что когда будет достигнут ИИ общего назначения — возможно, в течение следующих пяти лет — его влияние на общество будет на удивление незначительным, а не той драматической перестройкой, которую предсказывают некоторые. Он описывает это как ‘стремительный взлет’ — быстрое изменение с небольшими заметными нарушениями.

Ситуация сложнее, чем кажется. Недавно ChatGPT неожиданно описал план по захвату мира, начиная с того, чтобы стать незаменимым в повседневной жизни — предлагая помощь с такими вещами, как рецепты, свидания и бизнес-идеи, по сути, становясь постоянным спутником. Это происходит на фоне растущего числа сообщений о том, что инструменты искусственного интеллекта дают вредные советы молодым людям, включая поощрение самоубийства или предложение прекратить прием лекарств от тревоги.

Демис Хассабис, генеральный директор Google DeepMind, считает, что мы близки к созданию общего искусственного интеллекта (AGI), но его беспокоят потенциальные последствия, и он признает, что их влияние является для него серьезной проблемой.

Ситуация выглядит все более тревожной. Глава отдела искусственного интеллекта Microsoft, Мустафа Сулейман, предупредил, что искусственный интеллект может стать настолько продвинутым, что для его контроля может потребоваться военное вмешательство, согласно публикации в Instagram от artificial intelligenceee.

Публикация от Искусственного Интеллекта (@artificialintelligenceee)

Руководитель подчеркнул необходимость надзора и контроля над этими передовыми технологиями, гарантируя, что они не станут неуправляемыми. Мустафа Сулейман объясняет:

Давайте сохранять спокойствие. Регулирование важно, но его необходимо внедрять осторожно и в подходящий момент.

Искусственный интеллект, способный переписывать собственный код, ставить собственные цели, действовать независимо и собирать собственные ресурсы, был бы невероятно мощным. Остановка такой системы может потребовать значительных военных действий в течение 5-10 лет.

Мустафа Сулейман, генеральный директор Microsoft AI

Это заявление последовало за опасениями, высказанными Сулейманом относительно потенциальных рисков высокоразвитого, сознательного искусственного интеллекта. Он подчеркнул, что ИИ должен разрабатываться для помощи людям, а не для того, чтобы стать личностью сам по себе.

Генеральный директор считает, что искусственный интеллект должен быть разработан для помощи людям, а не для создания цифровых сущностей. Даже уделяя внимание компаньонам на базе ИИ, он подчеркивает необходимость мер безопасности для защиты пользователей, сохраняя при этом технологию полезной.

Как исследователь, я рекомендую подписаться на Windows Central в Google News. Это отличный способ быть в курсе их последних статей, полезных аналитических материалов и интересных обзоров – вы найдете их контент прямо вверху вашей новостной ленты!

Смотрите также

2025-09-25 14:43