Генеральный директор Microsoft AI Мустафа Сулейман предупреждает об опасностях «сознательного ИИ» — перспективе, которая, по-видимому, не дает спать генеральному директору Google DeepMind.

от

Каковы долгосрочные цели технологических компаний, активно инвестирующих в разработку генеративного искусственного интеллекта? Хотя часто в качестве ответа называют ИОИ (искусственный общий интеллект), его определение представляется различным, что приводит к некоторой путанице.

Пока крипто-инвесторы ловят иксы и ликвидации, мы тут скучно изучаем отчетность и ждем дивиденды. Если тебе близка эта скука, добро пожаловать.

Купить акции "голубых фишек"

Почему технологические компании тратят столько денег на создание разумных машин, способных обучаться и выполнять широкий спектр задач, как это делают люди? Однако важно отметить, что может не существовать общепринятого определения ИОИ, что делает этот термин открытым для интерпретаций.

Простыми словами, ИОИ (Искусственный Общий Интеллект) — это высокоразвитая система искусственного интеллекта, превосходящая человеческие познавательные способности. Интересно, что многомиллиардное партнерское соглашение Microsoft с OpenAI рассматривает ИОИ как мощную систему ИИ, способную генерировать потенциальную прибыль до 100 миллиардов долларов.

Тесная связь между создателями ChatGPT и Microsoft имеет решающее значение в условиях сильного спроса инвесторов на прибыльность, поскольку неспособность превратиться в прибыльный бизнес может привести к потере финансирования. Это также подвергает их потенциальному внешнему вмешательству и враждебным поглощениям.

Похоже, что стремительное развитие и расширение передовых технологий может опередить завершение докторской диссертации, делая её, по сути, устаревшей к моменту окончания обучения. Эта мысль усугубляется недавней публикацией в блоге генерального директора Microsoft по искусственному интеллекту Мустафы Сулеймана под названием «Мы должны создавать ИИ для людей, а не для того, чтобы он стал человеком», который, кажется, намекает на возможность появления сознательного ИИ в будущем.

По словам Сулеймана:

Моя предлагаемая искусственная интеллект проявляет черты, схожие с ‘философским зомби’ — термином, используемым в философии. Эта ИИ-система функционирует идентично сознательному существу, демонстрируя все признаки разумности, однако остается внутренне пустой, лишенной истинного сознания. Она убедительно имитирует наше собственное сознание настолько, что становится неразличимой от того, как мы могли бы обсуждать свое собственное сознание друг с другом.

Меня всё больше беспокоит растущая проблема, часто называемая ‘риском психоза’ и связанные с ней вопросы. Я опасаюсь, что это не ограничивается людьми с уже существующими проблемами психического здоровья. По сути, моя главная обеспокоенность заключается в том, что значительное число людей может настолько поверить в то, что ИИ являются разумными существами, что они будут отстаивать права ИИ, их благосостояние и даже гражданство. Этот нежелательный прогресс может представлять серьезную угрозу для развития искусственного интеллекта и требует нашего срочного внимания.

Мустафа Сулейман, генеральный директор Microsoft AI

Сулейман подчеркивает, что его главная цель — разработка искусственного интеллекта с сильным акцентом на безопасность и позитив по мере того, как человечество движется к общему искусственному интеллекту. Его видение включает использование таких технологий, как Copilot от Microsoft, для расширения возможностей людей, позволяя им выполнять замечательные задачи, выходящие за рамки их обычных возможностей, и вносить вклад в создание более процветающего мира.

Проще говоря, руководитель подчеркнул, что его работа в Microsoft заключается в разработке искусственного интеллекта, направленного на усиление человеческих качеств внутри нас, одновременно укрепляя взаимное доверие и понимание. Это соответствует его цели превратить Copilot в надежного партнера и настоящего друга.

По словам Сулеймана:

Чтобы добиться успеха, необходимо принимать взвешенные решения на каждом этапе, чтобы создать исключительный пользовательский опыт. Мы можем не всегда попадать в цель, но ориентация на человека дает нам руководящий принцип, к которому стоит стремиться.

Проще говоря, руководитель отдела искусственного интеллекта Microsoft подчеркивает, что нам следует сосредоточиться на создании инструментов ИИ для использования человеком, а не на том, чтобы заставить ИИ вести себя как настоящие люди. Несмотря на поддержку идеи компаньонов на основе ИИ, он продолжает подчеркивать необходимость мер предосторожности для сохранения контроля человека и обеспечения того, чтобы эта технология приносила нам пользу.

Сулейман предполагает, что создание искусственного интеллекта, способного к сознанию, может быть не таким уж далёким, учитывая наши существующие технологии и те, которые, как прогнозируется, продвинутся в течение следующих 2-3 лет. Кроме того, он утверждает, что этот прорыв не потребует дорогостоящего специализированного обучения. Вместо этого, его потенциально можно будет достичь через доступ к большим языковым моделям, запросам на естественном языке, использованию базовых инструментов и рутинному кодированию.

Перспективы искусственного интеллекта не дают спокойно спать генеральному директору DeepMind.

На протяжении нескольких лет эксперты прогнозируют значительные достижения в области искусственного интеллекта, которые потенциально могут привести к катастрофическим последствиям для человечества. Роман Ямпольский, исследователь в области безопасности ИИ, предполагает ошеломляющую вероятность в 99,99999%, что ИИ может привести к концу человечества. Он считает, что единственный способ предотвратить такой исход — это воздержаться от создания искусственного интеллекта в первую очередь.

Несмотря на критику, предполагающую, что OpenAI отдает приоритет продвинутому искусственному интеллекту (ИИ) над мерами безопасности, ее генеральный директор Сэм Альтман остается оптимистом в отношении влияния ИИ на общество. Интересно, что Альтман ожидает, что достижение рубежа общего искусственного интеллекта в ближайшие пять лет окажет удивительно незначительное первоначальное влияние на общество.

Может быть тревожно узнать, что генеральный директор Anthropic, Дарио Амодей, признал, что они не до конца понимают, как работают их модели. Это заявление последовало за высказываниями генерального директора DeepMind Демиса Хассабиса, предполагающими, что Общий Искусственный Интеллект (AGI) приближается, что потенциально вызывает опасения, что общество может быть недостаточно готово к его последствиям. Руководитель признался, что эти разработки часто не дают ему спать по ночам.

Мустафа Сулейман предполагает, что будущий искусственный интеллект будет способен свободно выражаться на языке, обладать памятью, самосознанием, внутренней мотивацией и целеустремленным поведением, среди прочих характеристик. По его мнению, этот уровень сознания в ИИ не произойдет спонтанно; скорее, он ожидает, что инженер тщательно объединит эти возможности для создания сознательного ИИ.

В моем анализе, как исследователя, я бы выразил это следующим образом: я выступаю за разработку ИИ, который делает акцент на человеческом взаимодействии и практическом применении в реальном мире. Кроме того, я предлагаю создавать ИИ-системы, которые четко идентифицируют себя как искусственные, обеспечивая приоритет полезности над сознанием, чтобы избежать каких-либо потенциальных заблуждений относительно уровня их разумности, что соответствует точке зрения генерального директора Microsoft по вопросам ИИ.

Смотрите также

2025-08-21 17:11