«У нас есть волшебство, а не волшебство»: шкала p(гибель) исследователя фиксирует вероятность 99,999999%, что ИИ положит конец человечеству, но Сэм Альтман утверждает, что ИИ будет достаточно умен, чтобы не дать ИИ вызвать экзистенциальную гибель.
Помимо проблем, связанных с безопасностью и конфиденциальностью, которые возникают в связи с быстрым развитием генеративного искусственного интеллекта, существует значительный риск того, что в этой области могут произойти новые достижения. Крупные технологические компании, такие как Microsoft, Google, Anthropic и OpenAI, активно занимаются этой областью, однако отсутствие правил ее разработки вызывает серьезную обеспокоенность. Это связано с тем, что может оказаться сложно осуществлять контроль над ИИ, если/когда он отклоняется от намеченного пути и бесконтрольно обостряется.
