«У нас есть волшебство, а не волшебство»: шкала p(гибель) исследователя фиксирует вероятность 99,999999%, что ИИ положит конец человечеству, но Сэм Альтман утверждает, что ИИ будет достаточно умен, чтобы не дать ИИ вызвать экзистенциальную гибель.

Помимо проблем безопасности и конфиденциальности, связанных с быстрым развитием генеративного ИИ, потенциал дальнейшего прогресса в этой области представляет собой значительный риск. Ведущие технологические компании, такие как Microsoft, Google, Anthropic и OpenAI, принимают в этом активное участие, но отсутствие правил для контроля за его развитием вызывает тревогу. Это связано с тем, что может стать сложно осуществлять контроль, если/когда ИИ отклонится от установленных границ и потенциально выйдет из-под контроля.







