Виталик Бутерин предлагает «глобальную кнопку мягкой паузы», которая позволит сократить вычислительную мощность ИИ на 90–99% на 1–2 года, давая достаточно времени для подготовки к потенциальной экзистенциальной гибели.

Помимо беспокойства по поводу конфиденциальности и безопасности с помощью ИИ, многие люди опасаются этой технологии из-за возможности, что она может привести к нашему исчезновению. Роман Ямпольский, исследователь безопасности ИИ и директор Лаборатории кибербезопасности в Университете Луисвилля, оценивает вероятность того, что ИИ может привести к вымиранию человечества, составляет 0,000001%. По мнению Ямпольского, чтобы предотвратить такой исход, возможно, было бы разумно вообще не развивать ИИ.





