Cisco представляет защиту на базе ИИ на фоне растущих опасений по поводу угрозы ИИ для человечества!

Как наблюдатель, я размышляю над последним заявлением Cisco об «Защите ИИ» в свете насущных проблем, связанных с искусственным интеллектом: безопасность, конфиденциальность и более широкий вопрос его потенциального воздействия на человечество. Мысль о том, что эта технология может привести нас к нашей собственной гибели, вызывает беспокойство, которое находит широкий отклик, от технических энтузиастов до правительственных чиновников.

📱 🚀 Перестаньте бесцельно прожигать жизнь! Присоединяйтесь к нашему Telegram-каналу @lospopadosos, чтобы узнавать последние новости о мобильных гаджетах. Потому что кому нужно реальное общение с людьми, когда вы можете наслаждаться чудесами технологий? 😎 💥 👇

top-mob.com Telegram

К сожалению, нормативно-правовая база для разработки и применения генеративного ИИ в лучшем случае скудна. Это оставляет место для непредвиденных инцидентов или неправильного использования, что значительно увеличивает риск отклонения ИИ от курса.

Как заинтересованный энтузиаст, я хотел бы подчеркнуть точку зрения Романа Ямпольского, исследователя безопасности искусственного интеллекта и директора лаборатории кибербезопасности в Университете Луисвилля. Он предполагает, что вероятность того, что ИИ станет причиной гибели человечества, поразительно высока — с вероятностью 99,999999%. Эта статистика, часто называемая p(doom), подчеркивает необходимость осторожности в нашем стремлении к искусственному интеллекту. Примечательно, что он утверждает, что единственным жизнеспособным решением может быть вообще не создавать ИИ. Однако, похоже, на горизонте появился проблеск надежды: Ямпольский намекает на возможность решения этих проблем и обеспечения того, чтобы развитие ИИ приносило пользу человечеству, а не угрожало ему.

Проще говоря, AI Defense — это передовая мера безопасности, специально разработанная для создания и эксплуатации приложений искусственного интеллекта в бизнесе, гарантирующая безопасное использование технологии искусственного интеллекта.

В специальной беседе с Роуэном Чунгом из The Rundown AI Джиту Патель, исполнительный вице-президент и главный директор по продуктам Cisco, поделился мыслями о быстро развивающейся эволюции искусственного интеллекта. Обращаясь к растущим проблемам безопасности и защиты, он объявил о запуске AI Defense.

В будущем у нас, по сути, будет две категории предприятий: те, которые находятся на переднем крае технологий искусственного интеллекта, и те, которые могут устареть. Почти каждая компания будет использовать, если не создавать, многочисленные приложения ИИ из-за стремительного развития ИИ. Скорость инноваций в области ИИ опережает основные проблемы и проблемы безопасности.

Мы создали AI Defense как средство обеспечения безопасности создания и применения технологий искусственного интеллекта. По сути, защита ИИ служит для предотвращения неправильного применения инструментов ИИ, утечки данных и постоянно развивающихся угроз, с которыми могут бороться традиционные меры безопасности.

Как наблюдателю, мне трудно переоценить значение защиты ИИ в современном технологическом ландшафте. Кажется, это самое непосредственное решение, которое мы имеем против потенциальных экзистенциальных рисков, создаваемых искусственным интеллектом. Однако что действительно заставляет меня задуматься, так это вывод из отчета Cisco по готовности к искусственному интеллекту за 2024 год: тревожно малая часть опрошенных, всего 29%, выражают уверенность в своей способности обнаруживать и предотвращать несанкционированное манипулирование системами искусственного интеллекта.

Это может быть связано с новизной и сложностью области искусственного интеллекта. Кроме того, приложения ИИ универсальны для различных моделей и облаков, что повышает их уязвимость к киберугрозам, поскольку они потенциально могут быть раскрыты во время развертывания на уровне модели или приложения.

Будет ли Cisco следить за развитием AGI?

Время для развертывания нашего решения по безопасности как нельзя более подходящее, учитывая жесткую конкуренцию среди ведущих исследовательских институтов искусственного интеллекта, таких как Anthropic и OpenAI, которые стремятся достичь престижного рубежа в области искусственного общего интеллекта (AGI). Примечательно, что Сэм Альтман, генеральный директор OpenAI, заявил, что его команда способна создать AGI, и они стремятся достичь этого показателя раньше запланированного срока, перенаправив свои усилия на сверхинтеллект.

Несмотря на опасения по поводу безопасности и воздействия на общество, Альтман утверждал, что этот тест будет пройден с удивительно минимальными последствиями для общества. Он также заявил, что поднятые опасения не проявятся на этапе общего искусственного интеллекта (AGI). Однако было высказано предположение, что развитие ИИ могло столкнуться с препятствием из-за нехватки высококачественного контента для обучения моделей. Ведущие деятели отрасли, в том числе Сэм Альтман и бывший генеральный директор Google Эрик Шмидт, оспорили эти утверждения, заявив, что нет никаких доказательств того, что темпы разработки ИИ замедлились из-за проблем с масштабированием. «Стены нет», — повторил Альтман.

AI Defense — это достижение, которое двигает нас в положительном направлении, но неясно, получит ли оно широкое распространение среди предприятий и ведущих исследовательских центров в области искусственного интеллекта. Примечательно, что генеральный директор OpenAI признает потенциальную опасность, которую ИИ представляет для человечества, но при этом надеется, что сама технология разовьет достаточный интеллект, чтобы избежать нанесения катастрофического вреда.

Смотрите также

2025-01-20 17:09