Взлом Мультимодальных ИИ: Как обойти защиту при генерации изображений

от

Многомодальные языковые модели способны генерировать изображения, содержащие насилие, незаконную деятельность, дискриминацию и оскорбительные жесты, непосредственно по текстовым запросам, без необходимости использования каких-либо обходных путей, что указывает на наличие этих элементов в обучающих данных и потенциальную опасность неконтролируемого синтеза контента.

Новое исследование демонстрирует, как можно заставить современные мультимодальные модели искусственного интеллекта создавать опасные изображения, несмотря на встроенные механизмы безопасности.

Если каждая игра Xbox сможет достичь очевидного AAA-качества Fable — нас ждёт светлое будущее.

от

Хорошо известно, что Xbox испытывала трудности с подбором игр за последние десять лет. Игры, такие как Recore, Redfall и Crackdown 4, имели интересные идеи, но не оправдали ожиданий. Однако ситуация начинает улучшаться.