Microsoft представляет новый инструмент коррекции для устранения галлюцинаций ИИ, но уже есть опасения: «Пытаться устранить галлюцинации с помощью генеративного ИИ — это все равно, что пытаться исключить водород из воды».

Недавно Microsoft представила несколько инновационных механизмов безопасности на основе искусственного интеллекта, направленных на повышение безопасности, конфиденциальности и надежности. Один из этих инструментов называется «Коррекция» и предназначен для исправления ошибок, допущенных ИИ. Проще говоря, этот инструмент выявляет и исправляет фактические неточности и ошибки в ответах на текстовые запросы.








