Роботы и «чужое сознание»: как мы приписываем намерения машинам

Автор: Денис Аветисян

Новое исследование показывает, как люди интерпретируют поведение негуманоидных роботов, основываясь на описании их действий, и как эти интерпретации можно систематически изучать.

Пока крипто-инвесторы ловят иксы и ликвидации, мы тут скучно изучаем отчетность и ждем дивиденды. Если тебе близка эта скука, добро пожаловать.

Купить акции "голубых фишек"

Предлагаемая платформа опирается на архитектуру, спроектированную для достижения математической точности и доказуемости алгоритмов, избегая эмпирических подходов и фокусируясь на корректности решения, а не просто на его работоспособности в тестовых случаях.

Платформа на основе больших языковых моделей позволяет исследовать факторы, влияющие на приписывание намерений негуманоидным роботам в контексте взаимодействия человека и машины.

Понимание намерений и мотивов других агентов является основополагающим для социального взаимодействия, однако этот процесс затрудняется при работе с негуманоидными роботами. В данной работе, посвященной ‘A Mentalistic Interface for Probing Folk-Psychological Attribution to Non-Humanoid Robots’, представлена экспериментальная платформа, позволяющая систематически изучать атрибуцию интенциональности к негуманоидным роботам посредством манипулирования языком, описывающим их действия. Платформа комбинирует симуляцию робота, реалистичные среды и объяснительные слои на основе больших языковых моделей, способные интерпретировать поведение как ментальное, целеустремленное или механистическое. Какие лингвистические факторы наиболее сильно влияют на формирование «теории разума» в отношении роботов и как это может повлиять на разработку более интуитивно понятных и эффективных человеко-роботных взаимодействий?

Понимание Действий: Преодоление Ограничений Традиционных Подходов

Люди, наблюдая за действиями окружающих, склонны не просто фиксировать поступки, но и автоматически строить объяснения, основанные на предположениях о чужих убеждениях, желаниях и намерениях. Этот процесс, известный как «народная психология», позволяет предсказывать поведение других, понимать мотивы и реагировать соответствующим образом. Например, увидев, как человек тянется к зонту, наблюдатель не просто регистрирует движение, а делает вывод о том, что этот человек, вероятно, считает, что сейчас пойдет дождь и желает остаться сухим. Эта способность к интерпретации действий других, происходящая на подсознательном уровне, является фундаментальной для социального взаимодействия и формирования доверия.

Современная робототехника зачастую испытывает трудности с обеспечением прозрачности своих действий, что существенно затрудняет эффективное взаимодействие с человеком и формирование доверия. В отличие от людей, которые интуитивно понимают мотивы и намерения друг друга, роботы, как правило, действуют на основе запрограммированных алгоритмов, скрывая логику своих решений. Эта непрозрачность порождает неуверенность у пользователей, которые не могут предсказать поведение робота или понять причины его ошибок. В результате, даже самые технически совершенные роботы могут вызывать опасения и неприятие, препятствуя их широкому применению в сферах, требующих тесного сотрудничества с человеком, таких как здравоохранение, образование или домашнее хозяйство. Разработка роботов, способных объяснять свои действия и демонстрировать предсказуемое поведение, является ключевой задачей для создания действительно полезных и надежных помощников.

Отсутствие у человека возможности понять мотивацию действий робота существенно затрудняет прогнозирование его поведения и выявление неисправностей. Если принципы, лежащие в основе принятия решений машиной, остаются непрозрачными, становится сложно предвидеть, как робот отреагирует на новые или неожиданные ситуации. Это не только ограничивает возможности эффективного взаимодействия человека и робота, но и усложняет процесс диагностики, поскольку оператору приходится полагаться исключительно на внешние проявления, не понимая внутренних причин тех или иных действий. Такая ситуация особенно критична в сложных и динамичных средах, где надежность и предсказуемость поведения робота имеют первостепенное значение. Разработка методов, позволяющих «объяснить» логику действий робота, является ключевой задачей для повышения доверия и эффективности совместной работы.

Формирование Объяснения: Контроль Над Перспективой Интерпретации

Под “объяснительной рамкой” понимается конкретная перспектива, используемая для описания и интерпретации поведения. Эти рамки могут существенно различаться по своему подходу: менталистическая рамка рассматривает поведение через призму внутренних ментальных состояний, таких как убеждения и желания; телеологическая — объясняет поведение исходя из его предполагаемой цели или функции; а механистическая — фокусируется на причинно-следственных связях между физическими процессами и наблюдаемым поведением. Выбор объяснительной рамки определяет, какие аспекты поведения акцентируются и как оно понимается.

Использование больших языковых моделей (LLM) позволяет создавать объяснения поведения роботов в рамках заданных, контролируемых объяснительных перспектив. LLM способны генерировать текстовые описания действий робота, акцентируя внимание на различных аспектах — от намерений и целей ( $целеполагание$ ) до механистических процессов и физических взаимодействий. Это достигается путем предоставления LLM структурированных входных данных о действиях робота и указаний относительно желаемого объяснительного стиля, что позволяет получать разнообразные интерпретации одного и того же поведения, адаптированные к конкретным потребностям или задачам.

Возможность контролируемого формирования объяснений поведения роботов позволяет перейти от пассивного наблюдения к активному влиянию на интерпретацию действий. Традиционно, анализ поведения ограничивался регистрацией и описанием наблюдаемых действий. Однако, используя большие языковые модели (LLM), можно целенаправленно конструировать объяснения, акцентируя внимание на определенных аспектах поведения и представляя их в рамках заданной объяснительной рамки. Это дает возможность не просто зафиксировать что робот делает, но и сформировать понимание почему он это делает, задавая контекст и перспективу интерпретации для наблюдателя.

Представление «Мысли» Робота: От Состояния к Повествованию

Для представления внутреннего состояния робота используется модель «Вера-Желание-Намерение» (BDI). Данная модель позволяет формализовать знания робота об окружающей среде (его «веры»), заданные цели («желания») и спланированные последовательности действий для их достижения («намерения»). Структура BDI включает в себя набор фактов о мире, которые робот считает истинными, описание желаемых состояний, к которым он стремится, и планы, определяющие, как он собирается изменить свое состояние или состояние окружающей среды для достижения этих целей. Использование BDI обеспечивает логичное и структурированное представление о мотивах и действиях робота, необходимое для последующей генерации объяснений.

Модель BDI, в сочетании с данными одометрии и передаваемыми через Ros2, служит основой для генерации связных объяснений. Данные одометрии предоставляют информацию о текущем местоположении и ориентации робота в пространстве, что необходимо для формирования реалистичных убеждений (Beliefs) в модели BDI. Ros2 обеспечивает надежный и эффективный канал связи для передачи этих данных, а также данных о намерениях (Intentions) и целях (Desires) робота, к модели BDI. В результате, генерируемые объяснения основаны на актуальном представлении роботом окружающей среды и его внутренних мотивах, обеспечивая логическую последовательность и понятность.

Данная архитектура позволяет большой языковой модели (LLM) формировать вербальное описание процесса рассуждений робота, основываясь на его внутреннем состоянии. В частности, LLM использует данные из модели Belief-Desire-Intention (BDI), включающей информацию о представлениях робота о мире, его целях и планах, для генерации объяснений. Эти объяснения не являются произвольными, а напрямую привязаны к текущему внутреннему состоянию робота, обеспечивая согласованность и контекстуальную релевантность. Таким образом, LLM выступает в роли интерпретатора внутренних процессов робота, преобразуя их в понятный для человека текстовый формат.

Вид сверху и изображение с камеры демонстрируют разворачивающееся действие в обстановке книжного магазина.

За Пределами Гуманоидных Форм: Сила Контролируемой Интерпретации

Исследование использует негуманоидную робототехнику для снижения влияния антропоморфизма на восприятие действий роботов человеком. Традиционно, роботы, имитирующие человеческую форму, склонны вызывать у наблюдателей неосознанное приписывание им человеческих намерений, эмоций и когнитивных процессов. Используя роботов с нетрадиционными формами и способами движения, ученые стремятся отделить реальные действия робота от интерпретаций, обусловленных склонностью человека к очеловечиванию. Такой подход позволяет более точно оценить, как люди понимают и прогнозируют поведение роботов, основываясь исключительно на наблюдаемых действиях, а не на предположениях о внутренних мотивах или «мышлении» робота.

Исследование посвящено изучению влияния стиля объяснения действий робота на человеческое понимание. Ученые систематически изменяли рамку интерпретации, используя три подхода: агентный (приписывающий роботу намерения и цели), телеологический (описывающий действия с точки зрения их результата) и механистический (объясняющий действия исключительно физическими причинами). Такой подход позволил оценить, как способ представления действий робота — будь то описание его «желаний», «целей» или просто последовательности движений — формирует восприятие и понимание этих действий у наблюдателя. Полученные результаты демонстрируют, что выбор объяснительной рамки существенно влияет на атрибуцию намерений и, следовательно, на способность человека эффективно взаимодействовать с роботом.

Исследование открывает принципиально новые возможности в проектировании роботов, акцентируя внимание не только на их интеллекте, но и на способности быть понятными для человека. В рамках данной работы была создана уникальная экспериментальная платформа, позволяющая систематически измерять, как люди приписывают намерения и цели роботам. Такой подход позволяет создавать роботов, чьи действия не просто эффективны, но и предсказуемы и понятны, что способствует формированию доверия и эффективного сотрудничества между человеком и машиной. Это особенно важно для роботов, работающих в непосредственной близости от людей, где ясность намерений является ключевым фактором безопасности и комфорта.

Представленное исследование демонстрирует стремление к строгому анализу процессов ментальной атрибуции, что перекликается с фундаментальными принципами математической чистоты в программировании. Авторы, используя большие языковые модели для манипулирования описаниями действий негуманоидных роботов, фактически создают контролируемую среду для изучения человеческой склонности к наделению неодушевленных объектов намерениями. Как однажды заметил Брайан Керниган: «Отладка — это удаление ошибок; программирование — внесение их». В данном случае, отладка — это попытка выявить факторы, влияющие на атрибуцию намерений, а программирование — создание искусственных сценариев, позволяющих исследовать эту сложную когнитивную функцию. Изучение intentional stance, предложенное Дэниелом Деннетом, становится более конкретным, когда исследователи могут изменять лингвистические параметры и наблюдать соответствующие изменения в восприятии.

Куда же дальше?

Представленная работа, хотя и предоставляет инструмент для систематического изучения антропоморфизма в отношении негуманоидных роботов, лишь обозначает горизонт, а не достигает его. Вопрос о том, насколько вообще корректно применять концепции «намерения» и «ментального состояния» к системам, лишенным субъективного опыта, остаётся открытым. Простая манипуляция языком описания действий робота, безусловно, влияет на восприятие, но это лишь поверхностный эффект. Необходимо более глубокое исследование, выходящее за рамки чисто поведенческого анализа.

Будущие исследования должны сосредоточиться на выявлении минимальных условий, необходимых для возникновения у человека убеждения в наличии у робота намерений. Важно понимать, что это не вопрос «правды» или «ложности», а скорее вопрос когнитивных предубеждений и механизмов заполнения пробелов в информации. Следовательно, акцент должен быть сделан на изучении нейрофизиологических коррелятов антропоморфизма и разработке вычислительных моделей, способных предсказывать, когда и почему человек склонен приписывать ментальные состояния не-живым объектам.

И, наконец, необходимо признать, что сама постановка вопроса о «ментальности» роботов может быть ошибочной. Возможно, более плодотворным подходом было бы исследование того, как взаимодействие с роботами изменяет само человеческое понимание сознания и намерения. В конечном итоге, истинная сложность заключается не в создании «разумных» машин, а в понимании того, что значит быть разумным.

Оригинал статьи: https://arxiv.org/pdf/2603.25646.pdf

Связаться с автором: https://www.linkedin.com/in/avetisyan/

Смотрите также:

2026-03-27 16:39