Физика для машин: могут ли языковые модели понимать мир вокруг?

от

Автор: Денис Аветисян

Новое исследование рассматривает, способно ли обучение языковых моделей взаимодействию с окружением улучшить их понимание базовых физических принципов.

Пока крипто-инвесторы ловят иксы и ликвидации, мы тут скучно изучаем отчетность и ждем дивиденды. Если тебе близка эта скука, добро пожаловать.

Купить акции "голубых фишек"
Несмотря на успешное освоение целевых задач, модели, обученные с усечёнными архитектурами (уменьшенными рангами 1 и 8 вместо 16), без дообучения визуального энкодера или с использованием рассуждений, демонстрируют неспособность к обобщению на смежные задачи, что соответствует результатам, полученным на стандартной модели в ходе экспериментов.
Несмотря на успешное освоение целевых задач, модели, обученные с усечёнными архитектурами (уменьшенными рангами 1 и 8 вместо 16), без дообучения визуального энкодера или с использованием рассуждений, демонстрируют неспособность к обобщению на смежные задачи, что соответствует результатам, полученным на стандартной модели в ходе экспериментов.

Оценка эффективности обучения с подкреплением в сравнении с традиционной настройкой языковых моделей для решения задач, связанных с интуитивной физикой.

Несмотря на успехи в обработке языка и зрения, современные мультимодальные модели демонстрируют слабое понимание физического мира. В работе ‘Can vision language models learn intuitive physics from interaction?’ исследуется возможность улучшения способности моделей к интуитивному физическому моделированию посредством обучения с подкреплением и взаимодействия с окружающей средой. Полученные результаты свидетельствуют об отсутствии значимых преимуществ такого подхода перед стандартной контролируемой тонкой настройкой в плане обобщения полученных знаний. Возможно ли разработать эффективные методы обучения, позволяющие моделям действительно «понимать» физические законы и применять их в новых, непредсказуемых ситуациях?

Начало: Понимание Интуитивной Физики

Человек обладает удивительной способностью к интуитивному пониманию физического мира, своего рода «наивной физикой», которая направляет взаимодействие с окружающими предметами и явлениями. Это не приобретенные знания, а врожденная способность предсказывать поведение объектов — как они будут двигаться, падать, сталкиваться или сохранять равновесие. Данное понимание проявляется даже у младенцев, которые демонстрируют удивление при нарушении ожидаемых физических закономерностей, что свидетельствует о наличии внутренней модели мира. Эта “наивная физика” позволяет быстро и эффективно ориентироваться в пространстве, манипулировать объектами и планировать действия, не прибегая к сложным вычислениям или осознанному анализу. Она является фундаментальной основой для развития более сложных когнитивных способностей и играет ключевую роль в повседневной жизни.

Человеческое понимание физического мира простирается далеко за рамки простого осознания постоянства объектов. Исследования показывают, что люди способны предсказывать, как предметы будут вести себя в различных ситуациях, оценивая их устойчивость, траекторию движения и взаимодействие друг с другом. Эти предсказания формируются не на основе формального обучения физике, а благодаря врожденной способности к моделированию окружающего пространства и сил, действующих на объекты. Например, человек инстинктивно понимает, что неустойчивая башня из кубиков рано или поздно рухнет, или что брошенный мяч со временем упадет на землю, даже без применения сложных математических расчетов. Эта способность к прогнозированию динамики физического мира является ключевым элементом нашей повседневной жизни и позволяет эффективно взаимодействовать с окружающей средой.

Воссоздание так называемой “интуитивной физики” в искусственных системах представляет собой фундаментальную задачу на пути к созданию общего искусственного интеллекта. Способность человека предсказывать траектории движения объектов, оценивать устойчивость конструкций и понимать принципы взаимодействия тел не является результатом сознательного анализа, а скорее — результатом врожденного, неявного знания о физическом мире. Попытки формализации этих интуитивных представлений и их реализации в алгоритмах машинного обучения сталкиваются со значительными трудностями, поскольку требуют не просто обработки данных, а способности к аналогичному, “физическому” мышлению. Успешное решение этой задачи позволит создать системы, способные не только решать узкоспециализированные задачи, но и адаптироваться к новым, непредсказуемым ситуациям, проявляя гибкость и здравый смысл, свойственные человеческому интеллекту. В конечном итоге, именно способность к интуитивному пониманию физического мира может стать определяющим фактором в создании действительно разумных машин.

Обученная на синтетических и реальных изображениях башен из блоков модель Qwen3-VL-8B демонстрирует частичную обобщающую способность, но не достигает человеческого уровня в оценке устойчивости реальных башен, что подтверждается результатами, представленными на графике со статистическими интервалами.
Обученная на синтетических и реальных изображениях башен из блоков модель Qwen3-VL-8B демонстрирует частичную обобщающую способность, но не достигает человеческого уровня в оценке устойчивости реальных башен, что подтверждается результатами, представленными на графике со статистическими интервалами.

Исследование Интуиции: Блочная Башня как Эталон

Построение башен из блоков представляет собой убедительную парадигму для оценки интуитивной физики, поскольку требует от испытуемых или моделей прогнозирования структурной устойчивости. Задача заключается в предсказании, какие конфигурации блоков будут устойчивыми и смогут выдержать гравитационные силы, а какие — нет. Устойчивость определяется балансом сил, включая вес каждого блока и распределение нагрузки между блоками, что делает задачу нетривиальной и требующей неявного понимания принципов статики и динамики. Сложность задачи увеличивается с ростом высоты башни и разнообразием форм и размеров используемых блоков, что позволяет оценивать способность к обобщению и адаптации к новым ситуациям.

Переход к задаче бинарной оценки устойчивости — определение, упадет ли башня — предоставляет целенаправленный показатель для оценки предсказательной способности моделей. Вместо оценки конкретного угла наклона или времени до падения, модели должны выдать один из двух возможных исходов: устойчива или неустойчива. Такой подход упрощает задачу, позволяя более четко измерить способность модели к прогнозированию физических явлений, отделив ее от необходимости точного количественного предсказания. Это особенно полезно при сравнении различных архитектур моделей и алгоритмов обучения, поскольку фокусируется на фундаментальном аспекте — способности предсказывать, произойдет ли коллапс структуры.

Модели демонстрируют высокую точность (в диапазоне 0.7-0.9) при решении упрощенной задачи предсказания устойчивости башни, ограничивающейся анализом только горизонтального смещения верхнего блока («x-only top block task»). Однако, эта высокая производительность не переносится на более сложные сценарии и обобщенные задачи, что указывает на склонность моделей к запоминанию специфических паттернов, а не к освоению общих принципов физики, необходимых для предсказания устойчивости в различных условиях.

Для успешного построения башен и прогнозирования их устойчивости, модели должны не просто запоминать примеры из обучающей выборки, но и неявно усваивать и применять фундаментальные принципы физики. Высокая точность, достигаемая в простых задачах (например, предсказание устойчивости верхней части башни только по координате x), не гарантирует обобщения на более сложные конфигурации. Это указывает на то, что модели, демонстрирующие успехи, фактически учатся выявлять и использовать базовые физические законы, регулирующие структурную стабильность, а не просто воспроизводят ранее увиденные паттерны. Такой подход позволяет им делать прогнозы для новых, ранее не встречавшихся структур, что является ключевым показателем истинного понимания физических принципов.

Обучение моделей Qwen2.5-VL-7B на четырех задачах не позволило достичь высокой точности при оценке на реальных блочных башнях из набора данных Lerer et al. (2016), даже для модели, обученной на схожей задаче бинарной устойчивости верхней части башни, что подтверждается 95% доверительными интервалами, представленными на графике.
Обучение моделей Qwen2.5-VL-7B на четырех задачах не позволило достичь высокой точности при оценке на реальных блочных башнях из набора данных Lerer et al. (2016), даже для модели, обученной на схожей задаче бинарной устойчивости верхней части башни, что подтверждается 95% доверительными интервалами, представленными на графике.

Обучение в Оффлайн Режиме: Восстановление Физического Чувства

Обучение с подкреплением в автономном режиме (offline reinforcement learning) представляет собой перспективный подход, позволяющий моделям обучаться на предварительно собранных наборах данных, полученных в результате взаимодействия с конструктором из блоков. Этот метод позволяет избежать дорогостоящих и потенциально опасных экспериментов в реальном времени, обеспечивая эффективное обучение на сложных физических симуляциях. В отличие от традиционного обучения с подкреплением, требующего постоянного взаимодействия с окружающей средой, автономное обучение использует статические данные, что значительно ускоряет процесс и позволяет обучать модели на данных, собранных другими агентами или в различных условиях.

Использование обучения с подкреплением в автономном режиме позволяет избежать дорогостоящих и потенциально опасных экспериментов в реальном времени. Это достигается за счет обучения моделей на заранее собранных наборах данных, содержащих взаимодействия с физическими объектами, такими как башни из блоков. Такой подход обеспечивает эффективное обучение на сложных физических симуляциях, поскольку не требует непосредственного взаимодействия с окружающей средой в процессе тренировки. Это особенно важно в задачах, где ошибки могут привести к повреждению оборудования или создать небезопасную ситуацию.

Несмотря на проведенное обучение с использованием различных методов и моделей, точность предсказаний на задаче бинарной устойчивости (определении, устойчива ли башня из блоков) остается на уровне 0.6-0.8. Это означает, что, хотя модели и обучаются на предварительно собранных данных о взаимодействиях с башнями, они не демонстрируют существенного улучшения в способности прогнозировать устойчивость конструкции. Данный результат указывает на ограничения текущих подходов к обучению с использованием офлайн-обучения с подкреплением в контексте задач, требующих понимания физических принципов.

Успешное применение обучения с подкреплением в автономном режиме (offline RL) напрямую зависит от способности модели эффективно извлекать и обобщать фундаментальные физические принципы, лежащие в основе изучаемых взаимодействий. Простое запоминание данных недостаточно; модель должна выявлять закономерности, отражающие законы физики, чтобы предсказывать поведение системы в новых, ранее не встречавшихся ситуациях. Неспособность к обобщению физических принципов приводит к низкой производительности и ограниченной применимости модели за пределами обучающего набора данных, даже при наличии большого объема собранных данных о взаимодействиях.

Для проверки способности моделей, обученных взаимодействию со средой, к обобщению физических интуиций, мы обучили их на четырех комбинациях наборов данных (смещение блока на башне или на земле) и типов действий (бинарная оценка устойчивости или предсказание смещения блока по одной или двум координатам), а также оценили их эффективность на реальных деревянных башнях из набора данных Lerer et al. (2016).
Для проверки способности моделей, обученных взаимодействию со средой, к обобщению физических интуиций, мы обучили их на четырех комбинациях наборов данных (смещение блока на башне или на земле) и типов действий (бинарная оценка устойчивости или предсказание смещения блока по одной или двум координатам), а также оценили их эффективность на реальных деревянных башнях из набора данных Lerer et al. (2016).

Расшифровка и Визуализация Физических Представлений

Анализ активаций — паттернов активности внутри нейронной сети — позволяет получить представление о том, как модель кодирует физические величины, такие как центр масс и потенциальная энергия. Исследователи обнаружили, что, изучая эти внутренние представления, можно понять, какие особенности конфигурации башен модель считает наиболее важными для определения устойчивости или предсказания дальнейшего поведения. В частности, декодирование активаций позволяет выявить, какие нейроны отвечают за кодирование определенных физических свойств, и как эти свойства представлены на разных уровнях иерархии модели. Такой подход предоставляет уникальную возможность заглянуть “внутрь” искусственного интеллекта и понять, каким образом он формирует интуитивное понимание физических принципов, что важно для создания более надежных и объяснимых систем.

Карты внимания представляют собой дополнительный метод визуализации, позволяющий определить, на какие конкретные элементы входных данных — например, отдельные блоки в конструкции — обращает внимание модель при принятии решений. Этот подход раскрывает внутренний фокус нейронной сети, демонстрируя, какие части визуальной информации оказывают наибольшее влияние на ее предсказания о стабильности или центре масс. Анализ карт внимания позволяет исследователям понять, как модель интерпретирует сложные сцены, выявляя, какие объекты или их характеристики являются ключевыми для формирования ее физических суждений. По сути, карты внимания служат своего рода «тепловой картой», указывающей на области входного изображения, которые наиболее активно задействованы в процессе рассуждений модели.

Исследования показали, что нейронные сети демонстрируют высокую способность к декодированию ключевых физических свойств, таких как смещение центра масс и устойчивость конструкций, на протяжении всех слоев своей архитектуры и вне зависимости от используемого метода обучения. Это указывает на то, что модели действительно способны представлять необходимую информацию о физическом мире, а не просто оперируют абстрактными закономерностями в данных. Способность к такому представлению обнаруживается не только в финальных слоях, отвечающих за предсказания, но и на более ранних этапах обработки, что говорит о глубоком и всеобъемлющем кодировании физических принципов внутри сети. Таким образом, модели не просто учатся предсказывать поведение физических систем, но и внутренне представляют себе соответствующие физические характеристики.

Исследования показали, что разработанные модели способны к обобщению физических представлений, что позволяет им успешно применять полученные знания к новым, ранее не встречавшимся конфигурациям башен и сценариям. Этот процесс демонстрирует не просто запоминание конкретных примеров, а формирование внутренней, обобщенной интуиции, касающейся принципов статики и динамики. Модели, обученные на ограниченном наборе данных, способны предсказывать устойчивость и другие физические свойства конструкций, которые значительно отличаются от тех, на которых они были обучены. Такая способность к обобщению указывает на потенциал использования подобных моделей для решения широкого круга задач, связанных с физическим моделированием и проектированием, где требуется прогнозирование поведения сложных систем в новых условиях.

После дообучения с использованием GRPO, модель демонстрирует повышенное внимание к верхнему блоку башни при оценке её устойчивости, что отражено в усредненных картах внимания по всем головам.
После дообучения с использованием GRPO, модель демонстрирует повышенное внимание к верхнему блоку башни при оценке её устойчивости, что отражено в усредненных картах внимания по всем головам.

Исследование, посвященное обучению моделей обработки языка и зрения интуитивной физике посредством взаимодействия, демонстрирует интересную закономерность. Несмотря на усилия по применению обучения с подкреплением, результаты не превзошли стандартную тонкую настройку с учителем. Это подчеркивает сложность переноса знаний о физическом мире в искусственные системы. Как заметил Брайан Керниган: «Простота — это высшая степень совершенства». В данном случае, кажущаяся простота подхода с учителем оказалась более эффективной, чем сложные методы взаимодействия, что указывает на необходимость более глубокого понимания принципов обучения моделей и их способности к обобщению в области физического рассуждения. Вероятно, ключ к успеху лежит не в усложнении алгоритмов, а в более эффективном использовании существующих данных и методов.

Что дальше?

Представленная работа, как и многие попытки привить машинам понимание физического мира, наталкивается на фундаментальную сложность: достаточно ли лишь демонстрации взаимодействия, чтобы система смогла экстраполировать принципы, лежащие в основе наблюдаемых явлений? Очевидно, что нет. Попытка обучить модели, имитируя лишь последствия действий, подобна попытке понять течение реки, наблюдая лишь за вымываемыми берегами. Технический долг в этой области — это накопление упрощений, которые, возможно, позволяют достичь локального успеха, но препятствуют построению действительно устойчивых и обобщающих систем.

Неудача методов обучения с подкреплением продемонстрировать превосходство над традиционным контролируемым обучением заставляет задуматься о природе самого «интуитивного» понимания физики. Возможно, дело не в количестве данных или сложности алгоритма, а в принципиальной невозможности вывода универсальных правил из ограниченного набора наблюдений. Аптайм, эта редкая фаза гармонии во времени, когда система функционирует предсказуемо, — лишь иллюзия, скрывающая неизбежную энтропию и необходимость постоянной адаптации.

Будущие исследования, вероятно, должны сместить фокус с прямого обучения физическим принципам на создание систем, способных к активному исследованию окружающей среды и построению внутренних моделей мира. Вместо того, чтобы пытаться «научить» машину физике, следует создать условия для ее собственного открытия. Все системы стареют — вопрос лишь в том, делают ли они это достойно, и способны ли они к самовосстановлению в условиях меняющейся реальности.

Оригинал статьи: https://arxiv.org/pdf/2602.06033.pdf

Связаться с автором: https://www.linkedin.com/in/avetisyan/

Смотрите также:

2026-02-07 08:45