Гиппокамп как граф: Новая модель памяти и навигации

Автор: Денис Аветисян

Исследование показывает, что механизм работы гиппокампа может быть сведен к вычислению стационарного распределения случайного блуждания по графам, объединяя процессы запоминания и планирования маршрута.

Пока крипто-инвесторы ловят иксы и ликвидации, мы тут скучно изучаем отчетность и ждем дивиденды. Если тебе близка эта скука, добро пожаловать.

Купить акции "голубых фишек"

Работа устанавливает эквивалентность между Персонализированным PageRank и Представлениями Последователей, раскрывая единый вычислительный фреймворк для памяти и пространственной навигации.

Долгое время считалось, что гиппокамп отвечает за принципиально различные когнитивные функции: извлечение долговременной памяти и планирование пространственной навигации. В работе, озаглавленной ‘Equivalence of Personalized PageRank and Successor Representations’, авторы демонстрируют, что два алгоритма, предложенные для объяснения этих функций — персонализированный PageRank и successor representations — на самом деле изоморфны и используют общее представление — стационарное распределение случайного блуждания по графу. Предлагается гипотеза, что основная вычислительная функция гиппокампа заключается в вычислении этого представления для произвольных входных графов. Не является ли это единым вычислительным принципом, объединяющим память и навигацию в мозге?

Гиппокамп: Фундамент Пространственной Ориентации и Памяти

Гиппокамп, сложная структура мозга, играет ключевую роль в ориентации в пространстве и формировании долговременной памяти. Его специализированные области — CA3, CA1 и зубчатая извилина — тесно взаимодействуют, обеспечивая возможность создания и хранения ментальных карт окружающего мира. CA3, благодаря своей рекуррентной структуре, способствует ассоциативному запоминанию, позволяя связывать различные элементы пространственной информации. CA1, в свою очередь, отвечает за обработку и консолидацию этих воспоминаний, формируя устойчивые следы памяти. Зубчатая извилина, являясь входной зоной гиппокампа, участвует в нейрогенезе и кодировании новой информации, что критически важно для обучения и адаптации к меняющейся среде. Таким образом, гармоничная работа этих отделов гиппокампа является фундаментом для успешной навигации и запоминания пространственных отношений, обеспечивая возможность эффективного функционирования в сложном окружающем мире.

В гиппокампе обнаружены специализированные нейроны, известные как клетки места и клетки сетки, которые совместно формируют нейронный код, позволяющий мозгу кодировать информацию о местоположении и расстоянии. Клетки места активируются при нахождении в конкретной точке пространства, создавая своего рода «карту» окружающей среды, в то время как клетки сетки формируют регулярную, гексагональную структуру, обеспечивающую ощущение расстояния и направления. Этот сложный механизм, тесно связанный с коре головного мозга, особенно с энторинальной корой, позволяет животным и человеку ориентироваться в пространстве, запоминать маршруты и формировать когнитивные карты, необходимые для эффективной навигации и обучения.

Моделирование Когниции как Обхода Графа

Представление преемственности (Successor Representation, SR) представляет собой вычислительную модель, объясняющую, как гиппокамп изучает и кодирует пространственные отношения. В основе SR лежит концепция марковских цепей, описывающих вероятности переходов между различными состояниями (местами). Ключевым элементом является вычисление стационарного распределения вероятностей по этим цепям. Стационарное распределение π удовлетворяет уравнению $π = P^Tπ$ , где $P$ — матрица вероятностей переходов. Именно это стационарное распределение отражает долгосрочную вероятность нахождения в определенном состоянии, учитывая все возможные пути перемещения, и служит основой для кодирования пространственных отношений в гиппокампе.

Представление преемственности (Successor Representation, SR) может быть формализовано как граф, в котором узлы соответствуют местоположениям, а вероятности переходов между ними отражают динамику перемещения агента в среде. Каждый узел графа представляет собой конкретное состояние (местоположение), а вес ребра между двумя узлами указывает вероятность перехода из одного местоположения в другое. Активная роль гиппокампа в этом процессе заключается в формировании и обновлении этих весов переходов, кодируя информацию о вероятностях достижения различных мест из текущего местоположения. По сути, гиппокамп поддерживает структуру графа, отражающую вероятностную карту среды и обеспечивающую эффективное пространственное ориентирование и планирование маршрутов. $P(state_{t+1} = s' | state_t = s)$ представляет собой вероятность перехода из состояния s в состояние s’.

Исследование демонстрирует теоретическое соответствие между алгоритмом PageRank, используемым для ранжирования веб-страниц, и представлением преемственности (Successor Representation, SR), моделью, описывающей обучение и представление пространственных отношений в гиппокампе. Установлена прямая связь между коэффициентом телепортации в PageRank (α) и коэффициентом дисконтирования в SR (γ), при которой $α = γ$ . Это соответствие предполагает, что гиппокамп может функционировать как система, подобная поисковому алгоритму, использующему вероятностные переходы между состояниями для оценки «важности» местоположений, а коэффициент дисконтирования определяет скорость «затухания» влияния удаленных состояний, аналогично тому, как коэффициент телепортации в PageRank влияет на распределение вероятностей по веб-страницам.

Эффективное Внимание с Био-Вдохновленными Механизмами

Линейное внимание представляет собой вычислительно эффективную альтернативу традиционному механизму внимания в Transformer, достигаемую упрощением расчета весов внимания. В стандартном внимании, сложность вычислений составляет $O(n^2)$ , где $n$ — длина последовательности. Линейное внимание снижает эту сложность до $O(n)$ , заменяя матричное умножение ключей и запросов на операции, линейные по длине последовательности. Это достигается путем разделения этапов вычисления сходства и взвешивания, что позволяет выполнять вычисления параллельно и значительно ускоряет процесс, особенно для длинных последовательностей данных. Вместо вычисления полной матрицы внимания, линейное внимание оперирует векторами, что снижает потребление памяти и вычислительные затраты.

Данный подход к эффективному вниманию опирается на принципы сетей Хопфилда, используя косинусное сходство для определения взаимосвязей между состояниями. В сетях Хопфилда, косинусное сходство между векторами состояний используется как мера ассоциации, определяющая силу связи между ними. В контексте внимания, векторы состояний представляют собой запросы, ключи и значения, а косинусное сходство $\cos(\theta) = \frac{A \cdot B}{||A|| ||B||}$ вычисляется между ними для определения релевантности и формирования весов внимания. Это позволяет модели устанавливать ассоциации и извлекать информацию на основе схожести представлений, обеспечивая более эффективный и масштабируемый процесс по сравнению с традиционными механизмами внимания.

В отличие от стандартных моделей Transformer, использующих квадратичную сложность вычислений внимания, методы, основанные на графовой структуре и биологической правдоподобности, демонстрируют более эффективное масштабирование. Это достигается за счет моделирования взаимодействий между элементами как связей в графе, что позволяет использовать алгоритмы, требующие линейной или логарифмической сложности. Такой подход, вдохновленный принципами работы нейронных сетей мозга, позволяет обрабатывать последовательности большей длины с меньшими вычислительными затратами и потреблением памяти, что критически важно для задач, требующих анализа больших объемов данных, например, в обработке естественного языка и компьютерном зрении.

Генерация Текста с Извлечением Информации и Когнитивные Карты

Системы генерации текста, обогащенные поиском информации — или Retrieval Augmented Generation (RAG) — представляют собой инновационный подход к созданию более точных и осмысленных текстов. В отличие от традиционных моделей, которые полагаются исключительно на собственные знания, RAG объединяет возможности поиска релевантных данных с последующей генерацией текста на их основе. Этот симбиоз позволяет системе не только избегать фактических ошибок и галлюцинаций, но и предоставлять более полные и контекстуально обоснованные ответы. По сути, RAG действует как исследователь, который перед написанием текста изучает необходимые источники, что значительно повышает качество и достоверность генерируемого контента.

В современных системах генерации текста на основе извлечения информации (RAG) принципы графового мышления, в частности, алгоритм Personalized PageRank, позволяют значительно повысить релевантность и связность извлекаемых данных. Вместо простого поиска по ключевым словам, система строит граф знаний, где узлы — это фрагменты информации, а связи — их взаимосвязи. Personalized PageRank, в свою очередь, оценивает важность каждого фрагмента информации, учитывая не только его собственные характеристики, но и его связь с запросом пользователя и другими релевантными фрагментами. Таким образом, процесс извлечения информации смещается от простого поиска к интеллектуальному отбору наиболее значимых и логически связанных данных, что, в конечном итоге, приводит к генерации более точных, последовательных и контекстуально обоснованных ответов.

Синергия между извлечением информации и генерацией текста позволяет создавать системы, способные формировать контекстуально обоснованные и логически связные ответы, имитируя когнитивные процессы человеческого мозга. В частности, подобно тому, как мозг извлекает воспоминания и объединяет их для формирования целостной картины, эти системы способны находить релевантные фрагменты информации и синтезировать их в последовательные и осмысленные тексты. Такой подход значительно улучшает качество генерируемого контента, делая его более правдоподобным и полезным для пользователя, поскольку он основан не только на статистических закономерностях, но и на понимании контекста и логических связей между различными элементами информации. Это приближает искусственный интеллект к более естественному и гибкому способу обработки и представления знаний.

К Биологически Правдоподобному Искусственному Интеллекту

Активное умозаключение представляет собой объединяющую концепцию, позволяющую понять, каким образом мозг генерирует восприятие и действия, рассматривая их не как реакцию на внешние стимулы, а как процесс минимизации “свободной энергии” — расхождения между предсказаниями мозга и поступающими сенсорными данными. В этой модели, мозг постоянно строит и обновляет внутреннюю модель мира, предсказывая будущие события, а действия направлены на подтверждение этих предсказаний. Особую роль в этом процессе играют графовые представления, поскольку они позволяют эффективно моделировать сложные взаимосвязи между различными элементами окружающей среды и внутренними состояниями организма. Такой подход не только углубляет понимание когнитивных процессов, но и открывает новые возможности для создания искусственного интеллекта, способного к адаптивному обучению и эффективному взаимодействию с миром, приближая его к биологической правдоподобности.

Перспективные исследования в области искусственного интеллекта направлены на внедрение принципов активного вывода непосредственно в сквозные системы, что позволит создавать модели, отличающиеся не только высокой производительностью, но и прозрачностью и энергоэффективностью. Вместо традиционных подходов, требующих огромных вычислительных ресурсов, новые алгоритмы стремятся к имитации принципов работы мозга, где обработка информации происходит оптимально и с минимальными затратами энергии. Такой подход предполагает создание моделей, способных не только решать сложные задачи, но и объяснять логику своих решений, что критически важно для доверия и безопасного применения в различных областях, от медицины до автономных систем управления. Разработка подобных систем открывает путь к созданию действительно интеллектуальных машин, способных к адаптации, обучению и эффективному взаимодействию с окружающим миром.

Схождение нейронауки и искусственного интеллекта открывает перспективу качественно нового этапа в развитии когнитивных вычислений. Данное объединение позволяет надеяться на создание машин, способных не просто обрабатывать информацию, но и обучаться, рассуждать и взаимодействовать с окружающим миром подобно человеку. Вместо слепого выполнения заданных алгоритмов, такие системы смогут формировать собственные модели реальности, предсказывать последствия действий и адаптироваться к изменяющимся условиям. Подобный подход предполагает отход от традиционных методов машинного обучения в пользу более гибких и энергоэффективных решений, вдохновленных принципами работы человеческого мозга, что, в конечном итоге, приведет к созданию действительно разумных машин.

Исследование демонстрирует глубокую связь между, казалось бы, различными областями — от теории графов и алгоритма PageRank до функционирования гиппокампа и процессов памяти. Авторы показывают, что вычисление стационарного распределения случайного блуждания по графу может служить единым вычислительным механизмом для пространственной навигации и извлечения информации из памяти. Эта элегантная концепция находит отражение в словах Джона фон Неймана: «В науке не бывает случайных достижений; они всегда являются результатом глубоких мыслей». Действительно, предложенное объединение различных подходов требует строгого математического обоснования, а не просто эмпирического наблюдения, что полностью соответствует принципам доказательной науки.

Что Дальше?

Представленная работа, устанавливающая эквивалентность персонализированного PageRank и представлений последователей, лишь подчеркивает фундаментальную проблему: насколько адекватно мы моделируем когнитивные процессы с помощью инструментов, разработанных для анализа графов? Иллюзия упрощения, возникающая при сведении сложных нейронных механизмов к стационарному распределению случайного блуждания, требует критической оценки. Воспроизводимость результатов, а следовательно, и их достоверность, напрямую зависят от корректности построения графа и определения правил перехода. Любое отклонение от детерминированного алгоритма ставит под сомнение выводы.

Будущие исследования должны сосредоточиться не только на подтверждении связи между гиппокампом и графовыми моделями, но и на исследовании пределов применимости такого подхода. Ключевым вопросом является учет динамических изменений в графе — как мозг адаптируется к новым данным и как это влияет на процесс извлечения воспоминаний и планирования маршрутов. Игнорирование стохастичности, присущей нейронным сетям, может привести к созданию изящных, но нереалистичных моделей.

В конечном итоге, истинная элегантность не в упрощении, а в точности. Необходимо разработать строгие математические инструменты для верификации предложенных моделей и их сравнения с экспериментальными данными. Если результат нельзя воспроизвести, он лишен ценности. Поиск универсальной вычислительной рамки — благородная цель, но ее достижение требует неукоснительного следования принципам логики и доказательности.

Оригинал статьи: https://arxiv.org/pdf/2512.24722.pdf

Связаться с автором: https://www.linkedin.com/in/avetisyan/

Смотрите также:

2026-01-04 00:05