Intel следует за AMD в добавлении важной функции в Core Ultra — особенно если вы используете локальный искусственный интеллект.

В течение некоторого времени AMD включала привлекательную функцию в свои APU (ускоренные вычислительные блоки), которая привлекает внимание как геймеров, так и пользователей локального искусственного интеллекта — переменную графическую память. Недавно Intel решила внедрить аналогичную функцию для своих процессоров Core Ultra.

Пока крипто-инвесторы ловят иксы и ликвидации, мы тут скучно изучаем отчетность и ждем дивиденды. Если тебе близка эта скука, добро пожаловать.

Купить акции "голубых фишек"

По словам Боба Даффи из Intel, о чем сообщает VideoCardz, новая функция переопределения общей графической памяти GPU включена в самое последнее обновление драйверов Arc.

Итак, что это?

Проще говоря, подобно последним моделям APU от AMD, теперь у вас будет возможность выделить определенную часть общей системной оперативной памяти для графического процессора. Эта функция может улучшить игровой опыт, но особенно полезна при запуске локальных больших языковых моделей (LLM) на вашем компьютере.

В настоящее время Ollama не предлагает интеграцию с GPU, в отличие от таких платформ, как LM Studio, которые могут использовать более крупные модели, такие как gpt-oss:20b, на GPU вместо CPU для более быстрой обработки.

Эти модели могут эффективно работать без явного выделения большего объема памяти графическому процессору, хотя это и имеет свои преимущества. Однако процессоры Intel Core Ultra в настоящее время не поддерживают истинную Объединенную память, как, например, в компьютерах Apple Mac или новейших чипах AMD Strix Halo. Хотя это может показаться похожим, это не так. Эта функция была бы излишней в системе с Объединенной памятью.

Основываясь на моих ограниченных экспериментах с AMD Ryzen AI 9 HX 370, который не поддерживает унифицированную память, значительное увеличение выделенной памяти графическому процессору может улучшить производительность.

Как наблюдатель, я заметил, что в GPT-oss:20b наблюдается значительный прирост производительности – примерно на 5 токенов в секунду выше – когда модель может быть полностью загружена в выделенную память графического процессора с контекстным окном 4k, по сравнению со случаем, когда она полагается на общую системную память.

Вы можете использовать графический процессор для вычислительных задач, но используя только оперативную память, производительность будет ниже. Оптимальным вариантом было бы выделить достаточно выделенной памяти графического процессора для загрузки модели, обеспечивая лучшую общую производительность.

Компания Intel теперь позволяет пользователям процессоров Core Ultra регулировать резервирование памяти графического процессора с помощью простого ползунка в своем графическом программном обеспечении. Однако пока неясно, распространяется ли это на все модели Core Ultra или только на серию Core Ultra 2.

При работе с более крупной моделью, такой как gpt-oss:20b, я разделяю 32 ГБ памяти поровну на две части. 16 ГБ выделяются для графического процессора, а оставшиеся 16 ГБ резервируются для других системных функций. Такая настройка гарантирует, что вся модель помещается в память графического процессора, оставляя остальные системные ресурсы нетронутыми.

Чтобы добиться максимальной производительности от большой языковой модели, эффективнее использовать графический процессор, если он доступен, вместо того чтобы полагаться только на центральный процессор. Фактически, даже интегрированные графические процессоры могут дать лучшие результаты, чем использование только центрального процессора в данном конкретном случае.

Безусловно, важно помнить, что всё относительно. Если в вашей системе всего 16 ГБ оперативной памяти, вы не можете просто выделить всю её для работы Большой Языковой Модели (LLM), так как компьютеру также нужна память для других задач, выполняемых под управлением Windows. Было бы полезно зарезервировать как минимум 8 ГБ памяти для остальных системных операций.

Чтобы использовать новую функцию переопределения общей видеопамяти, убедитесь, что у вас установлены последние драйверы для графических процессоров Intel. Обратите внимание, что эта функция актуальна только в том случае, если ваш компьютер использует исключительно встроенную графику Arc. Системы с дискретными графическими процессорами, оснащенными собственной видеопамятью, не нуждаются в этой функции и обычно обеспечивают лучшую производительность в любых сценариях.

Если вы используете локальные языковые модели в вашей системе Core Ultra, эта новая функция потенциально может улучшить ваши задачи, связанные с искусственным интеллектом, обеспечив небольшое увеличение производительности.

Смотрите также

2025-08-18 16:09