Я превратил PowerToys Run в чатбота на базе ИИ, и хотя это напоминает эксперимент по концепции, это все равно очень впечатляюще.

Искусственный интеллект (ИИ) сегодня пронизывает практически все аспекты нашей жизни, и его присутствие сложно не заметить. Несмотря на то что некоторые могут относиться к нему скептически, ИИ предлагает множество практических применений, которые помогают упростить наши повседневные задачи.

Пока крипто-инвесторы ловят иксы и ликвидации, мы тут скучно изучаем отчетность и ждем дивиденды. Если тебе близка эта скука, добро пожаловать.

Купить акции "голубых фишек"

Чатботы, которые широко распространены среди технологий искусственного интеллекта, таких как ChatGPT и Copilot, работают наиболее эффективно при наличии доступа к облачной сети для оптимальной производительности.

Хотя это не единственный способ применения больших языковых моделей искусственного интеллекта, сегодня доступно множество удобных для пользователя инструментов, позволяющих реализовать такую технологию на персональных устройствах ближе к дому.

Использование стороннего подключаемого модуля в сочетании с PowerToys Run — отличным заменителем меню ‘Пуск’ в Windows 11 — позволяет настроить локального чат-бота на базе ИИ, доступ к которому можно получить по простому сочетанию клавиш клавиатуры.

Настройка этого требует некоторых начальных усилий, и в настоящее время это может быть не слишком быстро, однако доказательство концепции несомненно впечатляет. После эксперимента с этим лично я смог разработать своего личного чат-бота на базе AI от PowerToys Run, который кажется мне весьма убедительным.

ПауэрТуз + Оллама = местный ИИ-чатбот на любом компьютере с Windows 11

Проще говоря, когда речь идет о PowerToys, его роль прежде всего в пользовательском интерфейсе. Он использует внешний модуль для связи с Ollama, программным обеспечением, которое фактически выполняет модель обучения языку (LLM).

Для начала работы необходимо сначала настроить оба компонента. Это не слишком сложно, и репозиторий Ollama на GitHub может служить полезным стартовым пунктом. Однако имейте в виду, что для наилучших результатов требуется видеокарта AMD или NVIDIA.

По сути, Ollama работает как инструмент командной строки (CLI), что означает его использование в терминальной среде. Однако можно интегрировать графический интерфейс пользователя (GUI), если необходимо, но для наших текущих целей эта дополнительная функция не требуется.

После установки возможно возникнет желание получить последнюю версию Llama, а именно 3.1. По умолчанию плагин настроен на это. Для этого откройте терминал и введите команды в PowerShell следующим образом:

ollama pull llama3.1

Если вы ищете быстрый способ протестировать плагин без изучения последней версии, то Llama 3.1 будет вашим оптимальным выбором для загрузки. Тем не менее, вы можете настроить используемую языковую модель в настройках приложения PowerToys. Просто выберите ту модель, которая лучше всего подходит для ваших нужд.

Чтобы использовать этот инструмент, необходимо установить плагин PowerToys-Run-LocalLLmm. Вы можете получить его, загрузив с GitHub репозитория и затем распаковав в папку на вашем компьютере, где хранятся плагины для PowerToys Run.

Например, на моём ПК он прошёл следующий путь:

LOCALAPPDATA%\Microsoft\PowerToys\PowerToys Run\Plugins

После этого просто убедитесь, что вы закрыли и перезапустили PowerToys, чтобы изменения вступили в силу.

Прост в использовании и отличный пример интеграции искусственного интеллекта при работе на ПК с Windows 11

Чтобы запустить выбранную функцию Live Local Machine (LLM) в PowerToys Run, просто введите ‘llm’, за которым следует ваш запрос. Для коротких запросов ответ придет быстро, но если вы зададите более развернутый вопрос, вам возможно придется немного подождать результатов.

Судя по тому, что я понимаю, причина этого заключается в том, что оно выдает весь ответ одновременно. Однако если вы используете Ollama через терминал, то он будет отображать реакцию слово за словом. Следовательно, время выполнения может не сильно отличаться, но из-за способа отображения результатов вы можете заметить меньшую активность.

Проще говоря, у вас может быть ощущение замедленной работы мозга, и это правда отчасти, но есть объяснение этому. Значимую роль играет также аппаратное обеспечение вашего компьютера. Например, у меня видеокарта RTX 5080, которая без проблем справляется с Ollama. Если же у вас менее мощное оборудование, то безусловно можете столкнуться с увеличенными временами ожидания.

Одним из возможных решений для немедленного решения этой проблемы является автоматическое усечение длинных ответов вашим плагином. Так как плагин сам по себе не вызывает прокрутку, важно вручную настроить размер окна PowerToys Run, чтобы вмещать более длинные результаты.

Чтобы расширить область отображения для результатов поиска, измените настройку под названием ‘Количество видимых результатов перед прокруткой’ в основном приложении PowerToys, увеличив её значение. Обратите внимание, что несмотря на это изменение, сам плагин не начнет прокрутку, но предоставит вам большую область результатов.

В этом посте изображения размещены с интервалом в 10 единиц. Увеличение этого значения делает видимыми больше пространства. Если части изображения всё еще обрезаны, вы можете скопировать изображение целиком, нажав кнопку ‘copy’, а затем вставить его в текстовый редактор для лучшего просмотра.

По сути, эта конфигурация идеально подходит для моих ежедневных потребностей в Windows 11. Почему же нельзя интегрировать Copilot непосредственно в систему, подобно тому как Microsoft встраивает его в другие приложения? Учитывая его широкое применение на различных платформах, это кажется уместным.

Основное преимущество, которое я вижу в использовании PowerToys Run, заключается в том, что я использую его чаще любого другого инструмента на Windows 11. В отличие от других инструментов, которые могут прерывать мой рабочий процесс, требуя помощи искусственного интеллекта, PowerToys интегрирует эту функцию гладко. Кроме того, поскольку он работает локально, а не зависит от облачных сервисов, я настоятельно предпочитаю использовать именно его.

Смотрите также

2025-05-12 17:06