Этот мини-ПК — первый, который я видел, с дискретным NPU для специализированных задач искусственного интеллекта. Есть только одна проблема.

Как энтузиаст технологий с многолетним опытом за плечами, я должен сказать, что сфера ИИ похожа на дикую границу, полную потенциала, но окутанную тайной. Последнее дополнение к этому рубежу, ThinkCentre neo Ultra, представляет собой интригующий пример из мира ПК с искусственным интеллектом.

📱 🚀 Перестаньте бесцельно прожигать жизнь! Присоединяйтесь к нашему Telegram-каналу @lospopadosos, чтобы узнавать последние новости о мобильных гаджетах. Потому что кому нужно реальное общение с людьми, когда вы можете наслаждаться чудесами технологий? 😎 💥 👇

top-mob.com Telegram

На этой неделе я работал над оценкой мини-ПК Lenovo ThinkCentre neo Ultra. Это элегантный, мощный и компактный настольный компьютер, о котором я поделюсь своими исчерпывающими мыслями в ближайшие дни. Однако в процессе я столкнулся с проблемой.

В дополнение к процессору Intel для настольных ПК и видеокарте NVIDIA, ThinkCentre neo Ultra также оснащен нейронным процессором (NPU). В отличие от большинства компьютеров с искусственным интеллектом, с которыми я сталкивался ранее, которые обычно имеют форму ноутбука и интегрированы в систему на кристалле (SoC), NPU является отдельным компонентом этой системы.

В ThinkCentre neo Ultra NPU разработан Kinara, компанией, которая представила свой NPU Ara-2 второго поколения в декабре 2023 года. По словам Kinara, этот NPU разработан для управления «периферийными серверами и ноутбуками с превосходной производительностью, экономической эффективностью и производительностью». и энергосбережение для запуска таких приложений, как видеоаналитика, модели большого языка (LLM), модели скрытой диффузии (LDM) и другие продвинутые модели генеративного искусственного интеллекта.

Я обнаружил, что вместо Kinara Ara-2 другие нейронные процессоры (NPU) отличаются друг от друга, поскольку они встроены в собственную плату M.2 и используют линии PCIe. Напротив, в Neo Ultra, насколько я могу судить, он, похоже, установлен на плате преобразования PCIe, которая вписывается в слоты графического процессора. Этот NPU имеет отдельный радиатор и компактный встроенный вентилятор. Довольно интригующе! Это моя первая встреча с NPU такого типа, и мне было очень интересно испытать его и сравнить с другими компьютерами искусственного интеллекта, которые мы тестировали.

Куда, ох куда делся мой НПУ?

Не понадобилось много времени, чтобы понять, что НПУ Кинара Ара-2 было видно только в диспетчере устройств, больше нигде оно не было видно. Однако, несмотря на то, что на странице продукта ThinkCentre neo Ultra хвастались «встроенными функциями искусственного интеллекта и программным обеспечением для повышения производительности и творчества», мне не удалось их найти.

Несмотря на сложность точного измерения, я не заметил каких-либо существенных изменений в результатах производительности независимо от того, был ли в системе активирован или деактивирован нейронный процессор (NPU). Даже встроенное приложение Lenovo Vantage, предназначенное для мониторинга оборудования, похоже, не подозревало, что устройство включает в себя дискретный NPU.

Нередко некоторые периферийные блоки следующего поколения (NPU), встречающиеся в процессорах AMD и Intel, не отображаются в диспетчере задач или инструментах тестирования до тех пор, пока не будут установлены обновления. Поскольку мы все еще находимся на ранней стадии создания ПК с искусственным интеллектом, есть некоторые проблемы, которые необходимо решить. Однако, пока они оказывают положительное влияние за кулисами, это совершенно нормально.

Я использую относительно простые методы для оценки ПК с искусственным интеллектом, по крайней мере, по сравнению с тем, что могли бы рассмотреть эксперты по искусственному интеллекту. Инструментами UL Procyon являются основные тесты AI Computer Vision и Geekbench AI, которые используются для оценки нейронных процессоров (NPU). Однако важно отметить, что эти параметры являются совершенно новыми и имеют свои ограничения.

Интересно наблюдать за случаями активации нейронного процессора (NPU) в ноутбуках, оснащенных искусственным интеллектом, поскольку он разработан для обеспечения улучшений искусственного интеллекта, используя меньше энергии по сравнению с центральными или графическими процессорами. Этот аспект особенно важен для устройств, работающих от аккумуляторов. Однако для настольного ПК, такого как neo Ultra, это может быть не так важно, учитывая, что он также может похвастаться графическим процессором RTX 4060, оснащенным ядрами Tensor, которые могут эффективно решать задачи искусственного интеллекта.

Отключение NPU Ara-2 в диспетчере устройств, похоже, не имело никакого значения в тестах производительности, которые я проводил, а его исключение из любых аппаратных мониторов означало, что я не мог видеть, когда и пытался ли он вмешаться, чтобы помочь другим приложениям. использовать инструменты ИИ. В конце концов я обратился в Lenovo за поддержкой.

Ответ Lenovo не такой, как я ожидал

Я обратился в службу технической поддержки Lenovo по поводу скрытых дискретных процессоров в ThinkCentre Neo Ultra, и их ответ после написания этой статьи для первоначальной публикации меня удивил.

Хотя NPU Kinara Ara-2 поставляется с предустановленным ПК, вам сказали, что его можно будет использовать только в приложениях после предстоящего обновления программного обеспечения. Конкретная дата выпуска этого обновления пока не объявлена.

Когда я спросил о заявлении из описания продукта, прилагаемом к моему обзорному блоку, в котором подчеркивается, как «сочетание графического процессора и автономного NPU превращает настольный компьютер ThinkCentre neo Ultra в мощный центр создания контента», мне сообщили, что полученная мной информация является не текущий.

Подобные недоразумения случаются часто, однако важно отметить, что на веб-сайте Lenovo, похоже, отсутствует информация о том, что NPU (нейронный процессор) будет функционировать только позже.

Действительно, сфера ПК, ориентированных на искусственный интеллект, быстро развивается, и производители стремятся не отставать от этого темпа. Однако человек, покупающий этот компьютер в надежде, что дополнительный NPU за 125 долларов будет работать безупречно, может испытать, как минимум, разочарование.

Бенчмаркинг AI-ПК нуждается в улучшении

Позвольте мне продолжить, повторив два момента, которые я высказал ранее, еще до того, как получил ответ от Lenovo. Во-первых, существующие инструменты сравнительного анализа ИИ кажутся недостаточными, а во-вторых, практическое применение компьютера ИИ для обычного пользователя остается несколько ограниченным. Эти наблюдения остаются актуальными и сегодня.

Это проблематично, когда компьютеры с искусственным интеллектом невозможно честно сравнить из-за рекламной шумихи и быстрого внедрения нового оборудования, поскольку это не приносит пользы потребителям. Если бы я не углубился в тестирование производительности нейронного процессора (NPU), я мог бы подумать, что он отключен, и приписывал любые плохие результаты тестов программному обеспечению для тестирования или моему собственному недостатку знаний.

Чтобы помочь обычному потребителю понять полезность компьютера с искусственным интеллектом, в рекламе «превосходства искусственного интеллекта» часто используется термин «триллион операций в секунду» (TOPS). Однако важно помнить, что TOPS служит скорее общим инструментом сравнения нейронных процессоров (NPU). NPU, оптимизированный для одной задачи, не будет соответствовать производительности другого NPU, предназначенного для другой задачи, даже если у них одинаковое количество TOPS. Например, тесты, проведенные с использованием OpenVINO, предпочтут процессоры Intel их конкурентов.

Как энтузиаст технологий, я в восторге от Kinara Ara-2, который может похвастаться производительностью около 40 TOPS. Он не сильно отстает от таких тяжеловесов, как AMD Ryzen AI 300 (50 TOPS), Intel Core Ultra Series 2 (48 TOPS) и Qualcomm Snapdragon X (45 TOPS). На данный момент, хотя у него есть возможность запускать инструменты Copilot+ в Windows 11, доступ ограничен. Однако в прошлом мы видели изменения в процессорах Intel и AMD, так что будем надеяться на будущие обновления, которые полностью раскроют его потенциал! На данный момент NPU в Neo Ultra будет задействован в другом месте в ожидании жизненно важного обновления программного обеспечения, которое воплотит его в жизнь.

Быстрое развитие моделей искусственного интеллекта опережает разработку стандартных тестов, используемых для оценки всех нейроморфных процессоров (NPU), что усложняет работу программного обеспечения для сравнительного анализа. В результате такие производители, как Lenovo, могут продавать ПК, оснащенные искусственным интеллектом, не имея простого метода тестирования и сравнения производительности искусственного интеллекта. Хотя это может быть выгодно для сборщиков ПК, это создает неудобства для потребителей, которые стремятся к точному сравнению при рассмотрении возможностей ИИ при своих покупках.

Вам действительно нужен компьютер с искусственным интеллектом и NPU?

Компьютеры с искусственным интеллектом становятся все более популярными, и многие недавно выпущенные ноутбуки включают в себя блоки нейронных процессоров (NPU). Однако эти достижения не могут существенно повлиять на ежедневное использование обычным пользователем. Большинство пользователей заметят, что NPU активируется для таких функций, как эффекты Windows Studio, но помимо этого вам может быть сложно найти для него практическое применение.

Если говорить непосредственно о модели ThinkCentre neo Ultra, то она предназначена для экспертов в области искусственного интеллекта, которым нужен компактный компьютер, оснащенный высокопроизводительным процессором и графическим процессором для настольного использования. NVIDIA RTX 4060 обеспечивает мощность примерно 242 ТераОпс в секунду (TOPS) от своих тензорных ядер, что значительно превосходит 40 TOPS, обеспечиваемые Ara-2. Это приблизительная оценка власти, но она представляет собой значительный разрыв между ними.

Трудно взять рекламную речь, сопоставить ее с реальными испытаниями и дать точные советы по покупке обычному пользователю ПК, когда все так запутано. Ситуация становится еще сложнее, когда такие огромные компании, как Lenovo, начинают рекламировать и продавать оборудование искусственного интеллекта, которое невозможно использовать, поскольку программное обеспечение еще не догнало конкурентов.

В этой статье еще раз стало ясно, что компьютеры с искусственным интеллектом, по сути, являются новорожденными на стадии своего развития, и я по-прежнему считаю, что большая часть маркетинга искусственного интеллекта — это просто шумиха. Я настоятельно призываю Lenovo разместить на своем сайте заявление об отказе от ответственности, признающее, что NPU не будет работать без предстоящего обновления программного обеспечения. Такая прозрачность необходима, даже несмотря на то, что в мире компьютеров с искусственным интеллектом сохраняется неукротимая атмосфера Дикого Запада. Ждите моего подробного обзора ThinkCentre neo Ultra в ближайшем будущем.

Смотрите также

2024-12-06 15:11