Математика с салфетками

от

Недавно опубликованный отчет Epoch AI оспаривает более ранние выводы, предполагающие, что ChatGPT потребляет примерно в 10 раз больше энергии на запрос по сравнению с поиском Google. Вместо этого в этом новом отчете утверждается, что ChatGPT потребляет меньше энергии, чем изначально предполагалось.

Пока крипто-инвесторы ловят иксы и ликвидации, мы тут скучно изучаем отчетность и ждем дивиденды. Если тебе близка эта скука, добро пожаловать.

Купить акции "голубых фишек"

Согласно отчету, генерация ответа с использованием ChatGPT на GPT-4o требует всего 0,3 Вт·ч энергии. В интервью TechCrunch Джошуа Ю, аналитик данных в Epoch AI, упомянул этот факт.

Использование энергии для этих устройств не является предметом особого беспокойства, если учесть повседневное использование бытовых приборов, отопление и охлаждение дома или даже вождение автомобиля.

Аналитик данных объяснил, что его исследование энергопотребления ChatGPT изначально было основано на устаревших исследованиях и завышенных цифрах. Он предположил, что широко распространенные предположения об энергопотреблении ChatGPT основывались на предположении, что OpenAI полагается на устаревшее, неэффективное оборудование для работы своих моделей ИИ.

По Вашему мнению:

Кроме того, несколько моих коллег указали, что часто упоминаемая цифра в 3 ватт-часа на запрос могла возникнуть из исследования, проведенного довольно давно. Быстрый расчет показывает, что это значение может быть потенциально переоценено.

Для ясности важно отметить, что оценка энергопотребления Epoch AI для ChatGPT — это скорее грубая догадка, чем точная цифра. Это связано с тем, что она не учитывает продвинутые функции ИИ, такие как возможности генерации изображений в чат-боте.

ChatGPT станет более энергоемким, поскольку OpenAI все больше опирается на модели рассуждений

Стоит отметить, что аналитик данных предположил, что энергопотребление ChatGPT, скорее всего, не увеличится, однако по мере усложнения этих моделей им может потребоваться больше энергии.

Это особенно актуально сейчас, поскольку ведущие исследовательские центры ИИ, такие как OpenAI, стремятся сосредоточиться на моделях решения проблем, которые работают более эффективно над сложными вопросами. Это, конечно, требует большего количества энергии.

Становится все более очевидным, что по мере того, как искусственный интеллект становится все более распространенным и сложным, для его эффективной работы требуются значительные объемы электроэнергии, средств и воды.

В течение некоторого времени различные источники делились информацией, предполагающей, что такие системы, как Microsoft Copilot и ChatGPT, требуют охлаждения, эквивалентного одной бутылке воды, для получения ответа на вопрос. Это произошло после того, как также было сообщено, что и Microsoft, и Google потребляют больше электроэнергии, чем общее потребление энергии более чем 100 странами вместе взятыми.

В более новом отчете было обнаружено, что модель OpenAI GPT-3 на самом деле использует в четыре раза больше воды, чем предполагалось изначально, а GPT-4 требует эквивалент трех бутылок воды для создания всего 100 слов. Похоже, что по мере того, как модели ИИ становятся все более сложными, они также, как правило, требуют все большей мощности и ресурсов. Тем не менее, похоже, что ChatGPT может быть не таким уж и прожорливым, как когда-то считалось.

Смотрите также

2025-02-12 21:44