Войти

Или войди с помощью

Сколько электричества тратит нейронка на один запрос, на 10 запросов в день и в месяц

Кодекс avatar |
Сколько электричества тратит нейронка на один запрос, на 10 запросов в день и в месяц

Про искусственный интеллект часто пишут, что он потребляет чудовищно много энергии. В ход идут яркие сравнения вроде чайника, который «вскипает при каждом запросе», или телевизора, который «горит часами». В этих спорах смешивают разные вещи.

За последний год появились понятные оценки именно для одного обычного текстового запроса. Цифры позволяют сравнивать не впечатления, а реальность.

Мы собрали аккуратные прикидки в бытовых единицах и с простыми примерами, чтобы каждый мог быстро понять, стоит ли вообще беспокоиться на эту тему.

Ключевая цифра

Данные далее взяты из отчётов Google и OpenAI по расходам электроэнергии на работу нейросетей Gemini и ChatGPT.

Итак, один типичный текстовый запрос к крупной модели тратит примерно от 0,24 до 0,30 Вт-ч.

Это очень мало, сравните:

▪ микроволновка 1000 Вт, 1 секунда: 0,28 Вт-ч
▪ светодиодная лампа 9 Вт, 120 секунд: 0,30 Вт-ч
▪ зарядка смартфона 5 Вт, 180 секунд: 0,25 Вт-ч
▪ ноутбук 50 Вт, 20 секунд: 0,28 Вт·ч

Но что, если запросов будет много?

⚡️ Берём ориентир от 0,24 до 0,30 Вт·ч за один текстовый запрос.

📍 1 запрос: от 0,24 до 0,30 Вт-ч.

📍 10 запросов в день: от 2,4 до 3,0 Вт-ч.

📍 Месяц по 10 в день: примерно от 0,07 до 0,09 кВт-ч.

Если учитывать работу дата-центра целиком, то есть наличие охлаждения и вспомогательных систем, то можно прибавить сверху от 10 до 20 процентов.

Сколько это в деньгах. Умножьте месячные кВт-ч на цену за кВт-ч в вашем регионе. Для примера. 0,07–0,09 кВт-ч в месяц превращаются в меньше одного рубля при тарифе 8 руб. за кВт-ч.

Если делать 1 запрос в день, то получится 0,00024–0,00030 кВт-ч. При тарифе 8 рублей за кВт-ч это примерно 0,002–0,0024 рублей в день. То есть две десятые копейки.

А за месяц при 1 запросе в день получается около 0,06–0,07 рублей в месяц. Это шесть–семь копеек.

Когда расход электричества на запрос вырастает

Когда пишете длинные промпты и очень объёмные ответы. Больше текста означает больше вычислений, всё просто.

Выбираете сложные режимы ИИ. Картинки, видео и аудио всегда «тяжелее» чистого текста, для них требуется больше мощностей, соответственно, и энергии тоже нужно больше.

Используете менее эффективные площадки. Частные компании не могут соперничать с гигантами рынка ИИ в этом плане. У первых выше накладные расходы на охлаждение и электрику, поэтому потребление энергии получается больше.

Для обычной переписки этот нюанс почти не заметен. Ориентир остаётся тем же: от 0,24 до 0,30 Вт-ч за текстовый запрос.

Почему тогда так много страшилок про это

Чаще всего в одном разговоре смешивают обучение и ответы на вопросы пользователей. Обучение действительно тянет большие мощности серверов и звучит пугающе.

Вторая причина связана с ранними грубыми оценками нейросетей старого типа и отдельными тяжёлыми запросами, которые не отражают повседневную работу людей с нейронками.

Есть и споры о методиках. Например, как учитывать воду на охлаждение и как считать углеродный след. Для человека, который просто задаёт вопросы, важен порядок величины в реализации «спросил и получил ответ». Здесь цифры стабильно невелики, в чём вы уже убедились.

Можно ли как-то повлиять на расход энергии

Если хотите сократить свой углеродный след (и доверяете «зелёной» пропаганде западных энергетических компаний), то:

Считать расход просто. Для текста берите от 0,24 до 0,30 Вт-ч на запрос. Если хотите подстраховаться, прибавьте от 10 до 20 процентов на инфраструктуру.

Например, один абзац текста – это от пятидесяти до ста двадцати слов. Они укладываются укладывается в диапазон 0,24–0,30 Вт-ч.

Формулируйте запрос точнее. Короткие и понятные запросы экономят и время, и токены, и энергию

Держите контекст разумным. Не подгружайте лишние вложения и длинные фрагменты без необходимости.

Вывод

Один текстовый запрос к нейросети потребляет десятки сотых ватт-часа. Даже если задавать по десять вопросов в день, за месяц набегают десятые доли киловатт-часа и символические деньги.

Важно помнить про масштаб. На уровне одного человека экономия получается не на уровне счёта за свет, за счёт разумного использования. Чёткая формулировка, умеренная длина контекста и понимание того, что повседневный инференс — это крошечная доля киловатт-часа, а не «чайник на каждую мысль».

Так что пользуйтесь нейронками спокойно. Развернуть дома на личном ПК локальную нейросеть более-менее приличного уровня будет всё равно гораздо «дороже», чем пользоваться облачной, где всё оптимизировано по-максимуму.

3
1
Что-то пошло не так
5
undefined
iPhones.ru
Про искусственный интеллект часто пишут, что он потребляет чудовищно много энергии. В ход идут яркие сравнения вроде чайника, который «вскипает при каждом запросе», или телевизора, который «горит часами». В этих спорах смешивают разные вещи. За последний год появились понятные оценки именно для одного обычного текстового запроса. Цифры позволяют сравнивать не впечатления, а реальность. Мы собрали...

Войди и оставь комментарий

Или войди с помощью

<- Назад Забыли пароль? Войти
  1. Dmitry Pal avatar
    Dmitry Pal 4 сентября в 18:30
    0

    Интересно было бы экстраполировать “примерно от 0,24 до 0,30 Вт-ч. Это очень мало” примерно на объем запросов в месяц к самым популярным Топ-10 ИИ (текстовые, музыкальные, видео, рисунки) и потом оценить – сколько это в АЭС ))) 

    Войди на сайт, чтобы ответить
    Ответить
  2. Йода avatar
    Йода 4 сентября в 19:05
    0

    “типичный текстовый запрос” можно посмотреть? ;) А то запрос, “как называется спутник Земли” очень отличается от запроса “Проанализируй 2 часа этого видео и замени персонажи на мультяшные”.

    Войди на сайт, чтобы ответить
    Ответить
  3. Растишка Данонович avatar
    Растишка Данонович 4 сентября в 19:58
    0

    Читал статью 2 минуты, потратил 3вт

    Войди на сайт, чтобы ответить
    Ответить
  4. ivanova_3vypu@rambler.ru avatar
    [email protected] 4 сентября в 20:27
    0

    Скоро за каждый запрос к чату гпт будем платить эко-налог. Илон Маск уже строит для них отдельную солнечную электростанцию, ага

    Войди на сайт, чтобы ответить
    Ответить
  5. Reuel avatar
    Reuel 5 сентября в 16:20
    0

    В популярном сервисе openrouter генерируется сейчас 3,7 триллиона токенов в неделю. Модели разные по размеру, но все равно это порядка 1-2ГВт в неделю, что казалось бы много, но в общемировых масштабах копейки.

    Войди на сайт, чтобы ответить
    Ответить
Помни о правилах — если начал оффтопить, то не удивляйся потом.

Нашли орфографическую ошибку в новости?

Выделите ее мышью и нажмите Ctrl+Enter.