ИИ тратит до 180 раз больше энергии на неанглийские запросы
Учёные из Мичиганского университета выяснили, что обработка запросов к ИИ на разных языках требует сильно разного количества энергии: для неанглийских запросов затраты превышают английские в 1,4–180 раз. Исследование охватило 122 языка и пять моделей — Qwen 3 с 8, 14 и 32 млрд параметров, Gemma 3 с 27 млрд параметров и Llama 3.1 с 8 млрд параметров.
Измерения проводились системой ML.Energy на двух видеокартах NVIDIA — L40S и RTX 6000 Pro Blackwell. Суммарные затраты на одинаковый набор запросов различались в 179 раз: 17,6 кДж для английского языка против 3147 кДж для пушто. На один выходной токен максимальная разница достигала 8,3 раза.
Главная причина — большее число токенов: токенизаторы, обученные в основном на латинице, дробят слова из других систем письма на большее число фрагментов. Для языков с малым объёмом обучающих материалов модели также давали более длинные ответы — иногда в 20–25 раз длиннее английских по числу выходных токенов. Это повышало требования к памяти и снижало эффективность использования видеокарт.
Генерация текста на хинди требует в среднем в 7,9 раза больше энергии, чем на английском, на бенгальском — в 15,3 раза. Для большинства западноевропейских языков разница может быть двукратной. Языки с большими вычислительными затратами в среднем показывали худшие результаты в тестах Belebele, GSM8K и LM-Arena.
Около 5,2 млрд человек говорят на языках, обработка которых требует минимум вдвое больше энергии, чем английского, что может увеличить стоимость коммерческих ИИ-сервисов для них: многие поставщики считают цену по числу токенов. Авторы предлагают оптимизировать модели под отдельные языки, направлять запросы к подходящим моделям, переводить их на английский при достаточном качестве перевода или расширять обучающие материалы на редких языках с привлечением носителей.