Google раскрыла, сколько энергии и воды уходит на один запрос к ИИ

Отсутствие точных цифр вызывало споры о влиянии массового использования ИИ на окружающую среду. До публикации Google лишь генеральный директор OpenAI Сэм Альтман давал оценки: в июне он писал, что средний запрос ChatGPT потребляет «около 0,34 ватт-часа».

Google разработала собственную методологию расчетов, которая, по ее утверждению, учитывает больше факторов, чем традиционные подходы. В расчет включены не только энергопотребление графических процессоров, но и нагрузка на центральные процессоры, оперативную память, системы охлаждения и простаивающие машины.

По классическому расчету средний запрос Gemini потребляет 0,10 ватт-часа энергии, производит 0,02 грамма углекислого газа и использует 0,12 миллилитра воды. Google считает эти показатели «существенно заниженными» и «оптимистичными».

Собственная методика компании дала более высокие, но, по мнению Google, более точные оценки: 0,24 ватт-часа энергии, 0,03 грамма CO₂ и 0,26 миллилитра воды (примерно пять капель). Это соответствует просмотру телевизора около девяти секунд, говорят в компании.

Компания также отметила рост эффективности: за последние 12 месяцев энергетический след медианного запроса Gemini снизился в 33 раза, а углеродный след — в 44 раза, при этом качество ответов выросло.

Для повышения эффективности используют разные подходы: максимизация производительности оборудования, гибридные алгоритмы, дистилляция моделей и спекулятивное декодирование. Последний метод позволяет меньшему числу процессоров обрабатывать больше запросов: предварительные прогнозы делает более компактная модель, а затем их проверяет крупная.

Читать далее:

Посмотрите, как сотни сомов взбираются вверх по водопаду

Самая далекая звезда — не то, чем кажется, считают астрономы

Близорукость предлагают лечить без лазера: корректировать зрение с помощью тока

_{Изображение на обложке: Google}

The post Google раскрыла, сколько энергии и воды уходит на один запрос к ИИ appeared first on Хайтек.