«AI Energy Score: Новый инструмент для оценки энергопотребления ИИ и повышения экологической прозрачности»

Разработчик Hugging Face Жюльен Делаванде представил инструмент под названием AI Energy Score, который позволяет оценивать объем электроэнергии, расходуемой на запросы к искусственному интеллекту.

Этот сервис отображает энергопотребление графических процессоров в киловаттах или джоулях для каждого отправленного сообщения. Для удобства используется также сравнение с другими параметрами, такими как процент заряда батареи смартфона, время работы микроволновой печи или функционирования светодиодных ламп.

«Небольшие экономии в области энергопотребления могут иметь значительное значение при миллионах запросов — выбор модели или длина текста могут существенно повлиять на экологическую ситуацию», — указано на странице инструмента.

Сервис совместим с моделями Qwen 2.5 7B, Llama, Gemma и Mistral.

Он предоставляет данные об энергозатратах в режиме реального времени. Например, если попросить Llama 3.3 70B написать стандартное письмо, это потребует примерно 0,1841 Вт·ч, что соответствует работе микроволновой печи в течение 0,12 секунд или тостера — 0,02 секунд.

Делаванде обращает внимание на то, что точность полученных данных не абсолютная, однако они подчеркивают, что любой сервис, включая чат-ботов, имеет свои затраты на энергопотребление.

«Проекты, такие как AI Energy Score, а также более глубокие исследования энергетического следа искусственного интеллекта, способствуют увеличению прозрачности в сообществе разработчиков с открытым исходным кодом. В будущем энергетические затраты могут стать столь же очевидными, как и этикетки на продуктах питания», — отметил разработчик.

Напомним, что в апреле CEO OpenAI Сэм Альтман заявил, что компания потратила десятки миллионов долларов на вежливые ответы пользователей, которые писали «пожалуйста» и «спасибо».

В августе 2024 года исследование, проведенное Bitcoin Policy Institute, показало, что потребление энергии ИИ, вероятно, уже превысило затраты на майнинг биткоина.

В декабре Google и Microsoft объявили о планах по «озеленению» процесса получения энергии и систем охлаждения своих дата-центров.