— Когда я последний раз интересовался результатами сравнения программиста с GPT-3, то видел такие усреднённые расчёты:
Человек в сутки потребляет 2,9 Квт/ч примерно, а мозг — до 20% всей энергии. Средний расчёт часа работы программиста, если его заменить на ИИ, будет порядка 1000 небольших запросов для средней сложности задачи. Один такой запрос будет расходовать около 0,001 Квт/ч. Таким образом ИИ в среднем обходится в 1Кквт/ч.
Дальше можно уже считать в зависимости от того, сколько программист работает в сутки.
Что-то мне подсказывает (хотя я уверен), что с инкрементом версии в GPT хорошо растёт число киловатт, которые он потребляет (особенно, если учесть мультимодальность и всё более сложные запросы). Но самая большая проблема не в этом — а в инфраструктуре которая способна это все обслужить. Германия, например, лидер по количеству ЦОДов в ЕС, но помимо ЦОДов (2% электричества) есть ещё другая промышленность, которая тоже хочет расти (и в вопросе потребления электроэнергии тоже — 38% электричества). Есть электротранспорт и его доля тоже растёт (и все хотят, чтобы увеличивалось количество электрозаправок и скорость заправки) — а это всё про апгрейд линий и их мощности. А есть ещё жаркое лето и количество кондиционеров…
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.