L'empreinte carbone de ChatGPT

Quand quelque chose d'aussi gros que OpenAI ChatGPT arrive, la première pensée de la communauté de ClimateAction.Tech n'est pas "Ooh, essayons !", mais plutôt "Hmm, je me demande quelle est son empreinte carbone ?". Étant donné qu'Internet est la plus grande machine à charbon de la planète , tout ce qui reçoit beaucoup de trafic émettra probablement beaucoup de CO₂. Voyons donc si nous pouvons calculer combien…

Ce tweet sur le coût d'hébergement de ChatGPT commence par une estimation selon laquelle chaque mot de réponse prend 350 ms sur un GPU A100. Il devine ensuite 30 mots par réponse et le nombre de réponses par jour :

1 million d'utilisateurs avec 10 questions chacun =
10 000 000 réponses =
300 000 000 mots par jour
* 0,35 s par mot / 3 600 secondes par heure
= 29 167 heures de temps GPU A100 par jour

Cloud Carbon Footprint répertorie une consommation électrique minimale de 46 W et maximale de 407 W pour un A100 dans un centre de données Azure (voir MIN_WATTS_BY_COMPUTE_PROCESSORet MAX_WATTS_BY_COMPUTE_PROCESSOR). Je suppose que peu de processeurs ChatGPT sont inactifs, donc je m'attends à ce qu'ils consomment à l'extrémité supérieure de cette plage.

29 167 heures * 407 W = 11 870
kWh par jour

Je crois que ChatGPT est hébergé en Californie, et Cloud Carbon Footprint (même fichier) indique que le facteur d'émission pour l'ouest des États-Unis est de 0,000322167 tonnes/kWh. L'empreinte CO₂ est donc de :

0,000322167 * 11 870 =
3,82 tCO₂e par jour

Cela représente environ 3 mois de l'empreinte d'un Américain moyen d'environ 15 tCO ₂ e par an . Ou, en d'autres termes, le même taux d'émission de CO₂ que 93 Américains.

Ce qui manque à cette rapide analyse :

• Émissions provenant de la formation du modèle. Dans un article sur l'empreinte CO₂ d'une seule instance de ChatGPT , Kasper Groes Albin Ludvigsen l'énumère à 522 tCO2e. Ces émissions sont amorties sur la durée de vie du modèle
• Émissions de CO₂ de l'équipement de l'utilisateur final accédant à ChatGPT . Cela comprend la consommation d'énergie et une part des émissions provenant de la production et de l'élimination de l'appareil. C'est probablement le composant le plus important de son empreinte et impossible à calculer sans savoir quels appareils accèdent à ChatGPT et d'où. OpenAI pourrait en donner une idée s'il ajoutait quelque chose de similaire au Website Carbon Calculator au service.
• Émissions non GPU comme le réseau, la RAM et les SSD
• Le carbone incarné du datacenter