ChatGPT의 탄소 발자국

OpenAI ChatGPT 와 같은 큰 것이 나올 때 ClimateAction.Tech 커뮤니티의 첫 번째 생각은 "오, 해보자!"가 아니라 "음, 탄소 발자국이 무엇인지 궁금합니다."입니다. 인터넷은 지구상에서 가장 큰 석탄 동력 기계 이기 때문에 트래픽이 많은 모든 것은 많은 양의 CO₂를 배출할 가능성이 높습니다. 그래서 우리가 얼마나 많은 일을 할 수 있는지 보자...

ChatGPT의 호스팅 비용에 대한 이 트윗 은 응답의 각 단어가 A100 GPU에서 350ms가 걸린다는 추정으로 시작됩니다. 그런 다음 응답당 30단어와 일일 응답 수를 추측합니다.

각각 10개의 질문이 있는 백만 명의 사용자 =
10,000,000개의 응답 =
하루에 300,000,000 단어
* 단어당 0.35초 / 시간당 3,600초
= 하루에 A100 GPU 시간 29,167시간

Cloud Carbon Footprint 는 Azure 데이터 센터의 A100에 대해 최소 46W 및 최대 407W의 전력 소비를 나열합니다( MIN_WATTS_BY_COMPUTE_PROCESSOR및 참조 MAX_WATTS_BY_COMPUTE_PROCESSOR). 많은 ChatGPT 프로세서가 유휴 상태가 아니므로 해당 범위의 상단에서 소비할 것으로 예상됩니다.

29,167시간 * 407W =
하루 11,870kWh

ChatGPT는 캘리포니아에서 호스팅되며 Cloud Carbon Footprint(동일한 파일)에 따르면 미국 서부의 배출 계수는 0.000322167톤/kWh라고 합니다. 따라서 CO₂ 발자국은 다음과 같습니다.

0.000322167 * 11,870 =
3.82tCO₂e/일

이는 연간 약 15tCO₂e 의 평균 미국인 발자국의 약 3개월입니다 . 또는 다른 말로 하면 미국인 93명의 CO₂ 배출량과 동일합니다.

이 빠른 분석에서 누락된 사항:

• 모델 훈련으로 인한 배출량. 단일 ChatGPT 인스턴스의 CO₂ 발자국에 대한 기사 에서 Kasper Groes Albin Ludvigsen은 이를 522tCO₂e로 나열합니다. 이러한 배출량은 모델 수명 동안 상각됩니다.
• ChatGPT에 액세스하는 최종 사용자 장비의 CO₂ 배출량. 여기에는 전력 소비와 장치 생산 및 폐기로 인한 배출량이 포함됩니다. 이는 아마도 설치 공간의 가장 큰 구성 요소일 것이며 어떤 장치가 어디에서 ChatGPT에 액세스하는지 모르면 계산이 불가능합니다. OpenAI는 Website Carbon Calculator 와 유사한 것을 서비스에 추가하면 이에 대한 몇 가지 아이디어를 제공할 수 있습니다.
• 네트워킹, RAM 및 SSD와 같은 비 GPU 방출
• 데이터 센터의 구체화된 탄소