Jejak karbon ChatGPT

Ketika sesuatu sebesar OpenAI ChatGPT hadir, pikiran pertama komunitas di ClimateAction.Tech bukanlah “Ooh, ayo coba!”, melainkan “Hmm, saya ingin tahu apa jejak karbonnya?”. Karena internet adalah mesin bertenaga batu bara terbesar di planet ini , apa pun yang mendapat banyak lalu lintas kemungkinan akan mengeluarkan banyak CO₂. Jadi mari kita lihat apakah kita bisa mengetahui berapa banyak ...

Tweet tentang biaya hosting ChatGPT ini dimulai dengan perkiraan bahwa setiap kata respons memerlukan waktu 350 md pada GPU A100. Kemudian menebak 30 kata per tanggapan dan jumlah tanggapan per hari:

1 juta pengguna dengan 10 pertanyaan masing-masing =
10.000.000 tanggapan =
300.000.000 kata per hari
* 0,35 detik per kata / 3.600 detik per jam
= 29.167 jam waktu GPU A100 per hari

Cloud Carbon Footprint mencantumkan konsumsi daya minimum 46W dan maksimum 407W untuk A100 di pusat data Azure (lihat MIN_WATTS_BY_COMPUTE_PROCESSORdan MAX_WATTS_BY_COMPUTE_PROCESSOR). Saya kira tidak banyak prosesor ChatGPT yang menganggur jadi saya perkirakan mereka mengonsumsi di ujung atas kisaran itu.

29.167 jam * 407W =
11.870kWh per hari

Saya yakin ChatGPT dihosting di California, dan Cloud Carbon Footprint (file yang sama) mengatakan bahwa faktor emisi untuk AS bagian Barat adalah 0,000322167 ton/kWh. Jadi jejak CO₂ adalah:

0,000322167 * 11.870 =
3,82 tCO₂e per hari

Itu berarti sekitar 3 bulan dari jejak rata-rata orang Amerika sekitar 15 tCO₂e per tahun . Atau dengan kata lain tingkat emisi CO₂ yang sama dengan 93 orang Amerika.

Apa yang hilang dari analisis cepat ini:

• Emisi dari pelatihan model. Dalam sebuah artikel tentang CO₂ footprint dari satu instans ChatGPT , Kasper Groes Albin Ludvigsen mencantumkannya pada 522 tCO2e. Emisi ini diamortisasi selama masa pakai model
• Emisi CO₂ dari peralatan pengguna akhir yang mengakses ChatGPT . Ini termasuk konsumsi daya dan bagian emisi dari produksi dan pembuangan perangkat. Itu mungkin komponen terbesar dari jejaknya dan tidak mungkin dihitung tanpa mengetahui perangkat apa yang mengakses ChatGPT dan dari mana. OpenAI dapat memberikan beberapa gagasan tentang ini jika mereka menambahkan sesuatu yang mirip dengan Kalkulator Karbon Situs Web ke layanan tersebut.
• Emisi non-GPU seperti jaringan, RAM, dan SSD
• Karbon yang terkandung dari pusat data