Dấu chân carbon của ChatGPT

Khi một thứ gì đó lớn như OpenAI ChatGPT xuất hiện, suy nghĩ đầu tiên của cộng đồng tại ClimateAction.Tech không phải là “Ồ, hãy thử đi!”, mà là “Hmm, tôi tự hỏi lượng khí thải carbon của nó là bao nhiêu?”. Vì internet là cỗ máy chạy bằng than lớn nhất hành tinh nên bất kỳ thứ gì có nhiều lưu lượng truy cập đều có khả năng thải ra nhiều CO₂. Vì vậy, hãy xem liệu chúng ta có thể tính ra được bao nhiêu…

Tweet này về chi phí lưu trữ của ChatGPT bắt đầu với ước tính rằng mỗi từ phản hồi mất 350 mili giây trên GPU A100. Sau đó, nó đoán 30 từ cho mỗi phản hồi và số lượng phản hồi mỗi ngày:

1 triệu người dùng với 10 câu hỏi mỗi câu =
10.000.000 câu trả lời =
300.000.000 từ mỗi ngày
* 0,35 giây mỗi từ / 3.600 giây mỗi giờ
= 29.167 giờ thời gian GPU A100 mỗi ngày

Cloud Carbon Footprint liệt kê mức tiêu thụ điện năng tối thiểu là 46W và tối đa là 407W đối với A100 trong trung tâm dữ liệu Azure (xem MIN_WATTS_BY_COMPUTE_PROCESSORvà MAX_WATTS_BY_COMPUTE_PROCESSOR). Tôi đoán rằng không có nhiều bộ xử lý ChatGPT đang ở chế độ chờ nên tôi cho rằng chúng đang tiêu thụ ở mức cao nhất trong phạm vi đó.

29.167 giờ * 407W =
11.870 kWh mỗi ngày

Tôi tin rằng ChatGPT được lưu trữ ở California và Cloud Carbon Footprint (cùng một tệp) cho biết hệ số phát thải của miền Tây Hoa Kỳ là 0,000322167 tấn/kWh. Vì vậy, dấu chân CO₂ là:

0,000322167 * 11.870 =
3,82 tCO₂e mỗi ngày

Đó là khoảng 3 tháng của dấu chân trung bình của một người Mỹ khoảng 15 tCO ₂ e mỗi năm . Hay nói cách khác, tỷ lệ phát thải CO₂ giống như 93 người Mỹ.

Những gì còn thiếu từ phân tích nhanh này:

• Khí thải từ đào tạo mô hình. Trong một bài viết về dấu vết CO₂ của một phiên bản ChatGPT duy nhất , Kasper Groes Albin Ludvigsen liệt kê điều này ở mức 522 tCO2e. Những phát thải này được khấu hao trong suốt vòng đời của mô hình
• Lượng khí thải CO₂ của thiết bị người dùng cuối khi truy cập ChatGPT . Điều này bao gồm mức tiêu thụ điện năng và một phần lượng khí thải từ việc sản xuất và thải bỏ thiết bị. Đây có lẽ là thành phần lớn nhất trong dấu chân của nó và không thể tính toán nếu không biết thiết bị nào đang truy cập ChatGPT và từ đâu. OpenAI có thể cung cấp một số ý tưởng về điều này nếu họ thêm một cái gì đó tương tự như Máy tính Carbon của Trang web vào dịch vụ.
• Phát thải không phải GPU như kết nối mạng, RAM và SSD
• Carbon thể hiện của trung tâm dữ liệu