Modelinizin karbon emisyonlarını görüntüleme

Modelimin karbon emisyonlarını hesaplamam neden faydalıdır?

ML modellerinin eğitimi genellikle yoğun enerji gerektirir ve Strubell ve ark. tarafından da belirtildiği üzere önemli bir karbon ayak izi oluşturabilir. Bu nedenle, alanımızın çevresel etkileri hakkında daha iyi bir fikir edinmek için modellerin emisyonlarını izlemenin ve raporlamanın önemli olduğu açıktır.

Modelimin karbon ayak izi hakkında hangi bilgileri dahil etmeliyim?

Mümkünse, aşağıdaki bilgiler hakkında bilgi dahil etmelisiniz:

• modelin nerede eğitildiği (konum açısından)
• kullanılan donanım — örn. GPU, TPU veya CPU ve bunların sayısı
• eğitim türü: ön eğitim veya ince ayar
• Modelin tahmini karbon ayak izi, Code Carbon paketiyle gerçek zamanlı olarak veya eğitimden sonra ML CO2 Calculator kullanılarak hesaplanır.

Karbon ayak izi meta verileri

Karbon ayak izi verilerini model kartı meta verilerine (README.md dosyasında) ekleyebilirsiniz. Meta verilerin yapısı şu şekilde olmalıdır:

---
co2_eq_emissions:
  emissions: number (in grams of CO2)
  source: "source of the information, either directly from AutoTrain, code carbon or from a scientific article documenting the model"
  training_type: "pre-training or fine-tuning"
  geographical_location: "as granular as possible, for instance Quebec, Canada or Brooklyn, NY, USA. To check your compute's electricity grid, you can check out https://app.electricitymap.org."
  hardware_used: "how much compute and what kind, e.g. 8 v100 GPUs"
---

Modelimin karbon ayak izi nasıl hesaplanır? 🌎

Hesaplama donanımı, konum, kullanım ve eğitim süresini göz önünde bulundurarak, modelin ne kadar CO₂ ürettiğini tahmin edebilirsiniz.

Matematik oldukça basit! ➕

Öncelikle, eğitim için kullanılan elektrik şebekesinin karbon yoğunluğunu alırsınız — bu, kullanılan kWh elektrik başına üretilen CO₂ miktarıdır. Karbon yoğunluğu, donanımın konumuna ve o konumda kullanılan enerji karışımına bağlıdır — güneş 🌞, rüzgar 🌬️ ve hidro 💧 gibi yenilenebilir enerji mi, yoksa kömür ⚫ ve doğal gaz 💨 gibi yenilenemez enerji mi kullanıldığına göre değişir. Eğitim için ne kadar çok yenilenebilir enerji kullanılırsa, süreç o kadar az karbon yoğun olur!

Ardından, eğitim sırasında GPU'ların güç tüketimini pynvml kütüphanesini kullanarak alırsınız.

Son olarak, modelin eğitim süresini güç tüketimi ve karbon yoğunluğu ile çarparsınız ve CO₂ emisyonu tahminini elde edersiniz.

Bu kesin bir sayı değildir, çünkü veri merkezi ısıtma ve soğutma için kullanılan enerji gibi karbon emisyonlarını artıracak başka faktörler de devreye girer. Ancak bu, modelinizin ürettiği CO₂ emisyonlarının ölçeği hakkında size iyi bir fikir verecektir!

Modellerinize Carbon Emissions meta verisi eklemek için:

1. AutoTrain kullanıyorsanız, bu sizin için takip edilir 🔥
2. Aksi takdirde, eğitim kodunuzda Code Carbon gibi bir izleyici kullanın, ardından belirtin

co2_eq_emissions: 
  emissions: 1.2345

model kartı meta verilerinizde, 1.2345 değeri gram cinsinden emisyon değeridir.

Transformers'ın karbon ayak izi hakkında daha fazla bilgi edinmek için Hugging Face Kursu'nun bir parçası olan videoyu izleyin!