Hangi sorular ne olursa olsun bir AI sorarız, model bir cevap bulacaktır. Bu bilgileri üretmek için – cevaptan daha doğru olup olmadığına bakılmaksızın – model jetonları kullanır. Jetonlar, LLM tarafından işlenebilen bir dizi sayıya dönüştürülen kelimelerin kelimeleri veya parçalarıdır.
Bu dönüşüm ve diğer bilgi işlem süreçleri2 emisyonlar. Bununla birlikte, birçok kullanıcı bu teknolojilerle ilişkili önemli karbon ayak izinin farkında değildir. Şimdi, Almanya’daki araştırmacılar CO ölçtü ve karşılaştırdı2 Bir dizi standartlaştırılmış soru kullanarak farklı, zaten eğitilmiş LLM’lerin emisyonları.
Hochschule München Uygulamalı Bilimler Üniversitesi’nden bir araştırmacı olan ilk yazar Maximilian Dauner, “Eğitimli LLMS’yi sorgulamanın çevresel etkisi, akıl yürütme yaklaşımları ile güçlü bir şekilde belirlenir, açık akıl yürütme süreçleri enerji tüketimini ve karbon emisyonlarını önemli ölçüde artırdı.” Dedi. İletişimde Sınırlar çalışmak. Diyerek şöyle devam etti: “Akıl yürütme özellikli modellerin özlü yanıt modellerinden 50 kat daha fazla CO2 emisyonu ürettiğini bulduk.”
‘Düşünmek’ AI çoğu emisyona neden olur
Araştırmacılar, farklı konularda 1.000 kıyaslama sorusu üzerinde yedi ila 72 milyar parametre arasında 14 llm’yi değerlendirdi. Parametreler, LLM’lerin bilgileri nasıl öğrendiklerini ve işleyeceğini belirler.
Akıl yürütme modelleri, ortalama olarak, soru başına 543.5 ‘düşünme’ jetonu oluştururken, özlü modeller soru başına sadece 37.7 jeton gerektiriyordu. Düşünme jetonları, akıl yürütme LLM’lerinin bir cevap üretmeden önce ürettiği ek jetonlardır. Daha yüksek bir jeton ayak izi her zaman daha yüksek CO2 emisyonu anlamına gelir. Bununla birlikte, mutlaka ortaya çıkan cevapların daha doğru olduğu anlamına gelmez, çünkü doğruluk için her zaman gerekli olmayan ayrıntılı ayrıntı.
En doğru model,% 84.9’a ulaşan 70 milyar parametreye sahip akıl yürütme özellikli Cogito modeliydi. Model üç kat daha fazla co üretti2 Kısa cevaplar üreten benzer büyüklükteki modellerden daha emisyonlar. Dauner, “Şu anda, LLM Technologies’in doğasında var olan açık bir doğruluk sürdürülebilirlik değişimi görüyoruz.” Dedi. Diyerek şöyle devam etti: “Emisyonları 500 gram CO2 eşdeğerinin altında tutan modellerin hiçbiri, 1.000 soruyu doğru cevaplamada% 80’den daha yüksek bir doğruluk elde etmedi.” Ortak2 Eşdeğeri, çeşitli sera gazlarının iklim etkisini ölçmek için kullanılan birimdir.
Konu da önemli ölçüde farklı seviyelerde CO ile sonuçlandı2 emisyonlar. Uzun süreli akıl yürütme süreçleri, örneğin soyut cebir veya felsefe gerektiren sorular, lise tarihi gibi daha basit konulardan altı kata kadar daha yüksek emisyonlara yol açtı.
Düşünceli kullanım uygulamak
Araştırmacılar, çalışmalarının insanların kendi AI kullanımları hakkında daha bilinçli kararlar almalarına neden olacağını umduklarını söyledi. Dauner, “Kullanıcılar AI’yı özlü cevaplar üretmesini veya yüksek kapasiteli modellerin kullanımını gerçekten bu gücü gerektiren görevlere sınırlandırarak emisyonları önemli ölçüde azaltabilir.”
Örneğin model seçimi, CO’da önemli bir fark yaratabilir2 emisyonlar. Örneğin, Deepseek R1 (70 milyar parametre) 600.000 sorunun cevaplanması CO oluşturur2 Emisyonlar Londra’dan New York’a gidiş-dönüş uçuşuna eşit. Bu arada, Qwen 2.5 (72 milyar parametre) aynı emisyonları üretirken benzer doğruluk oranlarıyla üç kat daha fazla soruya (yaklaşık 1.9 milyon) cevap verebilir.
Araştırmacılar, sonuçlarının çalışmada kullanılan donanım seçiminden etkilenebileceğini, yerel enerji ızgarası karışımlarına bağlı olarak bölgesel olarak değişebilecek bir emisyon faktörü ve incelenen modellerden etkilenebileceğini söyledi. Bu faktörler sonuçların genelleştirilebilirliğini sınırlayabilir.
Dauner, “Kullanıcılar, kendilerini bir aksiyon figürüne dönüştürmek gibi AI tarafından oluşturulan çıktılarının tam CO2 maliyetini biliyorlarsa, bu teknolojileri ne zaman ve nasıl kullandıkları konusunda daha seçici ve düşünceli olabilirler.”
News
