Capgemini Araştırma Enstitüsü’ne göre, işletmelerin kullanım durumları için “doğru modeli seçmeleri” ve yaşam döngüsü boyunca sürdürülebilir uygulamaları uygulamaları durumunda, üretken yapay zeka (GenAI) sistemlerinin artan çevresel etkileri önemli ölçüde azaltılabilir.
Capgemini‘S Sürdürülebilir GenAI geliştirmek Raporda, en son üretim öncesi eğitim transformatörü (GPT) modelleri için, tek başına eğitimin kabaca 5.000 ABD evinin yıllık enerji tüketimine eşdeğer olduğu ve modeli çalıştırmak için “eşit veya daha fazla miktarda enerjiye” ihtiyaç duyulduğu belirtildi. operasyonel olarak bir iş bağlamında.
Bu, büyük bir dil modeline (LLM) yönelik bir sorgunun Google aramasından 10 kat daha fazla elektrik gerektirdiği anlamına geliyordu.
Bir yıl içinde GenAI’yi ürün ve hizmetlerine entegre eden kuruluşların sayısının %6’dan %24’e çıktığını ekledi. Dahası, 2026 yılına kadar GenAI’nın bir kuruluşun toplam sera gazı emisyonlarının mevcut %2,6’dan %4,8’ine karşılık geleceği tahmin ediliyor.
Capgemini ayrıca, 20 ila 50 sorgudan oluşan bir çıkarım yapmak için Yüksek Lisans kullanmanın her seferinde yaklaşık 500 ml su kullandığını ve GenAI’nin 2030 yılına kadar 1,2 ila beş milyon metrik ton arasında e-atık oluşturabileceğini söyledi; 2023 yılında üretilenden yaklaşık 1000 kat daha fazla e-atık üretildi.
“Üretken yapay zekanın yol açtığı enerji tüketimindeki artış, emisyonlarda önemli bir artışa yol açıyor ve bunun iki yıl içinde kurumsal karbon ayak izi payının neredeyse iki katına çıkması bekleniyor,” dedi Capgemini’nin Grup Sürdürülebilirlik İş Hızlandırıcısı başkanı Vincent Charpiot. “İşletmelerin sürdürülebilirliği yapay zeka stratejilerine dahil etmeleri acil bir durum.
“Yapay zeka ve GenAI tedarikçilerinin daha küçük modellerinden, yenilenebilir enerjisinden ve şeffaf uygulamalarından yararlanarak hem yenilikçiliği hem de sürdürülebilirliği desteklemek için yapay zekadan yararlanırken çevresel etkileri azaltabiliriz.”
Çevresel etki
Nadir toprak metallerinin madenciliğini gerektiren grafik işleme birimlerinin üretiminden, modellerin devasa veri merkezlerini çalıştıracak şekilde eğitilmesine kadar tüm bu adımlar, teknolojinin çevresel etkisine önemli ölçüde katkıda bulunuyor.
Çoğu kuruluş için GenAI ürün ve hizmetlerinin kullanımı Kapsam 3 emisyon kapsamına girmektedir; bu, bir şirketin operasyonları dışında meydana gelen ancak yine de faaliyetlerinin bir sonucu olan dolaylı sera gazı emisyonlarına atıfta bulunmaktadır.
Ancak Capgemini, bir modelin yaşam döngüsünün çeşitli aşamalarında (donanım seçimi, model mimarisi, veri merkezleri için güç kaynağı ve nihai kullanım durumu dahil) doğru seçimler yapmanın çevresel etkiyi önemli ölçüde azaltabileceğini söyledi.
Şirketlerin, benzer bir sonuç için kaynak açısından daha verimli modeller kullanabilecekleri durumlarda, enerji yoğun GenAI teknolojilerine ihtiyaç duyup duymadıklarını düşünmeleri gerektiğini de ekledi.
Microsoft’ta üretken yapay zeka direktörü Vishal Singhvi, “Herkes üretken yapay zeka ile bir şeyler yapmak ister, ancak çoğu zaman buna ihtiyacınız bile olmaz” dedi. “Bunu, çok daha az bilgi işlem gücü ve iş yükü tüketen geleneksel yapay zekanızla çok iyi bir şekilde yapabilirsiniz.”
Küçük dil modelleri
Bu nedenle kuruluşlar, LLM’ye kıyasla daha küçük ve daha spesifik veri kümeleriyle eğitilen küçük dil modelleri (SLM’ler) kullanılarak görevlerin tamamlanıp tamamlanamayacağını dikkate almalıdır.
Capgemini, bunun yalnızca emisyonları önemli ölçüde azaltmakla kalmayıp aynı zamanda maliyeti de azaltabileceğini söyledi. Mistral AI CEO’su Arthur Mensch’e göre: “Daha küçük modeller, uygulamaların çalıştırılmasının daha az maliyetli olduğu anlamına gelir ve daha da önemlisi, 100 kat daha küçük bir modeliniz varsa, aynı maliyetle onu 100 kat daha fazla arayabilirsiniz ve her çağrıda uygulamanıza biraz daha fazla zeka katabilirsiniz. ”
İngiltere merkezli Orchard Hill College ve Academy Trust’ın yönetim kurulu üyesi Mauli Tikkiwal için kuruluşların GenAI kullanımının olumsuz çevresel etkilere nasıl katkıda bulunduğunun farkında olması hayati önem taşıyor. “Öncelikle etkiyi tanımlamanız gerekir, böylece onu takip edip azaltabilirsiniz” dedi.
Ancak emisyonların izlenmesi ve takibi her şeyden önemli olsa da Capgemini’nin anketine katılanların yalnızca %14’ü şirketlerinin GenAI ayak izlerini ölçtüğünü ve takip ettiğini söyledi.
Yöneticilerin dörtte üçü, çevresel etkiyi ölçmede tedarikçilerden gelen “sınırlı şeffaflığın” bir zorluk olduğunu belirtti. Raporda, “Teknoloji sektörünün bu hedefi kolaylaştırma çabalarına öncülük etmesini bekliyorlar” denildi.
Bu eğilimlere rağmen Capgemini, bazı teknoloji firmalarının teknolojiye nasıl sürdürülebilir bir şekilde yaklaştığına dikkat çekti.
Örneğin Nvidia’nın en yeni GPU’larının önceki versiyonlarına göre 30 kat daha verimli olduğu belirtildi; MIT yan girişimi LiquidAI’nin “uyarlanabilir ve daha az enerji tüketen” algoritma teknikleri geliştirdiğini; ve Microsoft’un Yüksek Lisans Programlarına enerji izleme özellikleri getirdiğini.
Ayrıca Meta’nın ABD veri merkezlerine güç sağlamak için jeotermal enerji satın almak üzere imzaladığı bir anlaşmanın yanı sıra “karbon emisyonlarınızı doğru bir şekilde raporlamanızı ve azaltmanızı kolaylaştıran bir özellikler koleksiyonu” olan Google Carbon Sense Suite’i de vurguladı. .
Haziran 2024’teki Londra Yapay Zeka Zirvesi sırasında sürdürülebilirlik uzmanları, teknolojinin şirketlerin çevresel açıdan daha sürdürülebilir olmasına yardımcı olmak için çeşitli şekillerde uygulanabilmesine rağmen, şu anda gezegen üzerinde yarattığı açıkça olumsuz etkilerin de kabul edilmesi gerektiğini söyledi.
Veri kaynaklarını birbirine bağlayarak ve bunları daha okunaklı hale getirerek şirketlerin Kapsam 3 emisyonlarını daha iyi yönetmelerine yardımcı olabileceğini ancak kuruluşların verilerini ne kadar farklı topladığı, yönettiği ve paylaştığı göz önüne alındığında bu emisyonları takip etmenin zor olabileceğini söylediler.