Resim kaynağı: Sınırsız Yapay Zeka tarafından oluşturulmuştur
Günümüzde ChatGPT'nin temsil ettiği büyük yapay zeka modeli insan toplumuna büyük değişiklikler getirirken aynı zamanda enerji tüketimi nedeniyle de tartışmalıdır.
The Economist'in son yayınında şöyle deniyordu: Süper bilgisayarlar da dahil olmak üzere yüksek performanslı bilgi işlem tesisleri, büyük enerji tüketicileri haline geliyor. **Uluslararası Enerji Ajansı'na göre veri merkezleri, küresel elektrik tüketiminin %1,5 ila %2'sini oluşturuyor; bu da kabaca tüm Birleşik Krallık ekonomisinin elektrik tüketimine eşdeğer. **Bunun 2030 yılına kadar %4'e çıkması bekleniyor.
**Yapay zeka sadece elektriği değil suyu da tüketir. ** Google'ın yayınladığı 2023 çevre raporuna göre 2022 yılında 5,6 milyar galon (yaklaşık 21,2 milyar litre) su tüketilecek, bu da 37 golf sahasının suyuna eşdeğer. Bunun 5,2 milyar galonu şirketin veri merkezlerine gitti; bu, 2021'e göre %20 artış anlamına geliyor.
Büyük enerji tüketimi maliyetleri karşısında yapay zeka (AI) geleceğe doğru ilerlemek istiyor ve ekonomi, ChatGPT'nin acilen çözmesi gereken gerçek bir sorun haline geldi. Ve eğer enerji tüketimi sorunu çözülecekse, mevcut teknoloji ve mimariye dayalı herhangi bir optimizasyon önlemi suyun kaynamasını durduracaktır.Bu bağlamda, en son teknolojinin atılımı, yapay zeka enerji tüketimine nihai çözüm olabilir. ikilem. .
Yapay zeka enerji tüketiyor
Hesaplamanın özü itibarıyla hesaplama, verileri düzensizlikten düzene değiştirme işlemidir ve bu işlem belirli miktarda enerji girdisi gerektirir.
Yalnızca miktar açısından bakıldığında, eksik istatistiklere göre 2020 yılında küresel elektrik üretiminin yaklaşık %5'i güç tüketiminin hesaplanması için kullanılacak ve bu rakamın 2030 yılına kadar yaklaşık %15 ila %25'e çıkabileceği belirtiliyor. Bilgisayar endüstrisindeki elektrik tüketiminin oranının, sanayi gibi büyük enerji tüketen endüstrilerle aynı seviyede olacağı öngörülüyor.
2020 yılında Çin'in veri merkezlerinin güç tüketimi 200 milyar kWh'yi aşacak; bu da Three Gorges Barajı ve Gezhouba Elektrik Santrali'nin toplam elektrik üretiminin iki katı (yaklaşık 100 milyar kWh) anlamına geliyor.
Aslında bilişim sektörü için çip maliyetinin yanı sıra elektrik maliyeti de temel maliyettir.
**Tüketilen elektrik yenilenebilir enerjiden üretilmediği takdirde karbon emisyonu oluşacaktır. Makine öğrenimi modellerinin de karbon emisyonu üretmesinin nedeni budur. ChatGPT bir istisna değildir. **
Veriler, GPT-3 eğitiminin 1287 MWh (megawatt saat) tükettiğini gösteriyor; bu da 552 ton karbon salımına eşdeğer. Bu bağlamda, sürdürülebilir veri araştırmacısı Caspar Ludwigsen şunları da analiz etti: "GPT-3'ün büyük emisyonları kısmen daha eski, daha az verimli bir donanım üzerinde eğitilmiş olmasıyla açıklanabilir, ancak CO2 emisyonlarını ölçmenin standartlaştırılmış bir yolu olmadığı için bu rakamlar Tahminlere dayanmaktadır.Ayrıca, karbon emisyon değerinin bu kısmının ne kadarının ChatGPT eğitimine ayrılması gerektiğine ilişkin standart da nispeten belirsizdir.Takviyeli öğrenmenin kendisi ek elektrik gerektirdiğinden, karbonun Model eğitimi aşamasında ChatGPT'nin ürettiği emisyonlar bu değerden daha büyük olmalıdır.” Yalnızca 552 ton emisyonla hesaplanan bu miktarlar, 126 Danimarka hanesinin yıllık enerji tüketimine eşdeğerdir.
**İşletme aşamasında, ChatGPT'yi çalıştırırken insanların eylemlerinin güç tüketimi çok küçük olsa da, dünyada günde bir milyar kez olabileceğinden dolayı en büyük ikinci karbon emisyon kaynağı haline gelebilir. **
Databoxer kurucu ortağı Chris Bolton bir hesaplama yöntemini şöyle açıkladı: "İlk olarak, her yanıt kelimesinin A100 GPU'da 0,35 saniye sürdüğünü tahmin ediyoruz; kullanıcı başına 10 soru olan 1 milyon kullanıcı olduğunu, her biri günde 1000 10.000 yanıt ve 300 milyon kelime ürettiğini varsayıyoruz. kelime 0,35 saniye olduğundan A100 GPU'nun günde 29167 saat çalıştığı hesaplanabilir."
Cloud Karbon Ayak İzi, A100 GPU'nun Azure veri merkezindeki minimum güç tüketimini 46W, maksimum güç tüketimini ise 407W olarak listeliyor. Büyük ihtimalle çok fazla ChatGPT işlemcisi boşta olmadığından günlük güç tüketimi 11870kWh'a ulaşacak. menzil.
Chris Bolton şunları söyledi: "Amerika Birleşik Devletleri'nin batısındaki emisyon faktörü 0,000322167 ton/kWh, yani günde 3,82 ton karbondioksit eşdeğeri üretecek. Ortalama bir Amerikalı yılda yaklaşık 15 ton karbondioksit eşdeğerine sahip. Başka bir deyişle, bu, 93 Amerikalının yıllık karbondioksit emisyonuna eşdeğerdir. Oran karşılaştırılabilir.”
Her ne kadar "sanal" özelliği insanların dijital ürünlerin karbon defterlerini göz ardı etmesini kolaylaştırsa da aslında İnternet uzun zamandır gezegendeki en büyük kömürle çalışan makinelerden biri olmuştur. **Güç tüketimi ve yapay zeka üzerine yapılan Berkeley araştırması, yapay zekanın neredeyse enerji tükettiğini öne sürüyor. **
Örneğin, Google'ın önceden eğitilmiş dil modeli T5, 86 megavat elektrik kullandı ve 47 metrik ton CO2 emisyonu üretti; Google'ın çok yönlü açık alan chatbotu Meena, 232 megavat elektrik kullandı ve 96 metrik ton CO2 emisyonu üretti; Dil çevirisi Google tarafından geliştirilen çerçeve - GShard, 24 megawatt elektrik kullandı ve 4,3 metrik ton karbondioksit emisyonu üretti; Google tarafından geliştirilen yönlendirme algoritması Switch Transformer, 179 megavat elektrik kullandı ve 59 metrik ton karbondioksit emisyonu üretti.
Derin öğrenmede kullanılan bilgi işlem gücü, 2012 ile 2018 arasında 300.000 kat arttı ve bu da GPT-3'ün iklim üzerinde en büyük etkiye sahip olan gibi görünmesini sağladı. Ancak insan beyniyle eş zamanlı çalıştığında insan beyninin enerji tüketimi makinenin tüketiminin yalnızca %0,002'sidir.
Sadece elektrik değil aynı zamanda su da tüketir
Şaşırtıcı güç tüketiminin yanı sıra yapay zeka da çok su tüketiyor.
Aslında elektrik tüketimi olsun, su tüketimi olsun, dijital dünyanın direği olan dijital merkezden ayrılamaz. İnternete güç sağlayan ve büyük miktarda veri depolayan sunucular ve ağ ekipmanları olarak küresel veri merkezlerinin çalışması çok fazla enerji gerektirir ve soğutma sistemleri enerji tüketiminin ana faktörlerinden biridir. **
Gerçek şu ki, süper büyük bir veri merkezi her yıl yaklaşık 100 milyon kilowatt saat elektrik tüketiyor ve üretken yapay zekanın gelişimi, veri merkezinin enerji tüketimini daha da artırdı. Büyük ölçekli modeller genellikle on binlerce GPU gerektirdiğinden, eğitim süresi birkaç haftadan birkaç aya kadar değişebilir ve bu süreçte büyük miktarda güç gerekir.
Veri merkezi sunucuları, çalışma sırasında çok fazla ısı enerjisi üretir ve su soğutma, sunucular için en yaygın yöntem olup, bu da büyük su gücü tüketimine yol açar. Veriler, GPT-3'ün eğitim sırasında yaklaşık 700 ton su tükettiğini, ardından cevaplanan her 20-50 soru için 500 mililitre su tükettiğini gösteriyor.
Virginia Tech'in yaptığı araştırmaya göre veri merkezleri soğutma amacıyla günde ortalama 401 ton su tüketiyor; bu da 100.000 hanenin su tüketimine eşdeğer. Meta, 2022'de çoğunlukla veri merkezleri için 2,6 milyon metreküpten (yaklaşık 697 milyon galon) fazla su kullandı. En yeni büyük ölçekli dil modeli "Llama 2"nin eğitimi de çok fazla suya ihtiyaç duyuyor. Öyle bile olsa 2022 yılında Meta'nın veri merkezlerinin beşte birinde "su sıkıntısı" yaşanacak.
Ayrıca yapay zeka için bir diğer önemli altyapı çipi olan üretim süreci de çok fazla enerji ve su kaynağı tüketen bir süreçtir. Enerji açısından, çip üretim süreci, özellikle gelişmiş proses çipleri olmak üzere çok fazla güç gerektirir. Uluslararası çevre örgütü Greenpeace Doğu Asya Bölümü'nün "Tüketici Elektroniği Tedarik Zinciri Güç Tüketimi ve Karbon Emisyon Tahmini" raporunda, aralarında Samsung Electronics ve TSMC'nin de bulunduğu Doğu Asya'nın önde gelen 13 elektronik imalat şirketinin karbon emisyonları incelendi ve elektronik imalat sektörünün, özellikle de yarı iletken endüstrisi Karbon emisyonları hızla artıyor ve küresel yarı iletken endüstrisinin elektrik tüketimi 2030 yılına kadar 237 terawatt saate çıkacak.
Su kaynağı tüketimi açısından, silikon levha işlemi "ultra saf su" temizliği gerektirir ve çip üretim süreci ne kadar yüksek olursa, su tüketimi de o kadar fazla olur. 2 gramlık bir bilgisayar çipi üretmek için yaklaşık 32 kilogram su gerekiyor. 8 inçlik gofretlerin üretimi saatte yaklaşık 250 ton su tüketirken, 12 inçlik gofretlerin üretimi saatte 500 tona ulaşabilmektedir.
**TSMC'nin yıllık gofret üretim kapasitesi yaklaşık 30 milyon olup, chip üretiminde yaklaşık 80 milyon ton su tüketilmektedir. Yeterli su kaynakları çip endüstrisinin gelişmesi için gerekli bir koşul haline geldi. **Temmuz 2023'te Japonya Ekonomi, Ticaret ve Sanayi Bakanlığı, yarı iletken üretimi için gerekli endüstriyel suyun sağlanması amacıyla yarı iletken fabrikalarına endüstriyel su sağlayan tesislerin inşasına yönelik sübvansiyon sağlamak üzere yeni bir sistem kurmaya karar vermiştir.
Uzun vadede, üretken yapay zeka ve insansız sürüşün teşvik edilmesi ve uygulanması, çip üretim endüstrisinin daha da büyümesine ve ardından büyük miktarda enerji kaynağı tüketimine yol açacaktır.
**Yapay zekayı enerji tüketiminden kim kurtarabilir? **
Günümüzde enerji tüketiminin yapay zekanın gelişimini kısıtlayan bir zayıflık haline geldiği söylenebilir. Mevcut teknik rota ve geliştirme modeline göre yapay zekanın ilerlemesi iki soruna neden olacak:
**Bir yandan veri merkezinin ölçeği giderek büyüyecek, buna bağlı olarak güç tüketimi de artacak ve operasyon giderek yavaşlayacak. **
Açıkçası, yapay zeka uygulamalarının popülerleşmesiyle birlikte yapay zekanın veri merkezi kaynaklarına olan talebi önemli ölçüde artacaktır. Büyük ölçekli veri merkezleri, sunucuları, depolama aygıtlarını ve soğutma sistemlerini çalıştırmak için büyük miktarda elektriğe ihtiyaç duyar. Bu durum enerji tüketiminin artmasına yol açarken aynı zamanda enerji arz istikrarı ve çevresel etki sorunlarını da gündeme getiriyor. Veri merkezlerinin sürekli büyümesi, enerji tedarikleri üzerinde de baskı oluşturabilir ve veri merkezi enerji ihtiyaçlarını karşılamak için geleneksel enerji kaynaklarına güvenmek, enerji fiyatlarının artmasına ve arz istikrarsızlığına neden olabilir. Elbette veri merkezlerinin yüksek enerji tüketiminin aynı zamanda CO2 emisyonları ve enerji tüketimi de dahil olmak üzere çevresel etkileri de vardır.
**Öte yandan, yapay zeka çipleri, en yüksek bilgi işlem gücünün büyümesini desteklemek için üretim süreçlerine güvenerek, yüksek bilgi işlem gücüne ve yüksek entegrasyona doğru evriliyor. Üretim süreçleri daha gelişmiş hale geldikçe, güç tüketimleri ve su tüketimleri de artıyor. **
Peki yapay zekanın bu kadar büyük enerji tüketimi karşısında daha iyi bir yolumuz var mı? Aslında teknik ikilemi çözmenin en iyi yolu yeni teknolojiler geliştirmektir.
Bir yandan Moore sonrası dönemde yapay zekanın ilerlemesi yeni, daha güvenilir paradigmalar ve yöntemler bulmayı gerektiriyor.
Aslında günümüzde yapay zekanın büyük enerji tüketimi sorunlarını beraberinde getirecek olmasının nedeni, yapay zekanın zekayı gerçekleştirme biçimiyle yakından ilgilidir.
Bu aşamada yapay sinir ağlarının yapımını ve işleyişini, bir grup bağımsız yapay "nöron"un birlikte çalışmasına benzetebiliriz. Her nöron, bilgiyi alan, bazı hesaplamalar yapan ve çıktı üreten küçük bir hesaplama birimi gibidir. Günümüzün yapay sinir ağları, bu bilgi işlem birimlerinin, eğitildikten sonra belirli görevleri yerine getirebilecek şekilde nasıl bağlanacağının akıllıca tasarlanmasıyla oluşturulmuştur.
Ancak yapay sinir ağlarının da sınırlamaları vardır. Örneğin bir daireyi kareden ayırmak için sinir ağını kullanmamız gerekiyorsa. Bir yaklaşım, çıktı katmanına biri daire, diğeri kare için olmak üzere iki nöron yerleştirmektir. Ancak sinir ağının aynı zamanda mavi ve kırmızı gibi şekillerin rengini de ayırt edebilmesini istiyorsak dört çıkış nöronuna ihtiyacımız var: mavi daire, mavi kare, kırmızı daire ve kırmızı kare.
Yani görevin karmaşıklığı arttıkça sinir ağının yapısı da daha fazla bilgiyi işleyebilmek için daha fazla nörona ihtiyaç duyuyor. Bunun nedeni, yapay sinir ağlarının zekaya ulaşma şeklinin, insan beyninin doğal dünyayı algılama şekli değil, "tüm kombinasyonlar için yapay zeka sinir sisteminin karşılık gelen bir nörona sahip olması gerektiğidir."
Buna karşılık, insan beyni öğrenmenin çoğunu zahmetsizce gerçekleştirebilir çünkü beyindeki bilgi çok sayıda nöronun aktivitesiyle temsil edilir. Yani insan beyninin kırmızı kareyi algılaması tek bir nöronun aktivitesi olarak değil, binlerce nöronun aktivitesi olarak kodlanmıştır. Farklı şekillerde ateşlenen aynı nöron seti tamamen farklı bir konsepti temsil edebilir.
**Gördüğünüz gibi insan beyni hesaplaması tamamen farklı bir hesaplama yöntemidir. Ve eğer bu hesaplama yöntemi yapay zeka teknolojisine uygulanırsa yapay zekanın enerji tüketimini büyük ölçüde azaltacaktır. **Ve bu hesaplama yöntemi "süper boyutlu hesaplama" olarak adlandırılır. Bu, insan beyninin hesaplama yöntemini taklit etmek ve daha verimli ve akıllı bir hesaplama süreci elde etmek amacıyla hesaplamaları gerçekleştirmek için yüksek boyutlu matematiksel alanı kullanmaktır.
Örneğin geleneksel mimari tasarım modeli iki boyutludur.Çizimleri yalnızca bir düzlem üzerinde çizebiliriz.Her çizim binanın kat planı ve kablo döşemesi gibi farklı bir yönünü temsil eder. Ancak binalar giderek daha karmaşık hale geldikçe, tüm detayları temsil edecek daha fazla çizime ihtiyaç duyuyoruz ve bu da çok fazla zaman ve kağıt alıyor.
Ve hiper boyutlu hesaplama bize yeni bir tasarım yöntemi sağlayacak gibi görünüyor. Her boyutun uzunluk, genişlik, yükseklik, malzeme, renk vb. gibi bir özelliği temsil ettiği üç boyutlu binalar tasarlayabiliriz. Üstelik binaların farklı zaman noktalarındaki değişimlerini temsil eden dördüncü boyut gibi daha yüksek boyutlu bir mekanda da tasarım yapabiliriz. Bu, tüm tasarımları tek bir süper çizimde tamamlamamıza olanak tanıyarak, bir grup 2D çizime olan ihtiyacı ortadan kaldırır ve bu da verimliliği büyük ölçüde artırır.
Benzer şekilde yapay zeka eğitimindeki enerji tüketimi bina tasarımıyla karşılaştırılabilir. Geleneksel derin öğrenme, her bir özelliği veya niteliği işlemek için büyük miktarda bilgi işlem kaynağı gerektirirken, hiper boyutlu hesaplama, tüm özellikleri işlenmek üzere yüksek boyutlu bir alana yerleştirir. Bu şekilde yapay zeka, hesaplamaları yalnızca bir kez gerçekleştirerek birden fazla özelliği aynı anda algılayabilir ve böylece hesaplama süresinden ve enerji tüketiminden büyük miktarda tasarruf sağlar.
** Öte yandan nükleer füzyon teknolojisi gibi yeni enerji kaynağı çözümleri bulun. **Nükleer füzyon enerji üretim teknolojisi, temel olarak nükleer atık üretmemesi ve üretim sürecinde karbon emisyonu kirliliği oluşturmaması nedeniyle küresel karbon emisyonu sorununa nihai çözümlerden biri olarak kabul edilmektedir.
Mayıs 2023'te Microsoft, nükleer füzyon start-up şirketi Helion Energy ile bir satın alma anlaşması imzalayarak şirketin ilk müşterisi oldu ve şirket 2028'de dünyanın ilk nükleer füzyon enerji santralini kurduğunda elektriğini satın alacak. Üstelik uzun vadede, yapay zeka ultra boyutlu hesaplama lambaları aracılığıyla bilgi işlem gücü birimi başına enerji tüketiminde bir azalma sağlasa bile, nükleer füzyon teknolojisindeki veya diğer düşük karbonlu enerji teknolojilerindeki atılımlar, yapay zeka gelişiminin artık karbonla kısıtlanmamasını sağlayabilir. Emisyonlar Hala büyük bir destek ve tanıtım önemine sahiptir.
Sonuçta teknolojinin getirdiği enerji ve kaynak tüketimi sorunu hâlâ temel olarak ancak teknik düzeyde çözülebiliyor. Teknoloji, teknolojinin gelişimini kısıtladığı gibi aynı zamanda teknolojinin gelişmesini de teşvik etmektedir ki bu çok eski çağlardan beri böyledir.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Güç tüketimi ve su tüketimi, yapay zeka enerji tüketiminden kim tasarruf edebilir?
Orijinal kaynak: Chen Gen teknolojiden bahsediyor
Günümüzde ChatGPT'nin temsil ettiği büyük yapay zeka modeli insan toplumuna büyük değişiklikler getirirken aynı zamanda enerji tüketimi nedeniyle de tartışmalıdır.
The Economist'in son yayınında şöyle deniyordu: Süper bilgisayarlar da dahil olmak üzere yüksek performanslı bilgi işlem tesisleri, büyük enerji tüketicileri haline geliyor. **Uluslararası Enerji Ajansı'na göre veri merkezleri, küresel elektrik tüketiminin %1,5 ila %2'sini oluşturuyor; bu da kabaca tüm Birleşik Krallık ekonomisinin elektrik tüketimine eşdeğer. **Bunun 2030 yılına kadar %4'e çıkması bekleniyor.
**Yapay zeka sadece elektriği değil suyu da tüketir. ** Google'ın yayınladığı 2023 çevre raporuna göre 2022 yılında 5,6 milyar galon (yaklaşık 21,2 milyar litre) su tüketilecek, bu da 37 golf sahasının suyuna eşdeğer. Bunun 5,2 milyar galonu şirketin veri merkezlerine gitti; bu, 2021'e göre %20 artış anlamına geliyor.
Büyük enerji tüketimi maliyetleri karşısında yapay zeka (AI) geleceğe doğru ilerlemek istiyor ve ekonomi, ChatGPT'nin acilen çözmesi gereken gerçek bir sorun haline geldi. Ve eğer enerji tüketimi sorunu çözülecekse, mevcut teknoloji ve mimariye dayalı herhangi bir optimizasyon önlemi suyun kaynamasını durduracaktır.Bu bağlamda, en son teknolojinin atılımı, yapay zeka enerji tüketimine nihai çözüm olabilir. ikilem. .
Yapay zeka enerji tüketiyor
Hesaplamanın özü itibarıyla hesaplama, verileri düzensizlikten düzene değiştirme işlemidir ve bu işlem belirli miktarda enerji girdisi gerektirir.
Yalnızca miktar açısından bakıldığında, eksik istatistiklere göre 2020 yılında küresel elektrik üretiminin yaklaşık %5'i güç tüketiminin hesaplanması için kullanılacak ve bu rakamın 2030 yılına kadar yaklaşık %15 ila %25'e çıkabileceği belirtiliyor. Bilgisayar endüstrisindeki elektrik tüketiminin oranının, sanayi gibi büyük enerji tüketen endüstrilerle aynı seviyede olacağı öngörülüyor.
2020 yılında Çin'in veri merkezlerinin güç tüketimi 200 milyar kWh'yi aşacak; bu da Three Gorges Barajı ve Gezhouba Elektrik Santrali'nin toplam elektrik üretiminin iki katı (yaklaşık 100 milyar kWh) anlamına geliyor.
Aslında bilişim sektörü için çip maliyetinin yanı sıra elektrik maliyeti de temel maliyettir.
**Tüketilen elektrik yenilenebilir enerjiden üretilmediği takdirde karbon emisyonu oluşacaktır. Makine öğrenimi modellerinin de karbon emisyonu üretmesinin nedeni budur. ChatGPT bir istisna değildir. **
Veriler, GPT-3 eğitiminin 1287 MWh (megawatt saat) tükettiğini gösteriyor; bu da 552 ton karbon salımına eşdeğer. Bu bağlamda, sürdürülebilir veri araştırmacısı Caspar Ludwigsen şunları da analiz etti: "GPT-3'ün büyük emisyonları kısmen daha eski, daha az verimli bir donanım üzerinde eğitilmiş olmasıyla açıklanabilir, ancak CO2 emisyonlarını ölçmenin standartlaştırılmış bir yolu olmadığı için bu rakamlar Tahminlere dayanmaktadır.Ayrıca, karbon emisyon değerinin bu kısmının ne kadarının ChatGPT eğitimine ayrılması gerektiğine ilişkin standart da nispeten belirsizdir.Takviyeli öğrenmenin kendisi ek elektrik gerektirdiğinden, karbonun Model eğitimi aşamasında ChatGPT'nin ürettiği emisyonlar bu değerden daha büyük olmalıdır.” Yalnızca 552 ton emisyonla hesaplanan bu miktarlar, 126 Danimarka hanesinin yıllık enerji tüketimine eşdeğerdir.
**İşletme aşamasında, ChatGPT'yi çalıştırırken insanların eylemlerinin güç tüketimi çok küçük olsa da, dünyada günde bir milyar kez olabileceğinden dolayı en büyük ikinci karbon emisyon kaynağı haline gelebilir. **
Databoxer kurucu ortağı Chris Bolton bir hesaplama yöntemini şöyle açıkladı: "İlk olarak, her yanıt kelimesinin A100 GPU'da 0,35 saniye sürdüğünü tahmin ediyoruz; kullanıcı başına 10 soru olan 1 milyon kullanıcı olduğunu, her biri günde 1000 10.000 yanıt ve 300 milyon kelime ürettiğini varsayıyoruz. kelime 0,35 saniye olduğundan A100 GPU'nun günde 29167 saat çalıştığı hesaplanabilir."
Cloud Karbon Ayak İzi, A100 GPU'nun Azure veri merkezindeki minimum güç tüketimini 46W, maksimum güç tüketimini ise 407W olarak listeliyor. Büyük ihtimalle çok fazla ChatGPT işlemcisi boşta olmadığından günlük güç tüketimi 11870kWh'a ulaşacak. menzil.
Chris Bolton şunları söyledi: "Amerika Birleşik Devletleri'nin batısındaki emisyon faktörü 0,000322167 ton/kWh, yani günde 3,82 ton karbondioksit eşdeğeri üretecek. Ortalama bir Amerikalı yılda yaklaşık 15 ton karbondioksit eşdeğerine sahip. Başka bir deyişle, bu, 93 Amerikalının yıllık karbondioksit emisyonuna eşdeğerdir. Oran karşılaştırılabilir.”
Her ne kadar "sanal" özelliği insanların dijital ürünlerin karbon defterlerini göz ardı etmesini kolaylaştırsa da aslında İnternet uzun zamandır gezegendeki en büyük kömürle çalışan makinelerden biri olmuştur. **Güç tüketimi ve yapay zeka üzerine yapılan Berkeley araştırması, yapay zekanın neredeyse enerji tükettiğini öne sürüyor. **
Örneğin, Google'ın önceden eğitilmiş dil modeli T5, 86 megavat elektrik kullandı ve 47 metrik ton CO2 emisyonu üretti; Google'ın çok yönlü açık alan chatbotu Meena, 232 megavat elektrik kullandı ve 96 metrik ton CO2 emisyonu üretti; Dil çevirisi Google tarafından geliştirilen çerçeve - GShard, 24 megawatt elektrik kullandı ve 4,3 metrik ton karbondioksit emisyonu üretti; Google tarafından geliştirilen yönlendirme algoritması Switch Transformer, 179 megavat elektrik kullandı ve 59 metrik ton karbondioksit emisyonu üretti.
Derin öğrenmede kullanılan bilgi işlem gücü, 2012 ile 2018 arasında 300.000 kat arttı ve bu da GPT-3'ün iklim üzerinde en büyük etkiye sahip olan gibi görünmesini sağladı. Ancak insan beyniyle eş zamanlı çalıştığında insan beyninin enerji tüketimi makinenin tüketiminin yalnızca %0,002'sidir.
Sadece elektrik değil aynı zamanda su da tüketir
Şaşırtıcı güç tüketiminin yanı sıra yapay zeka da çok su tüketiyor.
Aslında elektrik tüketimi olsun, su tüketimi olsun, dijital dünyanın direği olan dijital merkezden ayrılamaz. İnternete güç sağlayan ve büyük miktarda veri depolayan sunucular ve ağ ekipmanları olarak küresel veri merkezlerinin çalışması çok fazla enerji gerektirir ve soğutma sistemleri enerji tüketiminin ana faktörlerinden biridir. **
Gerçek şu ki, süper büyük bir veri merkezi her yıl yaklaşık 100 milyon kilowatt saat elektrik tüketiyor ve üretken yapay zekanın gelişimi, veri merkezinin enerji tüketimini daha da artırdı. Büyük ölçekli modeller genellikle on binlerce GPU gerektirdiğinden, eğitim süresi birkaç haftadan birkaç aya kadar değişebilir ve bu süreçte büyük miktarda güç gerekir.
Veri merkezi sunucuları, çalışma sırasında çok fazla ısı enerjisi üretir ve su soğutma, sunucular için en yaygın yöntem olup, bu da büyük su gücü tüketimine yol açar. Veriler, GPT-3'ün eğitim sırasında yaklaşık 700 ton su tükettiğini, ardından cevaplanan her 20-50 soru için 500 mililitre su tükettiğini gösteriyor.
Virginia Tech'in yaptığı araştırmaya göre veri merkezleri soğutma amacıyla günde ortalama 401 ton su tüketiyor; bu da 100.000 hanenin su tüketimine eşdeğer. Meta, 2022'de çoğunlukla veri merkezleri için 2,6 milyon metreküpten (yaklaşık 697 milyon galon) fazla su kullandı. En yeni büyük ölçekli dil modeli "Llama 2"nin eğitimi de çok fazla suya ihtiyaç duyuyor. Öyle bile olsa 2022 yılında Meta'nın veri merkezlerinin beşte birinde "su sıkıntısı" yaşanacak.
Ayrıca yapay zeka için bir diğer önemli altyapı çipi olan üretim süreci de çok fazla enerji ve su kaynağı tüketen bir süreçtir. Enerji açısından, çip üretim süreci, özellikle gelişmiş proses çipleri olmak üzere çok fazla güç gerektirir. Uluslararası çevre örgütü Greenpeace Doğu Asya Bölümü'nün "Tüketici Elektroniği Tedarik Zinciri Güç Tüketimi ve Karbon Emisyon Tahmini" raporunda, aralarında Samsung Electronics ve TSMC'nin de bulunduğu Doğu Asya'nın önde gelen 13 elektronik imalat şirketinin karbon emisyonları incelendi ve elektronik imalat sektörünün, özellikle de yarı iletken endüstrisi Karbon emisyonları hızla artıyor ve küresel yarı iletken endüstrisinin elektrik tüketimi 2030 yılına kadar 237 terawatt saate çıkacak.
Su kaynağı tüketimi açısından, silikon levha işlemi "ultra saf su" temizliği gerektirir ve çip üretim süreci ne kadar yüksek olursa, su tüketimi de o kadar fazla olur. 2 gramlık bir bilgisayar çipi üretmek için yaklaşık 32 kilogram su gerekiyor. 8 inçlik gofretlerin üretimi saatte yaklaşık 250 ton su tüketirken, 12 inçlik gofretlerin üretimi saatte 500 tona ulaşabilmektedir.
**TSMC'nin yıllık gofret üretim kapasitesi yaklaşık 30 milyon olup, chip üretiminde yaklaşık 80 milyon ton su tüketilmektedir. Yeterli su kaynakları çip endüstrisinin gelişmesi için gerekli bir koşul haline geldi. **Temmuz 2023'te Japonya Ekonomi, Ticaret ve Sanayi Bakanlığı, yarı iletken üretimi için gerekli endüstriyel suyun sağlanması amacıyla yarı iletken fabrikalarına endüstriyel su sağlayan tesislerin inşasına yönelik sübvansiyon sağlamak üzere yeni bir sistem kurmaya karar vermiştir.
Uzun vadede, üretken yapay zeka ve insansız sürüşün teşvik edilmesi ve uygulanması, çip üretim endüstrisinin daha da büyümesine ve ardından büyük miktarda enerji kaynağı tüketimine yol açacaktır.
**Yapay zekayı enerji tüketiminden kim kurtarabilir? **
Günümüzde enerji tüketiminin yapay zekanın gelişimini kısıtlayan bir zayıflık haline geldiği söylenebilir. Mevcut teknik rota ve geliştirme modeline göre yapay zekanın ilerlemesi iki soruna neden olacak:
**Bir yandan veri merkezinin ölçeği giderek büyüyecek, buna bağlı olarak güç tüketimi de artacak ve operasyon giderek yavaşlayacak. **
Açıkçası, yapay zeka uygulamalarının popülerleşmesiyle birlikte yapay zekanın veri merkezi kaynaklarına olan talebi önemli ölçüde artacaktır. Büyük ölçekli veri merkezleri, sunucuları, depolama aygıtlarını ve soğutma sistemlerini çalıştırmak için büyük miktarda elektriğe ihtiyaç duyar. Bu durum enerji tüketiminin artmasına yol açarken aynı zamanda enerji arz istikrarı ve çevresel etki sorunlarını da gündeme getiriyor. Veri merkezlerinin sürekli büyümesi, enerji tedarikleri üzerinde de baskı oluşturabilir ve veri merkezi enerji ihtiyaçlarını karşılamak için geleneksel enerji kaynaklarına güvenmek, enerji fiyatlarının artmasına ve arz istikrarsızlığına neden olabilir. Elbette veri merkezlerinin yüksek enerji tüketiminin aynı zamanda CO2 emisyonları ve enerji tüketimi de dahil olmak üzere çevresel etkileri de vardır.
**Öte yandan, yapay zeka çipleri, en yüksek bilgi işlem gücünün büyümesini desteklemek için üretim süreçlerine güvenerek, yüksek bilgi işlem gücüne ve yüksek entegrasyona doğru evriliyor. Üretim süreçleri daha gelişmiş hale geldikçe, güç tüketimleri ve su tüketimleri de artıyor. **
Peki yapay zekanın bu kadar büyük enerji tüketimi karşısında daha iyi bir yolumuz var mı? Aslında teknik ikilemi çözmenin en iyi yolu yeni teknolojiler geliştirmektir.
Bir yandan Moore sonrası dönemde yapay zekanın ilerlemesi yeni, daha güvenilir paradigmalar ve yöntemler bulmayı gerektiriyor.
Aslında günümüzde yapay zekanın büyük enerji tüketimi sorunlarını beraberinde getirecek olmasının nedeni, yapay zekanın zekayı gerçekleştirme biçimiyle yakından ilgilidir.
Bu aşamada yapay sinir ağlarının yapımını ve işleyişini, bir grup bağımsız yapay "nöron"un birlikte çalışmasına benzetebiliriz. Her nöron, bilgiyi alan, bazı hesaplamalar yapan ve çıktı üreten küçük bir hesaplama birimi gibidir. Günümüzün yapay sinir ağları, bu bilgi işlem birimlerinin, eğitildikten sonra belirli görevleri yerine getirebilecek şekilde nasıl bağlanacağının akıllıca tasarlanmasıyla oluşturulmuştur.
Ancak yapay sinir ağlarının da sınırlamaları vardır. Örneğin bir daireyi kareden ayırmak için sinir ağını kullanmamız gerekiyorsa. Bir yaklaşım, çıktı katmanına biri daire, diğeri kare için olmak üzere iki nöron yerleştirmektir. Ancak sinir ağının aynı zamanda mavi ve kırmızı gibi şekillerin rengini de ayırt edebilmesini istiyorsak dört çıkış nöronuna ihtiyacımız var: mavi daire, mavi kare, kırmızı daire ve kırmızı kare.
Yani görevin karmaşıklığı arttıkça sinir ağının yapısı da daha fazla bilgiyi işleyebilmek için daha fazla nörona ihtiyaç duyuyor. Bunun nedeni, yapay sinir ağlarının zekaya ulaşma şeklinin, insan beyninin doğal dünyayı algılama şekli değil, "tüm kombinasyonlar için yapay zeka sinir sisteminin karşılık gelen bir nörona sahip olması gerektiğidir."
Buna karşılık, insan beyni öğrenmenin çoğunu zahmetsizce gerçekleştirebilir çünkü beyindeki bilgi çok sayıda nöronun aktivitesiyle temsil edilir. Yani insan beyninin kırmızı kareyi algılaması tek bir nöronun aktivitesi olarak değil, binlerce nöronun aktivitesi olarak kodlanmıştır. Farklı şekillerde ateşlenen aynı nöron seti tamamen farklı bir konsepti temsil edebilir.
**Gördüğünüz gibi insan beyni hesaplaması tamamen farklı bir hesaplama yöntemidir. Ve eğer bu hesaplama yöntemi yapay zeka teknolojisine uygulanırsa yapay zekanın enerji tüketimini büyük ölçüde azaltacaktır. **Ve bu hesaplama yöntemi "süper boyutlu hesaplama" olarak adlandırılır. Bu, insan beyninin hesaplama yöntemini taklit etmek ve daha verimli ve akıllı bir hesaplama süreci elde etmek amacıyla hesaplamaları gerçekleştirmek için yüksek boyutlu matematiksel alanı kullanmaktır.
Örneğin geleneksel mimari tasarım modeli iki boyutludur.Çizimleri yalnızca bir düzlem üzerinde çizebiliriz.Her çizim binanın kat planı ve kablo döşemesi gibi farklı bir yönünü temsil eder. Ancak binalar giderek daha karmaşık hale geldikçe, tüm detayları temsil edecek daha fazla çizime ihtiyaç duyuyoruz ve bu da çok fazla zaman ve kağıt alıyor.
Ve hiper boyutlu hesaplama bize yeni bir tasarım yöntemi sağlayacak gibi görünüyor. Her boyutun uzunluk, genişlik, yükseklik, malzeme, renk vb. gibi bir özelliği temsil ettiği üç boyutlu binalar tasarlayabiliriz. Üstelik binaların farklı zaman noktalarındaki değişimlerini temsil eden dördüncü boyut gibi daha yüksek boyutlu bir mekanda da tasarım yapabiliriz. Bu, tüm tasarımları tek bir süper çizimde tamamlamamıza olanak tanıyarak, bir grup 2D çizime olan ihtiyacı ortadan kaldırır ve bu da verimliliği büyük ölçüde artırır.
Benzer şekilde yapay zeka eğitimindeki enerji tüketimi bina tasarımıyla karşılaştırılabilir. Geleneksel derin öğrenme, her bir özelliği veya niteliği işlemek için büyük miktarda bilgi işlem kaynağı gerektirirken, hiper boyutlu hesaplama, tüm özellikleri işlenmek üzere yüksek boyutlu bir alana yerleştirir. Bu şekilde yapay zeka, hesaplamaları yalnızca bir kez gerçekleştirerek birden fazla özelliği aynı anda algılayabilir ve böylece hesaplama süresinden ve enerji tüketiminden büyük miktarda tasarruf sağlar.
** Öte yandan nükleer füzyon teknolojisi gibi yeni enerji kaynağı çözümleri bulun. **Nükleer füzyon enerji üretim teknolojisi, temel olarak nükleer atık üretmemesi ve üretim sürecinde karbon emisyonu kirliliği oluşturmaması nedeniyle küresel karbon emisyonu sorununa nihai çözümlerden biri olarak kabul edilmektedir.
Mayıs 2023'te Microsoft, nükleer füzyon start-up şirketi Helion Energy ile bir satın alma anlaşması imzalayarak şirketin ilk müşterisi oldu ve şirket 2028'de dünyanın ilk nükleer füzyon enerji santralini kurduğunda elektriğini satın alacak. Üstelik uzun vadede, yapay zeka ultra boyutlu hesaplama lambaları aracılığıyla bilgi işlem gücü birimi başına enerji tüketiminde bir azalma sağlasa bile, nükleer füzyon teknolojisindeki veya diğer düşük karbonlu enerji teknolojilerindeki atılımlar, yapay zeka gelişiminin artık karbonla kısıtlanmamasını sağlayabilir. Emisyonlar Hala büyük bir destek ve tanıtım önemine sahiptir.
Sonuçta teknolojinin getirdiği enerji ve kaynak tüketimi sorunu hâlâ temel olarak ancak teknik düzeyde çözülebiliyor. Teknoloji, teknolojinin gelişimini kısıtladığı gibi aynı zamanda teknolojinin gelişmesini de teşvik etmektedir ki bu çok eski çağlardan beri böyledir.