Sam Altman, Youtube’da Cheeky Pint programında John Collison ile yaptığı söyleşide yapay zekanın donanım ihtiyacını ve bellek tedarikindeki sıkışıklığı ele aldı. OpenAI CEO’su, kişisel bilgisayarlardaki RAM ile ilgili değerlendirmelerini, açık modellerin kullanıcı cihazlarında çalıştırılması gerektiği tartışmaları bağlamında sundu. Altman, bu yaklaşımın veri merkezlerine olan ihtiyacı azaltacağı düşüncesine katılmadığını belirterek, dünyadaki sınırlı DRAM kapasitesinin dağılımını gündeme getirdi.
ALTMA'NIN İTİRAZI DÜŞÜK KULLANIM ORANINA
Altman, herkesin kendi bilgisayarında önemli miktarda bellek bulundurmasının, küresel kaynak dağılımı açısından verimsizliğe yol açtığını savundu. Kişisel bilgisayarlardaki belleklerin çoğu gün boyunca kullanılmadığı için önemli bir kaynak israfı olduğunu söyledi. Yüzde 5 kullanım örneği vererek, arzın kısıtlı olduğu durumlarda bulut altyapısındaki kullanım oranının artırılması gerektiğini vurguladı. Buradaki yüzde 5 ifadesi, RAM kapasitesinin sadece bu oranda dolu olduğunu değil, kullanım süresini de ifade ediyor.
YEREL YAPAY ZEKA İLE BULUT ARASINDAKİ FARK
Yerel yapay zeka kullanımında, modelin çalışması için gerekli hesaplama işlemleri kullanıcının bilgisayarında yapılıyor. Modelin boyutuna ve yöntemine bağlı olarak sistem belleği veya ekran kartı belleği bu iş için kullanılıyor. Bulut yaklaşımında ise kullanıcı isteğini uzaktaki sunuculara iletiyor ve sonuçları internet üzerinden alıyor. Altman, kaynak paylaşımı mantığının farklı zamanlarda gelen kullanıcı taleplerinin ortak altyapıda karşılanmasını sağladığını belirtti. Ancak kişisel bilgisayarlardaki belleklerin sadece yapay zeka için kullanılmadığını da hatırlattı.
BELLEK ÜRETİCİLERİ YENİ YATIRIMLARDA TEMKİNLİ
Söyleşinin bellekle ilgili bölümünden önce, yükselen fiyatların neden yeni üretim kapasitesi yaratmadığına da değinildi. Altman, DRAM üreticilerinin geçmişte büyük yatırımlara rağmen düşük getirilerle karşılaştığını ve piyasalardaki dalgalanmaların onları temkinli davranmaya ittiğini belirtti. Üreticiler, aşırı fabrika yatırımları nedeniyle yaşadıkları mali sıkıntıları unutmuyor ve bu, bugünkü talebe rağmen sermaye harcamalarını etkiliyor.