YENİ GPT-OSS MODEL AİLESİ SUNULUYOR
NVIDIA, OpenAI ile yeni gpt-oss açık model ailesini tüketicilere sunma amacıyla iş birliği yaptığını duyurdu. Bu iş birliği, daha önce yalnızca bulut veri merkezlerinde kullanılan en gelişmiş yapay zeka teknolojilerinin RTX destekli PC’ler ve iş istasyonlarında hızlı bir şekilde çalışmasını sağlıyor. Bu iş birliği, GeForce RTX GPU’ların ve PRO GPU’ların yüksek işlem gücünden faydalanarak, daha hızlı ve akıllı yeni bir yerel yapay zeka çağı başlatıyor. İki yeni model varyantı da ekosistemin tamamına hizmet etmek üzere tasarlandı.
MODEL PERFORMANS DETAYLARI
Gpt-oss-20b modeli, en az 16 GB VRAM’e sahip NVIDIA RTX AI PC’lerde en yüksek performansla çalışacak şekilde optimize edildi. Bu model, RTX 5090 GPU üzerinde saniyede 250 token’a kadar üretim gerçekleştirme kapasitesine sahip. Gpt-oss-120b modeli ise, NVIDIA RTX PRO GPU’larla hızlandırılmış profesyonel iş istasyonları için destekleniyor. Bu modeller, NVIDIA H100 GPU’ları üzerinde eğitildi ve MXFP4 hassasiyetini destekleyen ilk modeller olarak dikkat çekiyor. MXFP4, eski yöntemlerle karşılaştırıldığında performans kaybı olmadan model kalitesini ve doğruluğunu artıran bir yöntemdir. Her iki model de 131.072 bağlam uzunluğunu destekliyor, bu da yerel çıkarımda mevcut olan en uzun bağlam uzunluklarından biridir.
DEVELOPER DESTEKLERİ
RTX AI Garage, yapay zeka meraklıları ve geliştiricilerin NVIDIA RTX GPU’lar üzerinde OpenAI’nin yeni modelleriyle nasıl başlayabileceğini gösteriyor. Ollama uygulaması, bu modelleri test etmenin en kolay yollarından biri olarak öne çıkıyor. Kullanıcı arayüzü, RTX GPU’lar için tam optimize edilmiş gpt-oss modellerini ek kurulum gerektirmeden destekliyor. Ayrıca, NVIDIA, RTX GPU’larda performansı optimize etmek amacıyla açık kaynak topluluğuyla da iş birliği yapıyor; bu kapsamda yükü azaltmaya yardımcı olan CUDA Graphs da dahil olmak üzere son katkılar sağlandı. Geliştiriciler, Llama.cpp GitHub deposu üzerinden çalışmaya başlayabiliyor. Windows geliştiricileri ise, Microsoft AI Foundry Local üzerinden bu modellere erişim sağlayabiliyor. Terminalde yalnızca şu komutun çalıştırılması yeterli: Foundry model run gpt-oss-20b.
CEO’DAN ÖNEMLİ AÇIKLAMALAR
NVIDIA kurucusu ve CEO’su Jensen Huang, lansmanın önemini şu sözlerle vurguladı: “OpenAI, NVIDIA AI üzerinde neler inşa edilebileceğini dünyaya gösterdi ve şimdi açık kaynak yazılımlar alanında inovasyonu ileri taşıyor. Gpt-oss modelleri, geliştiricilere bu son teknoloji açık kaynak temeli üzerinde inşa etme fırsatı sunarak ABD’nin yapay zeka alanındaki teknoloji liderliğini güçlendiriyor, hem de dünyanın en büyük yapay zeka işlem altyapısı üzerinde.” OpenAI’nin yeni modelleriyle RTX üzerinde nasıl çalışmaya başlayabileceğine dair kapsamlı bir inceleme için RTX AI Garage blog gönderisine göz atmak mümkün. NVIDIA’nın OpenAI ile gerçekleştirdiği iş birliği hakkında daha fazla bilgi için NVIDIA şirket blogunu ziyaret edebilirsiniz.