OpenAI, ChatGPT deneyiminde yanıt sürelerini kısaltmayı hedefleyen yeni hizmet katmanı Ultrafast’i duyurdu. Şirketin GPT-5.6 Sol için geliştirdiği mod, özellikle karmaşık görevlerde daha hızlı çıktı üretimi sunmayı amaçlıyor.
Açıklamaya göre Ultrafast modu, standart işlem süreçlerine kıyasla 14 kata kadar hız artışı sağlayabiliyor. Bu performansla modelin saniyede 750’ye kadar çıktı token’ı üretebildiği belirtiliyor. Token, yapay zekâ modellerinin metin üretirken kullandığı temel metin parçacıklarını ifade ediyor.
ÖNİZLEME AŞAMASINDA
OpenAI, yüksek hızın yalnızca daha kısa bekleme süreleri anlamına gelmediğini; aynı zamanda gerçek zamanlı etkileşim gerektiren iş akışlarında daha verimli kullanım sağlayabileceğini vurguluyor. Şirket, bugüne kadar benzer hız hedefleri için genellikle daha küçük veya dar bir alana odaklanmış modellerin tercih edildiğini, Ultrafast ile daha güçlü modellerde de hızlı yanıt üretimine odaklanıldığını belirtiyor.
Ultrafast modunun altyapısında çip üreticisi Cerebras ile yapılan iş birliği bulunuyor. Yeni mod şu anda önizleme aşamasında ve yalnızca sınırlı bir müşteri grubunun erişimine açık. OpenAI, sunucu ve altyapı kapasitesi genişledikçe erişimin kademeli olarak artırılacağını ifade ediyor.
Şirketin hedeflediği kullanım alanları arasında kriz ve olay müdahalesi, müşteri hizmetleri, destek sistemleri, finansal piyasa analizleri ve e-ticaret gibi hızlı tepki gerektiren alanlar yer alıyor. Ultrafast’in yaygın kullanıma ne zaman açılacağına ilişkin ise net bir takvim paylaşılmadı.
Haber Kaynağı : 12punto
