E-Ticaret ve AI Günlük Brifing
Yapay zekâ işlem hızı e-ticaret kataloğunun maliyetini nasıl etkiler?
Kog, teknik ön izlemesinde belirli donanım koşullarında bir istek için saniyede 3.000 çıktı tokenına ulaştığını duyurdu. Katalog operasyonunda asıl ölçü, onaydan geçen ürün başına maliyet.

Saniyede 3.000 token hangi testte görüldü?
Kog, çıkarım motorunun teknik ön izlemesinde iki milyar parametreli bir modelle, tek istekte ve sekiz AMD MI300X GPU üzerinde saniyede 3.000 çıktı tokenı bildirdi. Sekiz NVIDIA H200 için bildirilen hız 2.100. Test FP16 hassasiyetinde, toplu istek sayısı bir olacak şekilde yapıldı. Bu değer tek isteğin çıktı üretim hızını gösteriyor. Aynı anda binlerce ürün işlenirken oluşacak toplam kapasiteyi veya kayıt başı maliyeti göstermiyor.
Ürün kartının onaylanma süresi nasıl ölçülür?
Bir katalog işinde ilk cevap beş saniyede gelebilir. Ürün özelliklerini toplamak, yanlış alanı düzeltmek ve insan onayı için beklemek 60 saniye sürüyorsa işin büyük bölümü modelin dışında. Aynı 100 üründe toplam süreyi, yeniden işlem sayısını ve onaylanan ürün başına maliyeti karşılaştırın. Hızın hangi aşamada gerçekten fark yarattığı bu ölçümde görünür.