PixelByte’ın CTO’su model deploy’unu, ölçeklemeyi ve kuyruk işlerini tek bir mühendisle yürütüyordu. each::labs ile bu altyapı katmanı ortadan kalktı; aynı ekip, tek bir deploy’un sürdüğü sürede 10 model yayına alıyor.
Çalıştırma başına. Geri kalanı, işi yapan modelin süresi.
Müşteri
PixelByte, üretken AI uygulamaları geliştiriyor. Bunlardan biri, evcil hayvan danslarından müze portrelerine kadar 200’den fazla efekt şablonuyla tek bir fotoğrafı videoya dönüştürüyor; bir diğeri sanat, avatar, logo ve albüm kapağı üretiyor. Tüm model altyapısını eskiden CTO’su ve tek bir mühendis taşıyordu.
Sorun
Model deploy’unu, ölçeklemeyi ve kuyruk mekaniğini tek bir mühendis yönetiyordu. Bakım ve eşzamanlılık sorunları yeni model çıkışlarını engelliyor, her yeni model bir deploy ve bir ölçek testi daha gerektiriyordu. Mühendislik saatleri ürün yerine altyapıda kayboluyordu.
each::labs’i nasıl kullanıyorlar
PixelByte her özellik için açık ve kapalı modeller arasından seçim yapıyor; barındırılan inference, eşzamanlılık, ölçekleme ve kuyrukları each::labs üstleniyor. Yeni modeller deploy ya da ölçekleme işi olmadan yayına giriyor; inference daha hızlı, yük altında eşzamanlılık engeli yok.
Çıktı
İnsanların PixelByte uygulamalarıyla ürettikleri.
Evcil hayvanınızVideo · Evcil hayvan dansı trendi
Selfie’nizVideo · Trend
Your selfieVideo · Cartoon avatar
Görsel · Albüm kapağı
Sonuçlar
Rakamlarla öncesi ve sonrası.
Deploy penceresi başına yayına alınan model
1 → 10
Önce
Sonra
Deploy ve ölçeklemeyle ilgilenen mühendis
1 → 0
Önce
Sonra
Yük altında eşzamanlılık engeli
Sık → Hiç
Önce
Sonra
Müşteri hikayesi
Daha çok bir teknik ortak gibi.
“each::labs deploy yükünün tamamını omuzlarımızdan aldı. Ama bizi asıl tutan ortaklık. Bir model her zaman başka bir yolla çözülebilir; gerçek bir ortak çözülemez.”
Görsel · Albüm kapağı
