KFN Haberleri: Pinterest Açık Kaynaklı Yapay Zeka ile Maliyetleri Kırdı!
Sosyal medya devi, pahalı özel mülk (proprietary) AI modelleri yerine Llama 3 ve Mixtral gibi açık kaynaklı çözümlere geçerek milyonlarca dolar tasarruf ettiğini açıkladı.Yapay zeka devrimi, teknoloji dünyasını dönüştürürken, şirketlerin omuzlarına da devasa bir mali yük bindirdi. OpenAI'ın GPT-4'ü, Google'ın Gemini'ı veya Anthropic'in Claude 3'ü gibi en üst düzey "sınır modelleri" (frontier models) kullanmanın bir bedeli var: Milyonlarca dolarlık API faturaları ve pahalı Nvidia GPU'larına olan bağımlılık.
Pinterest, bugün yaptığı açıklamada, platformun temel öneri ve içerik denetleme sistemlerinin büyük bir kısmını, pahalı "kara kutu" API'lerden (Uygulama Programlama Arayüzü) alıp, kendi bünyesinde eğittiği (fine-tuned) açık kaynaklı modellere taşıdığını belirtti. Bu stratejik hamle, şirketin sadece maliyetlerini "kırmakla" kalmadı, aynı zamanda daha hızlı ve daha alakalı sonuçlar elde etmesini sağladı.
Milyonlarca Dolarlık API Faturası Kâbusu
Pinterest gibi milyarlarca görsele ve yüz milyonlarca aktif kullanıcıya sahip bir platform için yapay zeka, bir lüks değil, bir zorunluluktur. Kullanıcıların "Ana Akışı"nı (Home Feed) kişiselleştirmek, "İlgili Pinler"i önermek ve platforma yüklenen milyonlarca görseli (Topluluk Kuralları ihlali, spam vb. için) saniyeler içinde taramak için gelişmiş yapay zeka modelleri gerekiyor.Bugüne kadar sektördeki yaygın kanı, "en iyi" performans için en pahalı, en büyük özel mülk modellerin kullanılması gerektiği yönündeydi. Ancak bu modellerin her kullanımı (API çağrısı), şirkete sent bazında bir maliyet yüklüyordu. Bu durum, Pinterest'in işletme giderleri üzerinde devasa bir "yapay zeka vergisi" oluşturuyordu.
Çözüm: "Açık Kaynak" ve "Kendi Modelini Pişirmek"
Pinterest mühendislik ekibi, bu sürdürülemez maliyet karşısında radikal bir karar aldı. "Her iş için bir GPT-4 gerekmez" mantığıyla yola çıkan ekip, Meta'nın Llama 3 ve Fransız girişim Mistral AI'ın Mixtral serisi gibi güçlü, açık kaynaklı (open-source) modelleri merkeze aldı.Bu hamlenin arkasındaki strateji basitti:
- Modelleri Al, Eğit: Bu ücretsiz modelleri temel alarak, onları Pinterest'in kendi devasa veri setiyle (milyarlarca Pin ve kullanıcı davranışı verisi) yeniden eğittiler (fine-tuning).
- Uzmanlaşmış Modeller Yarat: Genel amaçlı bir "her şeyi bilen" model yerine, sadece "moda önerisi", "tarif bulma" veya "içerik güvenliği" gibi spesifik konularda uzmanlaşmış, daha küçük ve daha hızlı modeller yarattılar.
- Maliyeti Düşür: Bu daha küçük modelleri kendi sunucularında (on-premise) veya daha ucuz bulut altyapılarında (Nvidia'nın en pahalı H100 çipleri yerine L40S veya hatta açık kaynaklı donanım hızlandırıcıları ile) çalıştırmak, API maliyetlerini neredeyse sıfıra indirdi ve işlem maliyetlerini (inference cost) dramatik bir şekilde düşürdü.
Sadece Tasarruf Değil, Daha Hızlı ve Akıllı Sonuçlar
Pinterest'in blog yazısındaki en çarpıcı iddia, bu hamlenin sadece bir tasarruf kalemi olmaması. Açık kaynaklı modellere geçiş, platformun performansını da artırdı.Özel mülk modellere (GPT-4 vb.) API üzerinden yapılan her istek, verinin internet üzerinden seyahat etmesini ve bir "sıraya" girmesini gerektirir; bu da yüzlerce milisaniyelik bir gecikme (latency) yaratır. Pinterest'in kendi bünyesindeki (self-hosted) optimize edilmiş modelleri ise bu gecikmeyi neredeyse sıfıra indirdi. Kullanıcılar artık "İlgili Pinler"i ararken veya ana akışlarında gezinirken sonuçları "anlık" olarak alabiliyor.
Dahası, bu modeller Pinterest'in kendi verisiyle eğitildiği için, kullanıcıların niyetini daha iyi anlıyor. Örneğin, "rustik mutfak" araması yaptığınızda, genel bir modelin aksine, Pinterest'in kendi görsel grafiğini bilen bir model, size tam olarak platformdaki diğer kullanıcıların "kaydettiği" ve "beğendiği" rustik mutfak görsellerini sunma konusunda daha başarılı oluyor.
Sektör İçin Emsal Niteliğinde Bir Karar
Pinterest'in bu adımı, "yapay zeka maliyet balonu"nun patlamaya başladığının ilk sinyallerinden biri olabilir. Bu hamle, teknoloji dünyasına şu mesajı veriyor: "En pahalı ve en büyük modele ihtiyacınız yok; işiniz için doğru boyuttaki, uzmanlaşmış modele ihtiyacınız var."Bu gelişme, OpenAI ve Google gibi "kapalı model" devleri üzerindeki baskıyı artırırken, Meta (Llama) ve Mistral AI gibi "açık kaynak" şampiyonlarının ekosistemini güçlendiriyor. Diğer büyük teknoloji şirketlerinin (Spotify, Reddit, X (Twitter) vb.), kullanıcıya dönük yüksek hacimli yapay zeka yükleri için Pinterest'in izlediği bu "hibrit" modeli benimsemesi bekleniyor.
Sizce diğer büyük teknoloji şirketleri de Pinterest'in bu açık kaynaklı yolunu izleyerek yapay zeka maliyetlerini düşürmeye başlar mı? Yorumlarınızı bekliyoruz!
