Google, Yapay Zekadaki Hesaplamaları Sekiz Kat Hızlandırmak İçin “Pied Piper Benzeri” Bir Algoritma Geliştirdi

Metni:

Teknoloji devi Google, yapay zeka alanında devrim niteliğinde bir adım atarak TurboQuant adlı bir bellek sıkıştırma algoritması geliştirdi. Bu algoritma, büyük dil modelleri ve vektörel arama sistemlerinin çalışması için gereken kaynakları önemli ölçüde azaltarak hesaplamaları hızlandırıyor. Kullanıcılar, bu gelişmeyi, “Kremniy Vadisi” dizisindeki Pied Piper teknolojisi ile karşılaştırdılar.

Yapay zeka, karmaşık çok boyutlu dizilerle çalışır ve kelimeleri veya görüntüleri depolayan bilgiler içerir. Bu veriler önbellekte çok yer kaplar ve cevapların oluşturulmasını yavaşlatır. Geleneksel sıkıştırma yöntemleri, genellikle optimize etmenin faydasını sıfırlayan ek değişkenlerin depolanmasını gerektirir. Ancak TurboQuant, bellek aşımı sorununu iki mekanizma ile çözer. Birincisi, vektörleri kutupsal koordinat sistemine dönüştürür ve veri setinin ana kısmını sıkıştırır. İkincisi, matematiksel bir denetleyici olarak çalışarak, kalıntı gizli hataları ortadan kaldırmak için sadece bir bit bellek kullanır.

Cloudflare CEO’su Matthew Prince, bu algoritmayı düşük maliyetlerle yüksek verimlilik sergileyen Çin modeli DeepSeek ile karşılaştırdı. Geliştiriciler, Llama, Gemma ve Mistral gibi açık modeller üzerinde teknolojiyi test ettiler. Algoritma, yanıtların kalitesinden ödün vermeden önbelleği üç bite sıkıştırdı. Bellek tüketimi en az altı katına düştü ve H100 grafik hızlandırıcılarındaki hesaplama hızı sekiz katına çıktı.

Bu yenilik, yapay zeka ağıların ek eğitim gerektirmez. Şirketin iddiasına göre, bu teknoloji arama algoritmalarına ve kendi yapay zeka ürünlerine, özellikle de Gemini’ye entegre edilecek. Projenin kamu tanıtımı, 2026 yılında ICLR ve AISTATS konferanslarında gerçekleşecek.

Geçtiğimiz günlerde, Google’ın post-kvantum kriptografiye geçiş planlarını da açıkladığını hatırlatalım. Bu önemli adımlar, Google’ın teknolojik açıdan ileriye dönük vizyonunu net bir şekilde ortaya koyuyor.

⚠️ Bu içerik yatırım tavsiyesi değildir.