Tether, USDT stablecoin’unun üreticisi olarak bilinen bir şirket, QVAC Fabric adını verdiği bir framework’ü piyasaya sürdü. Bu framework, büyük dil modellerinin akıllı telefonlar ve Nvidia olmayan GPU’lar gibi yaygın cihazlarda optimize edilmesine olanak tanıyor.

QVAC Fabric, Tether’in QVAC platformunun bir parçası olarak karşımıza çıkıyor ve Microsoft’un BitNet mimarisi ile LoRA teknolojisini harmanlıyor. Bu iki çözüm bir araya geldiğinde, eğitim için gereken bellek ve hesaplama gücünü ciddi ölçüde azaltıyor.

Tether’in açıklamalarına göre, sistem standart 16 bit modellere göre bellek gereksinimlerini %90’a kadar azaltabiliyor. Bu sayede akıllı telefonlar, dizüstü bilgisayarlar ve orta-alt seviyedeki GPU’lar üzerinde daha büyük modellerin çalıştırılması mümkün hale geliyor.

Tether mühendislerine göre, cihaz üzerinde bir milyar parametreye kadar olan modellerin ayarlanması iki saatten az bir sürede gerçekleştirilebiliyor. Ayrıca, daha küçük modeller sadece birkaç dakika sürebiliyor. Yüksek segment akıllı telefonlar üzerinde, örneğin iPhone 16, Pixel 9 ve Galaxy S25’te, ekip 3.8 milyar parametreli modellerin optimizasyonunu başarıyla gerçekleştirdi. Ancak, en büyük başarı iPhone 16’da elde edildi ve tam 13 milyar parametreli modellerin ayarlanması yapıldı.

QVAC Fabric, AMD, Intel, Apple Silicon, Qualcomm ve Apple’ın yanı sıra yalnızca Nvidia’ya dayanan geleneksel çözümlere kıyasla geniş bir donanım yelpazesinde çalışacak şekilde tasarlandı. Bu durum, GPU’ların BitNet modellerini çalıştırırken yalnızca CPU kullanan yapıların 2 ila 11 kat daha hızlı çalışabileceği anlamına geliyor.

Tether’ın vurguladığı kullanım alanlarından biri de federasyon öğrenimi. Bu yaklaşım, verileri merkezi sunuculara göndermeden birçok cihazda modelleri güncelleme olanağı sunuyor. Bu sayede kullanıcılar lokal olarak modelleri özelleştirebiliyor, verilerini üçüncü taraf alt yapılarına yüklemeden cihazlarında tutabiliyorlar.

QVAC’ın temelindeki kod GitHub’da açık kaynak olarak yayınlandı. Bu da bağımsız geliştiricilerin ve küçük araştırma laboratuvarlarının LoRA eğitimini sınırlı kaynaklara sahip GPU’lar ve mobil cihazlar üzerinde deneyebilecekleri anlamına geliyor.

Genel olarak, QVAC Fabric’in akıllı telefonlar ve tüketici GPU’ları üzerindeki ilerlemesi, dağıtılmış yapay zeka teknolojisinin kullanıcı cihazlarında doğrudan çalıştırılmasının gelecekteki dijital altyapıların temel unsuru olmaya doğru ilerlediğini doğruluyor.

⚠️ Bu içerik yatırım tavsiyesi değildir.