Yapay zekalarda “mobil” devrimi: iPhone’da çalışabilen dev model

Teknoloji ve bilim dünyasını seven ve takip etmekten büyük zevk alan Metin, öğrendiklerini ise DonanımHaber okuyucuları ile paylaşır. Yapay zeka modelleri ölçekleme yasası doğrultusunda giderek büyümeye devam etse de bu yaklaşım özellikle telefon, bilgisayar ve robotlar gibi cihazlarda ciddi donanım ve enerji gereksinimi yaratıyor. ABD merkezli AI girişimi PrismML ise model boyutunu büyütmek yerine "zeka yoğunluğu" kavramına odaklanarak aynı donanımla daha yüksek performans sunmayı hedefliyor.PrismML, yalnızca belirli katmanları küçülten geleneksel kuantizasyon yöntemlerinden farklı olarak tüm modeli 1-bit veya üçlü (ternary) ağırlık yapısına dönüştürüyor. Şirket ayrıca bu yapı için özel çıkarım çekirdekleri geliştirerek sıkıştırılmış ağırlıkların doğrudan kullanılmasını sağlıyor. Böylece model boyutu, bellek kullanımı ve veri aktarımı önemli ölçüde azaltılıyor.Şirketin yeni modeli Bonsai 27B ise Qwen3.6 27B temel alınarak geliştirildi. PrismML, bunun aynı kapasitedeki modeller arasında akıllı telefonda yerel olarak çalışabilen ilk model olduğunu iddia ediyor.Şirkete göre yaklaşık 4 GB boyutundaki 1-bit Bonsai 27B, iPhone 17 Pro Max gibi 12 GB RAM'li iPhone'larda çalışabilen ilk 27 milyar parametreli model konumunda. Bu model, normal şartlarda 54 GB yer kaplıyordu.CNBC'ye konuşan PrismML CEO'su Babak Hassibi, Apple'ın da aralarında bulunduğu çeşitli şirketlerin PrismML modellerini hız, enerji verimliliği ve cihaz üzerindeki performans açısından test ettiğini söyledi.Hassibi, Apple ile görüşmelerin henüz erken aşamada olduğunu vurgulayarak, "Şu anda teknolojimizi gerçekten değerlendiriyorlar” dedi. Görüşmelerin henüz çok erken aşamada olduğunu belirten Hassibi, bunların nereye varacağının belirsiz olduğunu ancak “işlerin iyi bir şekilde ilerlediğini” ifade etti. Apple ise konuya ilişkin yorum yapmadı.Güneş enerjili geçici barınma çantası