Girişimci ve yazılımcı Sigil Wen, kişisel verileri kullanıcının cihazında tutmayı hedefleyen yeni yapay zekâ asistanı Underdog'un davetli beta sürümünü kullanıma açtı. Uygulama, bulut sunucularına bağımlı çalışmak yerine işlemleri doğrudan Mac ve Windows bilgisayarlarda gerçekleştirecek şekilde tasarlandı.
Yapay zekâ işlemleri cihazda kalıyor
Underdog'un temel yaklaşımı, kullanıcı verilerinin cihaz dışına taşınmasını azaltmak. Asistanın erişim izni verilen e-posta ve benzeri hesaplara ait anahtarları şifrelemesi de platformun güvenlik mimarisinin parçaları arasında yer alıyor. Linux, iPhone ve Android sürümlerinin de ilerleyen dönemde sunulması planlanıyor.
Platformun teknik altyapısında, Wen'in geliştirdiği Husky adlı çıkarım motoru bulunuyor. Bu sistem, yapay zekâ modellerini cihaz üzerinde daha verimli çalıştırmayı amaçlıyor. Husky'nin bilgisayarın ana işlemcisi ile grafik işlemcisi arasındaki veri hareketini azaltarak performansa katkı sunması hedefleniyor.
Daha küçük model, günlük görev odağı
Underdog, veri merkezlerinde çalışan en büyük modeller yerine 27 milyar parametreli, muhakeme yeteneğine odaklanan bir modeli kullanıyor. Bu kapasitenin alışveriş araştırması, bilgi sorguları ve eğitim amaçlı matematik desteği gibi günlük görevlerde yeterli bir deneyim sunması bekleniyor.
Girişimin iş modeli de cihaz içi çalışma yaklaşımına dayanıyor. Uygulamanın başlangıçta ücretsiz ve reklamsız olması planlanırken, yapay zekâ üzerinden gerçekleşebilecek ödeme işlemlerinden küçük bir pay alınması öngörülüyor. Bu model, hizmetin kullanıcı verilerini reklam veya model eğitimi amacıyla değerlendirmeden sürdürülebilmesini amaçlıyor.
Conway Research tarafından geliştirilen Underdog, yapay zekâ asistanlarında gizlilik, düşük işletme maliyeti ve kullanıcı kontrolünü aynı çerçevede buluşturmayı hedefliyor. Cihaz içi yapay zekânın olgunlaşması, gelecekte daha kişisel ve bağımsız dijital asistanların yaygınlaşmasına zemin hazırlayabilir.