Uçlarda Öğrenirken İlerlemek


“İle güç avucunuzun içinde uç AI, işiniz olacak durdurulamaz.

Pazarlama, yapay zeka şirketleri için böyle görünüyor. Herkesin uçta bulut ölçeğinde yapay zeka destekli iş zekası analitiği var gibi görünüyor. Kulağa etkileyici gelse de, pazarlama mumbo jumbo’nun bir anlamı olduğuna ikna olmadık. Ancak günümüzde uç cihazlarda AI nasıl görünüyor?

Uçta olmak, gerçek AI değerlendirmesinin ve hatta ince ayarın bazı bulut ortamlarından ziyade yerel olarak kullanıcının cihazında çalıştığı anlamına gelir. Bu hem işletme hem de kullanıcı için çifte kazançtır. Daha az bilgi merkezi bir konuma geri iletildiği için gizlilik daha kolay korunabilir. Ek olarak, yapay zeka, bir sunucunun herhangi bir yerde erişilemeyeceği veya yeterince hızlı bir şekilde yanıt veremeyeceği senaryolarda çalışabilir.

Google ve Apple’ın sırasıyla kendi AI kitaplıkları, ML Kit ve Core ML’leri vardır. Orası araçlar Tensorflow, PyTorch, XGBoost ve LibSVM modellerini CoreML ve ML Kit’in anladığı biçimlere dönüştürmek için. Ancak diğer çözümler, eğitim ve değerlendirme için platformdan bağımsız bir katman sağlamaya çalışır. Ayrıca, 2017’den bu yana önemli ölçüde olgunlaşan Tensorflow’un kısaltılmış bir sürümü olan Tensorflow Lite’ı (TFL) daha önce ele aldık.

Bu makale için bakacağız PyTorch Canlı (PTL), akıllı telefonlara PyTorch modelleri eklemek için küçültülmüş bir çerçeve. TFL’nin (RPi’de ve bir tarayıcıda çalışabilen) aksine, PTL tamamen Android ve iOS’a odaklanır ve sıkı entegrasyon sunar. Tepki-yerel destekli bir ortam kullanır, bu da yoğun bir şekilde node.js dünyasına yönelik olduğu anlamına gelir.

Bulut Gerekmez

Şu anda, PTL çok erken. MacOS’ta çalışır (Apple Silicon desteği olmasa da), ancak görünüşe göre Windows ve Linux uyumluluğu gelecek. Yeni bir projeye başlamayı nispeten ağrısız hale getiren kullanışlı bir CLI ile birlikte gelir. Yeni bir proje kurduktan ve oluşturduktan sonra, her şeyle ilgilenen birkaç komutla deneyim sorunsuzdur. Eğitim basitti ve kısa süre sonra sayıları tanıyabilen bir demomuz oldu.

Öğreticiyi daha ileri götürmenin ve özel bir model oluşturmanın zamanı gelmişti. Kullanmak EMNIST veri setibiz eğitimli oluşturduk resnet9 modeli yardımını kullanarak harfler veri seti ile yararlı bir GitHub deposu. Bir modelimiz olduğunda, PyTorch yardımcı programlarını kullanmak yeterince basitti. modeli lite ortamına aktar. Kodda yapılan bazı ince ayarlarla (simülatörde canlı olarak yeniden yüklenir), sayılar yerine karakterleri tanıdı.

Makine öğrenimi dünyasında biraz daha tecrübeli birinin bunu bizden daha ileri götürebileceğinden şüpheleniyoruz. PTL’nin aşağıdakiler gibi başka heyecan verici demoları var: cihazda konuşma tanıma ve canlı video segmentasyonu ve tanıma. Genel olarak deneyim kolaydı ve denediğimiz senaryoların uygulanması nispeten kolaydı.

Halihazırda akıllı telefona tepki veren yerel bir dünyadaysanız, PTL’nin entegre edilmesi ve kullanılması basit görünüyor. Bunun dışında pek çok şey desteksiz kalıyor. Tensorflow Lite, ilk ele aldığımızda benzer şekilde kısıtlıydı ve o zamandan beri olgunlaştı ve yeni platformlar ve özellikler kazandı ve birçok desteklenen platformla güçlü bir kitaplık haline geldi. Sonunda, PyTorch Live’ın neye dönüştüğünü göreceğiz. Beta dalında GPU’lar ve sinir motorları için zaten destek var.


Kaynak : https://hackaday.com/2022/06/21/edging-ahead-when-learning-on-the-edge/

Yorum yapın

SMM Panel