Edge AI geliştirme panolarından veya AI hızlandırma projelerinden geçerken TensorFlow Lite ile karşılaşmış olabilirsiniz.
TensorFlow Lite, donanım üzerinde yerel olarak makine öğrenimi eğitimi sağlayan bir yazılım paketleri çerçevesidir. Bu cihaz üzerinde işleme ve bilgi işlem, geliştiricilerin modellerini hedeflenen donanım üzerinde çalıştırmalarına olanak tanır. Donanım, geliştirme panolarını, donanım modüllerini, gömülü ve IoT cihazlarını içerir.
TensorFlow Lite Çerçevesine Genel Bakış
TensorFlow, birçok makine öğrenimi geliştiricisi bu çerçeveyi çeşitli kullanım durumları için kullandığından, derin öğrenmede popüler bir terimdir. Uygulama kolaylığı sağlar makine öğrenimi modelleri ve AI uygulamaları için çıkarımlar.
Ancak TensorFlow Lite, özellikle düşük hesaplama donanımı için yerel çıkarım için derin bir öğrenme çerçevesidir. Geliştiricilerin modellerini uyumlu donanım ve IoT cihazlarında çalıştırmalarına yardımcı olarak cihaz üzerinde makine öğrenimine olanak tanır.
Bir geliştiricinin, kullanım durumuna bağlı olarak uygun bir model seçmesi gerekir. Çerçeve ayrıca mevcut modeli özel bir veri kümesinde yeniden eğitme seçeneği de sunar. TensorFlow’un protokol arabellek modeli büyük boyutta geldiğinden ve gelişmiş hesaplama gücü gerektirdiğinden, TensorFlow modelinin TensorFlow Lite modeline dönüştürülmesini sağlar.
Optimizasyon ve niceleme parametrelerinin özelleştirilmesi, model boyutunda ve gecikmede azalmaya izin verir.
TensorFlow Lite'ın gecikme ve boyut avantajlarının yanı sıra, çerçeve, eğitim cihazda yerel olarak gerçekleştiğinden verilerin güvenliğini sağlar. Ek olarak, internet bağlantısına gerek yoktur. Bu nedenle, uygulamaların konuşlandırılması, bağlantıya sahip belirli alanlarla sınırlı değildir.
Bu faktörler sonuçta bağlantı faktörünü ortadan kaldırarak ve derin öğrenme çıkarımının verimliliğini artırarak cihaz üzerindeki güç tüketimi yükünü azaltır.
TensorFlow Lite çerçevesinin modelleri, FlatBuffers olarak bilinen bir çapraz platform biçiminde bulunur. Hiyerarşik verileri düz bir ikili arabellekte depolayan bir serileştirme kitaplığıdır, böylece paketi açmadan doğrudan erişim mümkündür. TensorFlow Lite modelleri için ".tflite" uzantısını da gözlemleyebilirsiniz. Bu temsil tekniği, hesaplamalarda optimizasyona izin verir ve bellek gereksinimlerini azaltır. Bu nedenle, onu TensorFlow modellerinden çok daha iyi hale getiriyor
TensorFlow Lite Micro'da TinyML
TensorFlow Lite, Edge AI uygulamaları için çeşitli platformlarla uyumlu olduğundan, kitaplığı daha fazla yakınsama ihtiyacı vardı. Bu nedenle, kuruluş TensorFlow Lite Micro olarak bilinen TensorFlow Lite'ın bir alt küme kitaplığı ile geldi. TensorFlow Lite Micro, yaklaşık birkaç kilobaytlık minimum bellek gereksinimi ile yerel olarak mikro denetleyicilerde makine öğrenimi modellerini çalıştırır.
Prosedürün temel çalışma süresi, bir Arm Cortex M3 üzerinde 16KB ile entegre olur ve çeşitli modellerde çalışabilir. Çerçeve, cihaz üzerinde çıkarımı çalıştırmak için bağımlılıklar olarak ek işletim sistemi desteği veya diğer yüksek seviyeli dil kitaplıkları gerektirmez.
TensorFlow Lite Micro köklerinin, uyumluluk için 32 bit mimariye ihtiyaç duyan C ++ 11'e geliştirilmesi. Mimariler hakkında daha fazla konuşursak, kütüphane Arm Cortex-M Serisi mimarisini temel alan sağlam bir işlemci yelpazesi üzerinde diğerlerine göre gayet iyi çalışıyor ESP32 gibi tasarım mimarileri.
TensorFlow Lite Micro Kullanım Durumları için İş Akışı
Sinir ağının eğitim süreci yüksek hesaplama donanımı gerektirir. Böylece, genel olarak eğitilmiştir. TensorFlow modeli. Bununla birlikte, eğitim yalnızca özel bir veri kümesi bir derin öğrenme modeline uyuyorsa gereklidir, oysa çerçevedeki önceden eğitilmiş modeller de uygulamalar için kullanılabilir.
Uygulamaya özgü veri kümesiyle özel bir kullanım senaryosu olduğu varsayılarak, kullanıcı modeli yüksek işleme kapasitesi ve mimariye sahip genel TensorFlow çerçevesi üzerinde eğitir. Eğitim bittiğinde, test tekniklerini kullanan model değerlendirmesi, modelin doğruluğunu ve güvenilirliğini doğrular. Ayrıca, işlemi TensorFlow modelinin .tflite formatında donanım uyumlu TensorFlow Lite modeline dönüştürülmesi izler.
.Tflite biçimi, TensorFlow Lite çerçevesi ve uyumlu donanım için ortak olan düz bir arabellek dosyasıdır. Model ayrıca, model üzerinde alınan gerçek zamanlı verilere ilişkin çıkarım eğitimi için de kullanılabilir. Çıkarım eğitimi, güçlü kullanım durumları için modelleri optimize etti. Bu nedenle, çıkarım eğitimi seçeneği uç nokta için çok önemlidir. AI uygulamaları.
Mikrodenetleyicinin ürün yazılımının çoğu, TensorFlow Lite modelinin düz arabellek biçimini doğrudan gömmek için yerel dosya sistemini desteklemez. Bu nedenle, .tflite dosyasının dönüştürülmesi, mikrodenetleyicilerle uyumlu bir dizi yapısı biçimine gereklidir.
Programın C dizisine dahil edilmesi ve ardından normal derleme, böyle bir dönüştürme için kolay bir tekniktir. Ortaya çıkan format, bir kaynak dosyası görevi görür ve mikro denetleyicilerle uyumlu bir karakter dizisinden oluşur.
TensorFlow Lite Micro'yu Destekleyen Cihazlar
TensorFlow Lite, güçlü cihazlar için uygundur, ancak işlemci üzerindeki daha büyük iş yükünün dezavantajıyla birlikte gelir. TensorFlow Lite Micro, yetersiz sığmaya eğilimli küçük boyutlu dosyalara sahip olmasına rağmen, bellek sığar, düşük güç ve düşük işlem donanımı için çıktıyı önemli ölçüde artırabilir. mikrodenetleyiciler.
TensorFlow Lite Micro'yu destekleyen resmi TensorFlow belgelerindeki geliştirme panolarının listesi:
- Arduino Nano 33 BLE Sense
- SparkFun Edge
- STM32F746 Keşif kiti
- Adafruit EdgeBadge
- Mikrodenetleyici Kiti için Adafruit TensorFlow Lite
- Adafruit Circuit Oyun Alanı Bluefruit
- Espressif ESP32-DevKitC
- Espressif ESP-GÖZ
- Wio Terminali: ATSAMD51
- Himax WE-I Plus EVB Uç Nokta Yapay Zeka Geliştirme Kurulu
TensorFlow Lite Micro, mikrodenetleyiciler için genişletilmiş destek için bir Arduino kitaplığı olarak da mevcuttur. Ayrıca Mbed'e benzer donanım geliştirme ortamları için projeler oluşturabilir.
TensorFlow Lite Çok Şey Sunar
TensorFlow Lite derin öğrenme çerçevesi, bir dizi uç yapay zeka uygulamasına olasılıkları açar. Çerçeve, yapay zeka meraklıları için açık kaynak olduğundan, topluluk desteği, onu makine öğrenimi kullanım örnekleri için daha da popüler hale getiriyor. TensorFlow Lite'ın genel platformu, gömülü ve IoT cihazları için uç uygulamaların büyümesi için ortamı iyileştirir
Ek olarak, yeni başlayanlar için çerçevedeki uygulamalı kullanım durumlarında onlara yardımcı olacak çeşitli örnekler vardır. Bu örneklerden bazıları, geliştirme panosunun görüntü sensörü tarafından toplanan verilere bağlı olarak kişi algılamayı ve tüm geliştirme kartları için standart merhaba dünya programını içerir. Örnekler ayrıca belirli geliştirme panoları için hareket algılama ve konuşma tanıma gibi uygulamaları da içerir.
Daha fazla bilgi için TensorFlow Lite ve TensorFlow Lite Microorganizasyonun resmi dokümantasyon sayfasını ziyaret edebilirsiniz. Çerçevenin daha iyi anlaşılması için çok sayıda kavramsal ve öğretici bölüm vardır.
Görüntü tanıma ile uğraşmak mı istiyorsunuz? Tensorflow ve Raspberry Pi sayesinde hemen başlayabilirsiniz.
Sonrakini Oku
- Teknoloji Açıklaması
- Yapay zeka
- Makine öğrenme
- Google TensorFlow
Haber bültenimize abone ol
Teknoloji ipuçları, incelemeler, ücretsiz e-kitaplar ve özel fırsatlar için haber bültenimize katılın!
Bir adım daha…!
Lütfen size az önce gönderdiğimiz e-postadaki e-posta adresinizi onaylayın.