Multe dintre aceste aplicații sunt găzduite în cloud pe servere puternice, după cum sarcinile implică uneori procesarea unor surse bogate în date, precum imagini, video și audio. Aceste servere fac apel adesea la performanțele adiționale ale unui hardware de accelerare, care pleacă de la unități de procesare grafică până la dispozitive particularizate. Acest lucru devine important pentru procesele intensive, în timpul cărora o rețea neurală este instruită cu date noi.
În mod tipic, procesul de deducție, care utilizează o rețea de instruire, pentru evaluarea noilor date, utilizează mult mai puține calcule intensive decât în cazul instruirii. Există, de asemenea, sarcini de lucru care implică surse ce necesită calcul mai puțin intens, precum citirea unor senzori de la dispozitive IoT, în care atât instruirea cât și deducția pot fi realizate pe hardware de performanță mai joasă. Ca rezultat, proiectanții de sisteme descoperă că aceste sarcini de lucru nu au nevoie neapărat să fie localizate în cloud odată ce modelul IA a fost instruit, deși multe servicii curente o fac, din motive de afacere. În schimb, modelul instruit poate fi transferat pe o mașină locală pentru procesare mai aproape de sursa de date.
Avantajele IA la marginea rețelei
Există un număr de motive pentru a aduce modelele IA mai aproape de marginea rețelei. Un factor major îl reprezintă intimitatea și acceptarea de către utilizator. De exemplu, utilizatorii care folosesc dispozitive precum difuzoare inteligente, devin îngrijorați în legătură cu faptul de a avea conversațiile lor private înregistrate și încărcate în cloud în cazul în care aceste servicii nu pot fi suportate local.
În aplicațiile de control industrial, care încep acum să utilizeze IA pentru monitorizarea condițiilor echipamentului sau pentru optimizarea proceselor, există îngrijorări asupra confidențialității datelor de producție, care vor solicita în mod similar ca necesitatea de transfer în cloud să fie cât mai mică posibil. Pentru numeroase aplicații industriale, există probleme de siguranță în funcționare și de viteză de conectare la cloud.
Numeroase sisteme, fie situate la nivel de hală, fie într-o locație cu control de la distanță, nu dispun de conexiuni în bandă largă care sunt necesare pentru a suporta deciziile bazate pe cloud.
Sistemele de control sunt, de asemenea, afectate în mod divers de o latență mare a comunicațiilor. Dacă modelele IA sunt utilizate în sisteme de control în buclă închisă, orice întârziere în preluarea unei actualizări din cloud va conduce la imprecizii și la generarea de instabilitate. Unele sisteme pot utiliza o mixtură de cloud și procesare locală.
Camerele de supraveghere de exemplu, vor păstra lățimea de bandă a rețelei prin identificarea locală a amenințărilor imediate, dar apoi apelează la cloud pentru a realiza procesări suplimentare pentru situații ce nu sunt acoperite de modelele locale.
Durata de viață a bateriei este, de asemenea, crescută semnificativ atunci când IA se află la margine, deoarece mai puține date sunt trimise în rețea, reducând atât costurile cu rețeaua cât și cele legate de cloud.
Aplicația IA în mentenanța predictivă
Mentenanța predictivă este la ora actuală cel mai cunoscut caz de utilizare pentru aplicații de industrie conectată. Ea dovedește o bună rentabilitate a investiției, datorită abilității de a reduce numărul de inspecții la fața locului. Durata de oprire a mașinii poate fi, de asemenea, redusă prin identificarea cu precizie a perioadei de timp de funcționare rămase pentru o componentă, făcând posibilă exploatarea duratei de viață operaționale, fără risc de defectări pe durata operării. Predicția duratei de viață pe baza de date operaționale ajută la programarea optimă a mentenanței și identificarea corectă a cerinței de piese de schimb. Clienții care utilizează mentenanța predictivă văd deja un câștig în randament de 20 până la 25%.
Cu mentenanță predictivă, senzorii unei mașini unelte pot detecta schimbări în temperatură cuplate cu o creștere a zgomotului sau vibrațiilor, determinate cu o combinație de microfoane și accelerometre, ca indicativ al unei probleme potențiale. Cu tehnicile algoritmice tradiționale, pot fi extrem de dificil de corelat citirile senzorilor în timp real cu posibilele probleme. Modelele bazate pe IA pot interpreta serii de date în funcție de timp împreună cu intrări de timp real pentru a determina cu precizie starea de sănătate a sistemului. Asemenea modele pot beneficia de avantajul unor tehnici precum fuziune de senzori pentru a determina când este necesară mentenanță sau nu. Cerințele de complexitate și latență a modelului vor determina fezabilitatea rulării modelului local.
De la Cloud la Gateway sau margine: abordări în procesarea locală
Există două abordări în procesarea locală. Prima este de a utiliza puterea de procesare disponibilă pe dispozitiv. Fezabilitatea acestui lucru depinde de complexitatea modelului IA și de puterea de procesare disponibilă. Pentru nodurile senzoriale de joasă putere, nu va fi posibilă rularea de modele de învățare profundă, fie și numai pentru deducție, totuși, de vreme ce algoritmii de învățare automată pot lua multe forme, poate să nu fie necesară rularea complet local a unei sarcini atât de grele.
A doua opțiune este de a procesa prin trecerea datelor complet sau parțial pe alt dispozitiv. De exemplu, dispozitivul poate rula un model de IA simplificat care realizează o analiză inițială a datelor. În cazul unui sistem de supraveghere care monitorizează activitatea, acest model poate realiza sarcina de determinare simplă dacă un semnal este zgomot de fond, precum vântul, sau se datorează unui intrus ce trece prin apropiere sau zgomotului brusc al spargerii unei ferestre. Funcțiile mai complexe pot fi transferate către un gateway care concentrează date de la multiple camere și alte dispozitive de securitate. Dispozitivele pot oferi ceva preprocesare pentru a contribui la eficientizarea modelului de gateway.
Hardware-ul puternic precum dispozitivele cu logică programabilă Xilinx oferite de platforma Ultra96 de la Avnet pot realiza deducții pe baza unor modele complexe de învățare profundă și a altor algoritmi complecși de învățare automată. Gateway-ul local poate chiar actualiza modelul prin colectarea datelor și realizarea de pachete de date de instruire atunci când sarcina de lucru de deducție este ușoară. Alternativ, gateway-ul poate colecta datele care sunt importante de reținut și să le trimită pe serverul cloud cu o frecvență zilnică, săptămânală sau lunară.
IA la nivelul dispozitivului oferă latența de comunicație cea mai mică. Cu toate acestea, vitezele de procesare mai mari ale gateway-ului local pot depăși performanțele scăzute ale procesorului dispozitivului și să ofere cei mai buni parametri de latență și viteză de transfer de date. Transferul în cloud se va baza pe factori cum ar fi lățimea de bandă a conexiunii Internet, precum și distanța până la servere: viteza finită a luminii impune o limită asupra a cât de joasă poate fi latența dacă un server cloud este utilizat pentru sarcini de deducție.
Opțiuni de tehnologii de învățare
Dezvoltatorul are de ales ce tip de model să folosească pentru o aplicație specifică. Modelele timpurii de IA apelau la utilizarea unor tehnici precum structuri arborescente de decizie sau sisteme expert care solicitau un efort mare de la specialiștii din domeniu pentru a relaționa combinații de intrări, la cauze și rezultate probabile.
Învățarea automată a îmbunătățit arborele decizional prin realizarea de tehnici precum crearea unor “păduri” aleatorii. O astfel de abordare construiește arbori decizionali multipli de la pregătirea de date și aplicarea lor în paralel pentru calculul unei medii care reprezintă rezultatul cel mai probabil bazat pe datele de instruire. O “pădure” aleatoare este un exemplu de sistem de învățare supervizat; el corelează datele furnizate de dezvoltatorii sistemului cu intrările de la care modelul de învățare automată recunoaște relațiile.
Învățarea profundă este un alt exemplu de tehnologie de învățare supervizată, deoarece se bazează pe datele de instruire, care sunt etichetate în prealabil. De exemplu, într-un sistem de clasificare după imagini, modulul își preia datele din imagine și le aplică unui strat de neuroni simulat. Ieșirea după primul strat de neuroni este trecută succesiv prin mai multe straturi. Unele dintre acestea combină ieșirile de la neuroni multipli din stratul precedent pentru a produce o singură valoare care este trecută către următorul strat. În acest mod, rețelele neurale profunde realizează o reducere a dimensiunii: o treaptă vitală atunci când se convertesc date complexe multi-dimensionale precum datele ca imagine sau radio, ce pot fi utilizate pentru a oferi o clasificare finală.
Rețeaua neurală este capabilă de a realiza clasificări deoarece ea poate învăța modul prin care diferite aranjamente de coeficienți din stratul neural răspund diferitelor imagini pentru a oferi ieșiri care se potrivesc cu etichetele de instruire.
Instruirea unui model de învățare automată nu trebuie să se bazeze numai pe date etichetate. Algoritmii de învățare automată nesupervizată, precum gruparea, pot găsi tipare în date fără ajutor adițional. Un asemenea proces poate fi foarte folositor în sistemele de control industrial unde sunt utilizați senzori multipli sau atunci când este important comportamentul în timp al intrărilor. În cazul monitorizării condițiilor pentru o mașină unealtă, magnitudinea vibrației poate să nu indice o problemă, ci poate fi pur și simplu consecința procesului. Totuși, un model (tipar) al modificării datelor seriale temporale asociate cu schimbarea rapidă în temperatură poate fi indicativul unei probleme care necesită mentenanță. Asemenea diferențe pot fi evidențiate de date prin separarea în grupuri în care sunt ușor de diferențiat atunci când datele sursă, dacă sunt utilizate direct, nu prezintă un model clar.
Un sistem de învățare automată nesupervizată poate găsi modele în combinațiile de citire a senzorilor care pot fi utilizate pentru a reduce cantitatea de date care este apoi trimisă către algoritmul supervizat, care este pregătit pe mașina ce operează sub diferite tipuri de stres și diferite stări ale reparației. După cum gruparea reduce cantitatea de date necesar a fi transferate, un model de proiectare util pentru implementare în sistemele IoT este de a realiza această activitate pe nodul dispozitivului. Modelul derivat din învățarea supervizată poate rula pe gateway sau chiar în cloud, în funcție de echilibrul între latență, performanțe și cost.
Aducerea Inteligenței Artificiale la margine
Un factor important de luat în considerare cu învățarea automată ca tehnologie, este acela că implementarea sa necesită adesea o cunoaștere în profunzime și experiență cu scopul de obține cât mai mult din diferitele forme de IA disponibile. Octonion a dezvoltat o soluție software la această problemă care este construită pe dispozitivul SmartEdge Agile de la Avnet. Soluția permite inginerilor să dezvolte soluții IA pentru sisteme IoT care implică procesare semnificativă la margine fără implicarea unui ajutor scump sau fără atingerea unei experiențe în profunzime.
Soluția rulează pe trei nivele: dispozitiv; gateway; cloud. Hardware-ul dispozitivului, Avnet SmartEdge Agile, este un nod senzorial autonom, de joasă putere.
Acest dispozitiv oferă acces la o varietate de tipuri de senzori care includ: accelerometru, giroscop, magnetometru, pe lângă cei pentru măsurarea presiunii, umidității și proximității. Pentru înregistrarea intrărilor audio este disponibil un microfon.
Hardware-ul de senzor inteligent comunică cu un gateway local ce utilizează BLE. Versiunile care suportă alte tehnologii de rețea orientate IoT, precum LoRaWAN, SigFox, celulară și WiFi sunt în dezvoltare. Modulul gateway poate lua forma unui dispozitiv inteligent Android sau iOS; sau alternativ, software-ul de gateway poate rula pe un Raspberry Pi sau pe platforma Linux a dispozitivului care oferă acces la cloud. Nivelul de cloud poate fi dezvoltat pe AWS, Microsoft Azure sau pe soluții server particularizate.
Coordonarea diferitelor straturi este oferită prin mediul software Brainium al Octonion, care oferă suport margine-la-cloud într-un mediu de tip zero-cod. Securitatea este cheia tuturor implementărilor IoT și un element important al sistemului cu scopul de a proteja datele private utilizate pentru pregătirea modelelor, precum și pe durata deducției. Sistemul dezvoltat pentru Brainium utilizează criptare hardware AES împreună cu stocare de chei criptografice bazate pe hardware rezistent la intruziuni pentru a proteja datele imediat ce au fost citite de microcontrolerul de pe dispozitivul Avnet SmartEdge Agile. Imaginile firmware utilizate de dispozitiv pentru a realiza funcții IA sunt, de asemenea criptate, cu o validare prin semnătură digitală. Atunci când datele sunt trimise, canalele de comunicație necesită criptare TLS pentru a proteja mesajele de la a fi spionate de adversar, de la margine până în cloud.
Mediul software Brainium de la Octonion oferă o combinație de învățare automată supervizată și nesupervizată. De exemplu, el poate fi pregătit pentru anomalii cu privire la datele senzoriale brute provenite în timp. Suplimentar, el va grupa datele de la diferite scenarii pentru a identifica tipare de date comune. Acestea pot fi introduse într-o structură flexibilă de modele cu ajutorul software-ului AI Studio, astfel încât dezvoltatorii să poată alege modelul necesar pentru un caz de utilizare țintă.
Pe durata procesului de învățare, dispozitivul colectează eșantioane de date, le asigură și le criptează înainte de a le conecta la AI Studio software ce rulează în cloud. Acest software învață de la eșantioane pentru a genera modele IA, pe care le transmite înapoi la dispozitivul de la margine pentru sarcina de deducție. Orice dispozitiv din hardware-ul implementat de client poate recepționa acest model IA și poate opera într-un mod independent pentru a realiza monitorizare și analiză. Mediul care rămâne este consistent de la prototipare la producție pe scară largă. Pentru implementare, clienții pot utiliza hardware-ul SmartEdge Agile de la Avnet, chiar de pe raft sau pot alege proiectul pentru utilizare în implementări proprii.
Prin valorificarea datelor de calcul inteligente la margine, proiectul Avnet SmartEdge Agile, pus în funcțiune de software-ul Brainium, minimizează volumul datelor necesare pentru a fi transmise de la fiecare dispozitiv aflat la marginea rețelei. Acolo unde se trece în cloud, în sistem trebuie implementată securitate ridicată. Rezultatul este un sistem care oferă toate uneltele necesare pentru dezvoltarea rapidă și implementarea sistemelor activate de IA.
Author:
Cliff Ortmeyer,
Director Global Marketing Tehnic și Dezvoltare de Soluții, Farnell
http://ro.farnell.com