Úvod do TensorFlow
V tomto článku sa zobrazí osnova architektúry TensorFlow. TensorFlow je multiplatformová knižnica a existuje niekoľko bežných konceptov, ako sú operácie, relácie a výpočtové grafy. TensorFlow Serving umožňuje jednoduché nasadenie nových algoritmov a experimentov pri zachovaní rovnakej architektúry databázy a rozhraní API.
Čo je architektúra Tensorflow?
Tensorflow je bežne používaná knižnica s hĺbkovým vzdelávaním, ktorú vytvoril tím pre mozog spoločnosti Google, ktorý pracoval na umelej inteligencii. Bol vyvinutý tak, aby sa dal používať na viacerých CPU, GPU a tiež môže bežať na mobilných zariadeniach a podporuje rôzne triedy obalov, ako sú python, C ++ alebo Java a tenzory, čo sú objekty, ktoré opisujú lineárny vzťah medzi vektormi, skalármi a inými tenzormi.,
Tenzory nie sú nič iné ako viacrozmerné polia. Aby sme pochopili architektúru a vlastnosti TensorFlow, musíme najprv porozumieť niektorým pojmom.
- Tensorflow Servables
- Dostupné verzie
- Servable Streams
- Model Tensorflow
- Tensorflow nakladače
- Zdroje Tensorflow
- Manažér Tensorflow
- Tensorflow Core
- Život funkčných
- Batcher V architektúre Tensorflow
1. Servis Tensorflow
- Tensorflow Servables sú bežné objekty, ktoré sa používajú hlavne na výpočet. Veľkosť obslužného programu TensorFlow je veľmi flexibilná. Prevádzkové položky sú centrálne nedokončené jednotky slúžiace v systéme TensorFlow.
- Obslužná jednotka môže obsahovať čokoľvek, ako môže obsahovať n-tice, vyhľadávacie tabuľky. Spravovateľné objekty môžu byť ľubovoľného typu a akéhokoľvek rozhrania. Vďaka týmto funkciám je veľmi flexibilné a ľahké robiť budúce vylepšenia, ako sú asynchrónne režimy operácií, výsledky streamovania a experimentálne API.
2. Dostupné verzie
- Servisné verzie sa používajú na údržbu verzií servisných verzií TensorFlow. Dokáže spracovať jednu alebo viac verzií Servables. Môže pomôcť nakonfigurovať nové algoritmy, spracovať závažia a vykonať ďalšie zmeny, načítať údaje.
- Môže tiež meniť a spravovať verzie a súčasne povoliť viac verzií, ktoré je možné obsluhovať.
3. Servable Streams
Je to zbierka rôznych verzií Servables. Uloží ju v rastúcom poradí verzií.
4. Modely Tensorflow
- Model TensorFlow môže obsahovať jeden alebo viac Servers TensorFlow. Používa sa hlavne v úlohách strojového učenia, ktoré môžu obsahovať viac ako jeden algoritmus, ktorý obsahuje rôzne hmotnosti podľa modelu, vyhľadávacích tabuliek, metrík a vložení tabuliek.
- Môže byť obsluhovaná mnohými rôznymi spôsobmi tak, že existujú rôzne spôsoby obsluhy vyhľadávacej tabuľky.
5. Nakladače Tensorflow
- Nakladač Tensorflow je API, ktoré riadi životný cyklus TensorFlow Servables. Poskytuje spoločnú infraštruktúru pre niektoré zo vzdelávacích algoritmov.
- Hlavným použitím nakladača TensorFlow je načítanie a vyloženie servisných dielcov pomocou štandardizovaných rozhraní API pre zavádzače.
6. Zdroje Tensorflow
- Zdroje fungujú ako zásuvný modul. Zdroj Tensorflow poskytuje základné zaobchádzanie so servisným materiálom, ako je zistenie prevádzkyschopného tovaru, na požiadanie poskytuje servisný zásah.
- Každá referencia môže poskytovať jeden alebo viac obslužných tokov súčasne. Každý zdroj poskytuje inštanciu zavádzača na spracovanie verzie toku. A každý obslužný tok sa načíta na základe verzie.
- Zdroj má rôzne stavy, ktoré je možné zdieľať s rôznymi verziami a viacerými servermi. Dokáže zvládnuť aj aktualizáciu alebo zmenu medzi verziami.
7. Manažéri Tensorflow
- Manažér Tensorflow sa stará o životný cyklus prevádzky až do konca.
- Načítava sa servisné, obsluhovateľné a vykladateľné.
- Manažér dostane odpoveď zo všetkých obslužných zdrojov a tiež monitoruje všetky jeho verzie. Správca tiež môže odovzdanie odmietnuť alebo odložiť.
- Funkcia GetServableHandle () poskytuje rozhranie, ktoré pomáha zvládnuť manažérske veci týkajúce sa TensorFlow Servables.
8. Tensorflow Core
Tensorflow Core obsahuje:
- Životný cyklus, metriky.
- Servírovacie jadro spoločnosti Tensorflow berie objekty a nakladače ako predmet.
9. Život služby
Celý postup je vysvetlený o tom, ako sa používa opraviteľný materiál a celý jeho životný cyklus:
- Zdroj vytvára nakladače pre rôzne verzie s možnosťou obsluhy. Požiadavka klienta na manažéra a manažéra poslala nakladačom požadovanú verziu, načítala a slúžila späť klientovi.
- Loader obsahuje metadáta, ktoré je možné použiť na načítanie Servables. Spätné volanie sa používa na upozornenie manažéra na verzie zdrojových súborov, ktoré je možné spravovať. Manažér sa riadi zásadami verzií, ktoré pomáhajú konfigurovať a rozhodnúť sa, ktorá akcia bude potrebná.
- Manažér tiež kontroluje bezpečnosť nakladačov, ak je to bezpečné, potom iba vydá potrebné prostriedky nakladaču a dá povolenie na načítanie novej verzie. Manažér poskytuje Severable na žiadosť klienta, alebo bude výslovne požadovať konkrétnu verziu alebo môže požiadať o priamu najnovšiu verziu potom, čo manažér vráti popisovač pre prístup k obsluhovateľnému dielu.
- Dynamický manažér spracováva obsluhovateľné verzie, uplatňuje politiku verzií a rozhoduje, či je potrebné načítať verziu alebo najnovšiu verziu. Dynamický manažér prideľuje pamäť zavádzaču. Nakladač iniciuje graf TensorFlow a aktualizuje hmotnosti grafu TensorFlow.
- Keď klient požiada o obslužný diel a skontroluje verziu, ktorú požaduje, potom dynamický manažér vráti obslužný program s požadovanou verziou obslužného programu.
10. Dávkovač v architektúre Tensorflow
- Dávkovanie je postup spracovania viacerých žiadostí do jednej žiadosti.
- Použitím tohto postupu môžeme znížiť náklady na vykonanie inferencií, najmä na zrýchlenie hardvéru ako GPU, TPU.
- Obslužný program Tensorflow obsahuje widget Batcher. Pomocou tohto widgetu môžu klienti ľahko rozdeliť svoje viaceré špecifické požiadavky na odvodenie do jednej dávky. Aby mohli tento postup vykonávať efektívne.
Záver - architektúra TensorFlow
Architektúra Tensorflow predstavuje decentralizovaný systém. Ukazuje, ako rôzne komponenty fungujú a plnia svoje úlohy v decentralizovanom systéme. Poskytovanie na žiadosť klienta a paralelné dávkovanie viacerých operácií. Medzi najlepšie funkcie architektúry TensorFlow patrí dávkovanie operácií, hardvérová akcelerácia a možnosti dynamického manažéra, nakladače, zdroje, obslužné toky.
Odporúčané články
Toto je sprievodca architektúrou TensorFlow. Tu diskutujeme, čo je TensorFlow a niektoré z najlepších funkcií architektúry TensorFlow. Viac informácií nájdete aj v ďalších navrhovaných článkoch -
- Úvod do Tensorflow s charakteristickými vlastnosťami
- TensorFlow vs Spark | Top 5 Porovnanie
- Theano vs Tensorflow - hlavné rozdiely
- Alternatívy TensorFlow Top 11