Texas Instruments logó

Texas Instruments AM6x több kamerát fejleszt

Texas-Instruments-AM6x-Fejlesztő-Több-Kamerás-termék

Műszaki adatok

  • Termék neve: AM6x eszközcsalád
  • Támogatott kameratípusok: AM62A (beépített ISP-vel vagy anélkül), AM62P (beépített ISP-vel)
  • Kamera kimeneti adatok: AM62A (Raw/YUV/RGB), AM62P (YUV/RGB)
  • Internetszolgáltató HWA: AM62A (Igen), AM62P (Nem)
  • Mélytanulásos HWA: AM62A (Igen), AM62P (Nem)
  • 3D grafikus HWA: AM62A (Nem), AM62P (Igen)

Bevezetés az AM6x többkamerás alkalmazásaiba:

  • A beágyazott kamerák kulcsszerepet játszanak a modern látórendszerekben.
  • Több kamera használata egy rendszerben növeli a képességeket, és lehetővé teszi olyan feladatok elvégzését, amelyek egyetlen kamerával nem érhetők el.

Több kamerát használó alkalmazások:

  • Biztonsági megfigyelés: Javítja a megfigyelési lefedettséget, a tárgykövetést és a felismerési pontosságot.
  • Surround View: Sztereó látást tesz lehetővé olyan feladatokhoz, mint az akadályérzékelés és a tárgymanipuláció.
  • Kabinrögzítő és kameratükör rendszer: Kiterjesztett lefedettséget biztosít és kiküszöböli a holttereket.
  • Orvosi képalkotás: Fokozott pontosságot biztosít a sebészeti navigációban és az endoszkópiában.
  • Drónok és légi felvételek: Nagy felbontású képek rögzítése különböző szögekből különféle alkalmazásokhoz.

Több CSI-2 kamera csatlakoztatása a SoC-hez:
Több CSI-2 kamera SoC-hez való csatlakoztatásához kövesse a felhasználói kézikönyvben található irányelveket. Győződjön meg arról, hogy minden kamera megfelelően van illesztve és csatlakoztatva a SoC kijelölt portjaihoz.

Alkalmazási megjegyzés
Többkamerás alkalmazások fejlesztése AM6x-en

Jianzhong Xu, Qutaiba Saleh

ABSZTRAKT
Ez a jelentés az AM2x eszközcsaládon futó, több CSI-6 kamerát használó alkalmazásfejlesztést ismerteti. Bemutatjuk az AM4A SoC 62 kameráján futó mélytanulásos objektumdetektálás referenciatervét teljesítményelemzéssel együtt. A tervezés általános elvei más CSI-2 interfésszel rendelkező SoC-kre is vonatkoznak, mint például az AM62x és az AM62P.

Bevezetés

A beágyazott kamerák fontos szerepet játszanak a modern látórendszerekben. Több kamera használata egy rendszerben kibővíti ezen rendszerek képességeit, és olyan lehetőségeket tesz lehetővé, amelyek egyetlen kamerával nem lehetségesek. Az alábbiakban néhány példát láthatunk.amptöbb beágyazott kamerát használó alkalmazások:

  • Biztonsági megfigyelés: Több stratégiailag elhelyezett kamera átfogó megfigyelési lefedettséget biztosít. Panorámafelvételeket tesznek lehetővé. viewcsökkenthetik a holttereket, és növelhetik a tárgykövetés és -felismerés pontosságát, javítva az általános biztonsági intézkedéseket.
  • Surround ViewTöbb kamerát használnak egy sztereó látási beállítás létrehozásához, amely lehetővé teszi a háromdimenziós információk kinyerését és a mélység becslését. Ez kulcsfontosságú olyan feladatokhoz, mint az akadályok észlelése az önvezető járművekben, a precíz tárgymanipuláció a robotikában és a kiterjesztett valóság élményeinek fokozott realizmusa.
  • Utastér-rögzítő és kameratükör-rendszer: Egy több kamerával rendelkező utastér-rögzítő egyetlen processzorral nagyobb lefedettséget biztosíthat. Hasonlóképpen, egy két vagy több kamerával rendelkező kameratükör-rendszer kiterjesztheti a vezető látóterét. view és megszünteti a holttereket az autó minden oldaláról.
  • Orvosi képalkotás: Több kamera használható az orvosi képalkotásban olyan feladatokhoz, mint a sebészeti navigáció, így a sebészek több perspektívából láthatják a képeket a nagyobb pontosság érdekében. Endoszkópiában több kamera teszi lehetővé a belső szervek alapos vizsgálatát.
  • Drónok és légi felvételek készítése: A drónok gyakran több kamerával vannak felszerelve, hogy nagy felbontású képeket vagy videókat készíthessenek különböző szögekből. Ez olyan alkalmazásokban hasznos, mint a légi fényképezés, a mezőgazdasági monitoring és a földmérés.
  • A mikroprocesszorok fejlődésével több kamera integrálható egyetlen System-on-Chip rendszerbe.
    (SoC) kompakt és hatékony megoldásokat kínál. Az AM62Ax SoC nagy teljesítményű videó/képfeldolgozással és mélytanulási gyorsítással ideális eszköz a fent említett felhasználási esetekhez. Egy másik AM6x eszköz, az AM62P, nagy teljesítményű beágyazott 3D megjelenítési alkalmazásokhoz készült. A 3D grafikus gyorsítással felszerelt AM62P könnyedén összefűzi a több kamera képeit, és nagy felbontású panorámaképet készít. viewAz AM62A/AM62P SoC innovatív funkcióit számos publikációban bemutatták, például a [4], [5], [6] stb. Ez az alkalmazási megjegyzés nem ismétli meg ezeket a funkcióleírásokat, hanem ehelyett több CSI-2 kamera AM62A/AM62P beágyazott képfeldolgozó alkalmazásokba való integrálására összpontosít.
  • Az 1-1. táblázat az AM62A és az AM62P közötti fő különbségeket mutatja a képfeldolgozás tekintetében.

1-1. táblázat. Az AM62A és az AM62P közötti különbségek a képfeldolgozásban

SoCAM62AAM62P
Támogatott kameratípusBeépített internetszolgáltatóval vagy anélkülBeépített internetszolgáltatóval
Kamera kimeneti adatokNyers/YUV/RGBYUV/RGB
Internetszolgáltató HWAIgenNem
Mélytanulási HWAIgenNem
3D grafikus HWANemIgen

Több CSI-2 kamera csatlakoztatása a SoC-hez
Az AM6x SoC kamera alrendszere a következő komponenseket tartalmazza, ahogy a 2-1. ábra mutatja:

  • MIPI D-PHY vevő: külső kamerákról fogad videostreameket, adatsávonként akár 1.5 Gbps sebességet támogatva 4 sávon keresztül.
  • CSI-2 vevő (RX): fogadja a D-PHY vevőtől érkező videojeleket, és vagy közvetlenül az internetszolgáltatónak küldi azokat, vagy DDR memóriába menti az adatokat. Ez a modul akár 16 virtuális csatornát is támogat.
  • SHIM: egy DMA wrapper, amely lehetővé teszi a rögzített adatfolyamok DMA-n keresztüli memóriába küldését. Több DMA kontextus hozható létre ezzel a wrapperrel, ahol minden kontextus a CSI-2 vevő egy virtuális csatornájának felel meg.

Texas-Instruments-AM6x-Többkamerás-Fejlesztő-ábra- (2)

Az AM6x több kamera támogatására is alkalmas a CSI-2 RX virtuális csatornáinak használatával, annak ellenére, hogy csak egy CSI-2 RX interfész található a SoC-on. Egy külső CSI-2 aggregáló komponensre van szükség több kamerajelfolyam egyesítéséhez és egyetlen SoC-ra küldéséhez. Kétféle CSI-2 aggregáló megoldás használható, amelyeket a következő szakaszokban ismertetünk.

CSI-2 aggregátor SerDes használatával
Több kameraadatfolyam kombinálásának egyik módja a szerializáló és deszerializáló (SerDes) megoldás. Az egyes kamerák CSI-2 adatait egy szerializáló konvertálja, és kábelen keresztül továbbítja. A deszerializáló fogadja a kábelekről (kameránként egy kábel) átvitt összes szerializált adatot, visszaalakítja a folyamokat CSI-2 adatokká, majd egy összefonódó CSI-2 folyamot küld ki az SoC egyetlen CSI-2 RX interfészére. Minden kameraadatfolyamot egy egyedi virtuális csatorna azonosít. Ez az aggregáló megoldás további előnyt kínál, mivel lehetővé teszi a kamerák és az SoC közötti akár 15 méteres távolságú kapcsolatot.

Az AM3x Linux SDK által támogatott FPD-Link vagy V6-Link szerializálók és deszerializálók (SerDes) a legnépszerűbb technológiák az ilyen típusú CSI-2 aggregációs megoldásokhoz. Mind az FPD-Link, mind a V3-Link deszerializálók rendelkeznek hátsó csatornákkal, amelyekkel képkocka szinkronizációs jelek küldhetők az összes kamera szinkronizálásához, a [7]-ben leírtak szerint.
A 2-2. ábra egy plampPéldául a SerDes segítségével több kamera csatlakoztatható egyetlen AM6x SoC-hoz.

Texas-Instruments-AM6x-Többkamerás-Fejlesztő-ábra- (3)

Egy voltampEnnek az aggregáló megoldásnak a példája megtalálható az Arducam V3Link kameramegoldás-készletben. Ez a készlet egy deszerializáló hubot tartalmaz, amely 4 CSI-2 kamerafolyamot, valamint 4 pár V3link szerializálót és IMX219 kamerát aggregál, beleértve a FAKRA koaxiális kábeleket és a 22 tűs FPC kábeleket. A később tárgyalt referenciaterv erre a készletre épül.

CSI-2 aggregátor SerDes használata nélkül
Ez a fajta aggregátor közvetlenül több MIPI CSI-2 kamerával is képes kommunikálni, és az összes kamera adatait egyetlen CSI-2 kimeneti adatfolyamba összesíteni.

A 2-3. ábra egy plampegy ilyen rendszer le. Ez a fajta aggregációs megoldás nem használ szerializálót/deszerializálót, de a CSI-2 adatátvitel maximális távolsága korlátozza, ami akár 30 cm is lehet. Az AM6x Linux SDK nem támogatja ezt a típusú CSI-2 aggregátort.

Texas-Instruments-AM6x-Többkamerás-Fejlesztő-ábra- (4)

Több kamera engedélyezése szoftverben

Kamera alrendszer szoftverarchitektúrája
A 3-1. ábra az AM62A/AM62P Linux SDK kamerarögzítő rendszer szoftverének magas szintű blokkdiagramját mutatja, amely megfelel a 2-2. ábrán látható hardverrendszernek.

Texas-Instruments-AM6x-Többkamerás-Fejlesztő-ábra- (5)

  • Ez a szoftverarchitektúra lehetővé teszi az SoC számára, hogy több kameraadatot fogadjon a SerDes használatával, ahogy az a 2-2. ábrán látható. Az FPD-Link/V3-Link SerDes minden kamerához egyedi I2C címet és virtuális csatornát rendel. Minden kamera egyedi I2C címével egyedi eszközfa-átfedést kell létrehozni. A CSI-2 RX illesztőprogram felismeri az egyes kamerákat az egyedi virtuális csatornaszám alapján, és kameraadatonként létrehoz egy DMA kontextust. Minden DMA kontextushoz létrejön egy videocsomópont. Az egyes kamerák adatait ezután a rendszer fogadja és tárolja a memóriában DMA segítségével. A felhasználói térben lévő alkalmazások az egyes kamerákhoz tartozó videocsomópontokat használják a kameraadatok eléréséhez. Pl.ampEnnek a szoftverarchitektúrának a használatáról a 4. fejezet – Referenciatervezés – tartalmaz információkat.
  • Bármely, a V4L2 keretrendszerrel kompatibilis érzékelő-illesztőprogram plug and play módon csatlakoztatható ehhez az architektúrához. A Linux SDK-ba integrált új érzékelő-illesztőprogramokkal kapcsolatban lásd a [8]-as hivatkozást.

Képfeldolgozó folyamat szoftverarchitektúra

  • Az AM6x Linux SDK biztosítja a GStreamer (GST) keretrendszert, amely a szervertérben használható a képfeldolgozó komponensek integrálására különféle alkalmazásokhoz. A SoC hardvergyorsítói (HWA), mint például a Vision Pre-processing Accelerator (VPAC) vagy ISP, a videokódoló/dekódoló és a mélytanuló számítási motor, a GST-n keresztül érhetők el. pluginsMaga a VPAC (ISP) több blokkal rendelkezik, beleértve a Vision Imaging Sub-System (VISS), a Lens Distortion Correction (LDC) és a Multiscalar (MSC) blokkokat, amelyek mindegyike egy GST bővítménynek felel meg.
  • A 3-2. ábra egy tipikus képfeldolgozási folyamat blokkdiagramját mutatja a kamerától a kódolásig vagy a mélyfeldolgozásig.
    tanulási alkalmazások AM62A-n. A teljes körű adatfolyammal kapcsolatos további részletekért lásd az EdgeAI SDK dokumentációját.

Texas-Instruments-AM6x-Többkamerás-Fejlesztő-ábra- (6)

Az AM62P esetében a képfeldolgozó folyamat egyszerűbb, mivel nincs internetszolgáltató az AM62P-n.

Texas-Instruments-AM6x-Többkamerás-Fejlesztő-ábra- (7)

Mivel minden egyes kamerához külön videocsomópontot hoznak létre, a GStreamer-alapú képfeldolgozó folyamat lehetővé teszi több kamera bemenetének egyidejű feldolgozását (amelyek ugyanazon a CSI-2 RX interfészen keresztül csatlakoznak). A következő fejezetben egy referenciatervet mutatunk be, amely a GStreamert használja többkamerás alkalmazásokhoz.

Referencia tervezés

Ez a fejezet egy referenciatervet mutat be többkamerás alkalmazások AM62A EVM-en történő futtatásáról, amelyben az Arducam V3Link kameramegoldó készlet segítségével 4 CSI-2 kamera csatlakoztatható az AM62A-hoz, és mind a 4 kamerán objektumérzékelést futtatnak.

Támogatott kamerák
Az Arducam V3Link készlet FPD-Link/V3-Link alapú kamerákkal és Raspberry Pi-kompatibilis CSI-2 kamerákkal egyaránt működik. A következő kamerákat tesztelték:

  • D3 Mérnöki D3RCM-IMX390-953
  • Leopard Imaging LI-OV2312-FPDLINKIII-110H
  • IMX219 kamerák az Arducam V3Link kameramegoldó készletben

Négy IMX219 kamera beállítása
Kövesse az AM62A Starter Kit EVM gyors üzembe helyezési útmutatójában található utasításokat az SK-AM62A-LP EVM (AM62A SK) és az ArduCam V3Link kameramegoldás gyors üzembe helyezési útmutatójának beállításához, hogy a kamerákat a V62Link készleten keresztül csatlakoztassa az AM3A SK-hoz. Győződjön meg arról, hogy a flexibilis kábelek, a kamerák, a V3Link panel és az AM62A SK csatlakozói megfelelően illeszkednek.

A 4-1. ábra a jelentésben szereplő referenciatervhez használt összeállítást mutatja. A beállítás főbb alkotóelemei a következők:

  • 1 db SK-AM62A-LP EVM panel
  • 1x Arducam V3Link d-ch adapterkártya
  • FPC kábel, amely összeköti az Arducam V3Link-et az SK-AM62A-val
  • 4 db V3Link kameraadapter (szerializáló)
  • 4 db RF koaxiális kábel a V3Link sorosítók és a V3Link d-ch készlet összekapcsolásához
  • 4X IMX219 kamera
  • 4 db CSI-2 22 tűs kábel kamerák szerializálókhoz való csatlakoztatásához
  • Kábelek: HDMI kábel, USB-C az SK-AM62A-LP tápellátásához és 12 V-os tápellátás a V3Link d-csatorna készlethez)
  • A 4-1. ábrán nem látható egyéb alkatrészek: micro SD-kártya, micro USB-kábel az SK-AM62A-LP eléréséhez és Ethernet a streaminghez

Texas-Instruments-AM6x-Többkamerás-Fejlesztő-ábra- (8)

Kamerák és CSI-2 RX interfész konfigurálása
Állítsa be a szoftvert az Arducam V3Link gyors üzembe helyezési útmutatójában található utasítások szerint. A kamera beállító szkript, a setup-imx219.sh futtatása után a kamera formátuma, a CSI-2 RX interfész formátuma és az egyes kameráktól a megfelelő videocsomópontig vezető útvonalak megfelelően konfigurálódnak. Négy videocsomópont jön létre a négy IMX219 kamerához. A „v4l2-ctl –list-devices” parancs megjeleníti az összes V4L2 videoeszközt, az alábbiak szerint:

Texas-Instruments-AM6x-Többkamerás-Fejlesztő-ábra- (9)

A tiscsi6rx alatt 1 videocsomópont és 2 médiacsomópont található. Minden videocsomópont a CSI2 RX illesztőprogram által lefoglalt DMA kontextusnak felel meg. A 6 videocsomópont közül 4-et a 4 IMX219 kamera használ, ahogy az az alábbi médiacső topológián is látható:

Texas-Instruments-AM6x-Többkamerás-Fejlesztő-ábra- (10)

A fentiekből látható, hogy a 30102000.ticsi2rx média entitás 6 forrásponttal rendelkezik, de csak az első 4-et használják, mindegyiket egy IMX219-hez. A médiacső topológiája grafikusan is szemléltethető. Futtassa a következő parancsot egy pont létrehozásához: file:

Texas-Instruments-AM6x-Többkamerás-Fejlesztő-ábra- (11)

Ezután futtassa az alábbi parancsot egy Linux gazdagépen PNG létrehozásához file:Texas-Instruments-AM6x-Többkamerás-Fejlesztő-ábra- (12)

A 4-2. ábra a fent megadott parancsok segítségével generált kép. A 3-1. ábrán látható szoftverarchitektúra komponensei ezen a grafikonon találhatók.

Texas-Instruments-AM6x-Többkamerás-Fejlesztő-ábra- (13)

Négy kamerából történő streamelés
A megfelelő hardver- és szoftverbeállítással többkamerás alkalmazások futtathatók a felhasználói térből. Az AM62A esetében az ISP-t be kell hangolni a jó képminőség érdekében. Az ISP hangolásának elvégzésével kapcsolatban lásd az AM6xA ISP hangolási útmutatóját. A következő szakaszok példákat mutatnak be.ampa kameraadatok kijelzőre streamelésének, a kameraadatok hálózatra streamelésének és a kameraadatok tárolásának módjai files.

Kameraadatok streamelése a kijelzőre
Ennek a többkamerás rendszernek az alapvető alkalmazása az összes kamera videóinak streamelése egy ugyanahhoz a SoC-hez csatlakoztatott kijelzőre. A következő egy GStreamer folyamatábraampnégy IMX219 streamelésének példája egy kijelzőre (a videó csomópontok számai és a v4l-subdev számok a folyamatban valószínűleg újraindításról újraindításra változnak).

Texas-Instruments-AM6x-Többkamerás-Fejlesztő-ábra- (14) Texas-Instruments-AM6x-Többkamerás-Fejlesztő-ábra- (15)

Kameraadatok streamelése Etherneten keresztül
A kameraadatok az ugyanahhoz a SoC-hez csatlakoztatott kijelzőre való streamelés helyett Etherneten keresztül is streamelhetők. A fogadó oldal lehet egy másik AM62A/AM62P processzor vagy egy gazdagép. A következő egy példaampkameraadatok Etherneten keresztüli streamelésének példája (két kamera használatával az egyszerűség kedvéért) (vegye figyelembe a folyamatban használt kódoló bővítményt):

Texas-Instruments-AM6x-Többkamerás-Fejlesztő-ábra- (16)

A következő egy exampkameraadatok fogadásának és egy másik AM62A/AM62P processzoron lévő kijelzőre történő streamelésének módja:

Texas-Instruments-AM6x-Többkamerás-Fejlesztő-ábra- (17)

Kameraadatok tárolása Files
A kijelzőre vagy hálózaton keresztüli streamelés helyett a kameraadatok helyi memóriában tárolhatók. files. Az alábbi folyamat minden kamera adatait egy file (két kamerát használva exkéntamp(az egyszerűség kedvéért).

Texas-Instruments-AM6x-Többkamerás-Fejlesztő-ábra- (18)Texas-Instruments-AM6x-Többkamerás-Fejlesztő-ábra- (19)

Többkamerás mélytanulási következtetés

Az AM62A egy mélytanulási gyorsítóval (C7x-MMA) van felszerelve, amely akár két TOPS-t is tartalmaz, és képes különféle mélytanulási modellek futtatására osztályozás, objektumfelismerés, szemantikus szegmentálás és egyebek céljából. Ez a szakasz bemutatja, hogyan képes az AM62A egyszerre négy mélytanulási modellt futtatni négy különböző kameraképen.

Modell kiválasztása
A TI EdgeAI-ModelZoo több száz korszerű modellt kínál, amelyeket eredeti betanítási keretrendszerükből beágyazás-barát formátumba konvertálnak/exportálnak, hogy azok áttölthetők legyenek a C7x-MMA mélytanulási gyorsítóba. A felhőalapú Edge AI Studio Model Analyzer egy könnyen használható „Modellválasztó” eszközt biztosít. Dinamikusan frissül, hogy tartalmazza a TI EdgeAI-ModelZoo által támogatott összes modellt. Az eszköz nem igényel előzetes tapasztalatot, és egy könnyen használható felületet biztosít a kívánt modellben szükséges funkciók megadásához.

A TFL-OD-2000-ssd-mobV1-coco-mlperf modellt választottuk ki ehhez a többkamerás mélytanulási kísérlethez. Ez a többobjektumos detektálási modell a TensorFlow keretrendszerben lett kifejlesztve, 300×300 bemeneti felbontással. A 4-1. táblázat a modell fontos jellemzőit mutatja be a cCOCO adathalmazon, körülbelül 80 különböző osztállyal betanítva.

4-1. táblázat. A TFL-OD-2000-ssd-mobV1-coco-mlperf modell főbb jellemzői.

ModellFeladatFelbontásFPSmAP 50%

Pontosság a COCO-n

Késleltetés/Képkocka (ms)DDR BW

Kihasználtság (MB/képkocka)

TFL-OD-2000-ssd-

mobV1-coco-mlperf

Több objektum észlelése300×300~15215.96.518.839

Csővezeték beállítása
A 4-3. ábra a 4 kamerás mélytanulási GStreamer folyamatát mutatja. A TI a GStreamer egy csomagját biztosítja. plugins amelyek lehetővé teszik a médiafeldolgozás és a mélytanulási következtetések egy részének hardvergyorsítókra való átruházását. Néhány példaampkevesebb ezek közül plugins tartalmazza a tiovxisp, tiovxmultiscaler, tiovxmosaic és tidlinferer függvényeket. A 4-3. ábrán látható folyamatlánc tartalmazza az összes szükséges plugins egy többutas GStreamer csővezetékhez 4 kamerás bemenetekhez, mindegyik média előfeldolgozással, mélytanulási következtetéssel és utófeldolgozással. A duplikált plugins Az egyes kamerapályák értékei egymásra vannak halmozva a grafikonon a könnyebb bemutatás érdekében.
A rendelkezésre álló hardver erőforrások egyenletesen oszlanak el a négy kameraútvonal között. Például az AM62A két kép multiscalert tartalmaz: az MSC0-t és az MSC1-et. A folyamat explicit módon az MSC0-t az 1-es és a 2-es kamera útvonalainak feldolgozására dedikálja, míg az MSC1 a 3-as és a 4-es kamerának van dedikálva.

Texas-Instruments-AM6x-Többkamerás-Fejlesztő-ábra- (21)

A négy kamera pipeline kimenetét a tiovxmosaic bővítmény segítségével skálázzák le és fűzik össze. A kimenet egyetlen képernyőn jelenik meg. A 4-4. ábra a négy kamera kimenetét mutatja egy mélytanulási modellel, amely objektumdetektálást futtat. Minden pipeline (kamera) 30 FPS-sel, összesen pedig 120 FPS-sel fut.

Texas-Instruments-AM6x-Többkamerás-Fejlesztő-ábra- (22)

Ezután következik a többkamerás mélytanulási használati esethez tartozó teljes folyamatábra, amely a 4-3. ábrán látható.

Texas-Instruments-AM6x-Többkamerás-Fejlesztő-ábra- (23) Texas-Instruments-AM6x-Többkamerás-Fejlesztő-ábra- (24)

Teljesítményelemzés

A négy kamerából álló, V3Link kártyát és AM62A SK-t használó összeállítást különféle alkalmazási forgatókönyvekben tesztelték, beleértve a közvetlen képernyőn történő megjelenítést, Etherneten keresztüli streamelést (négy UDP csatorna), valamint 4 különálló eszközre történő rögzítést. files, és mélytanulási következtetéssel. Minden kísérletben monitoroztuk a képkockasebességet és a CPU-magok kihasználtságát, hogy feltárjuk a teljes rendszer képességeit.

Amint azt a 4-4. ábra korábban bemutatta, a mélytanulási folyamat a tiperfooverlay GStreamer bővítményt használja a CPU-magok terhelésének oszlopdiagramként történő megjelenítéséhez a képernyő alján. Alapértelmezés szerint a grafikon két másodpercenként frissül, hogy a terheléseket kihasználtsági százalékként jelenítse meg.tage. A tiperfooverlay GStreamer bővítmény mellett a perf_stats eszköz egy második lehetőség az alapvető teljesítmény közvetlen megjelenítésére a terminálon, egy mentési lehetőséggel egy ... fájlba. fileEz az eszköz pontosabb a tTiperfooverlay-hoz képest, mivel az utóbbi extra terhelést jelent az ARMm magokra és a DDR-re a grafikon rajzolásához és a képernyőn való megjelenítéséhez. A perf_stats eszközt elsősorban a hardverkihasználtsági eredmények gyűjtésére használják a dokumentumban bemutatott összes tesztesetben. A tesztekben vizsgált fontos feldolgozómagok és gyorsítók közé tartoznak a fő processzorok (négy A53 Arm mag @ 1.25 GHz), a mélytanulási gyorsító (C7x-MMA @ 850 MHz), a VPAC (ISP) VISS-szel és multiscalerekkel (MSC0 és MSC1), valamint a DDR műveletek.

Az 5-1. táblázat az AM62A négy kamerával történő használatának teljesítményét és erőforrás-kihasználását mutatja három felhasználási esetben, beleértve négy kamera streamelését egy kijelzőre, streamelést Etherneten keresztül és rögzítést négy különálló eszközre. files. Minden használati esetben két tesztet valósítanak meg: csak a kamerával és mélytanulási következtetéssel. Ezenkívül az 5-1. táblázat első sora a hardverkihasználtságot mutatja, amikor csak az operációs rendszer futott az AM62A-n, felhasználói alkalmazások nélkül. Ezt használják összehasonlítási alapként a többi teszteset hardverkihasználtságának értékelésekor. Amint a táblázatban látható, a négy mélytanulással és képernyőkijelzővel rendelkező kamera egyenként 30 FPS-sel működött, a négy kamera összesen 120 FPS-sel. Ez a magas képkockasebesség a mélytanulási gyorsító (C86x-MMA) teljes kapacitásának mindössze 7%-ával érhető el. Fontos megjegyezni, hogy a mélytanulási gyorsítót ezekben a kísérletekben 850 MHz helyett 1000 MHz-re állították be, ami a maximális teljesítményének mindössze 85%-a.

5-1. táblázat. Az AM62A teljesítménye (FPS) és erőforrás-kihasználása 4 IMX219 kamerával történő használat esetén képernyőkijelzéshez, Ethernet-adatfolyamhoz és rögzítéshez Fileés a mélytanuláson alapuló következtetések végrehajtása

Applicatio nCsővezeték (működés)

)

KimenetFPS átlagos folyamatidőFPS

teljes

A53-as MPU-k @ 1.25

GHz [%]

Mikrovezérlő R5 [%]DLA (C7x- MMA) @ 850

MHz [%]

VISS [%]MSC0 [%]MSC1 [%]DDR

Út [MB/s]

DDR

Wr [MB/s]

DDR

Összesen [MB/s]

Nincs alkalmazásAlapállapot Nincs műveletNANANA1.871000056019579
Kamera csakFolyam képernyőreKépernyő301201212070616010157571782
Ethernet-en keresztüli streamelésPDU: 4

1920×1080-as portok

3012023607000207113903461
Rekord hogy files4 file1920×10803012025307000210014033503
Bütyök mélytanulássalMély tanulás: Objektumfelismerés MobV1-cocoKépernyő30120382586718582292616764602
Mély tanulás: Objektumdetektálás MobV1-COCO és Stream Etherneten keresztülPDU: 4

1920×1080-as portok

28112842099666572415725636720
Mély tanulás: Objektumfelismerés MobV1-coco és rögzítés files4 file1920×108028112872298758261202424586482

Összegzés
Ez az alkalmazásjelentés leírja, hogyan lehet többkamerás alkalmazásokat megvalósítani az AM6x eszközcsaládon. A jelentésben egy, az Arducam V3Link kameramegoldás-készletén és az AM62A SK EVM-en alapuló referenciaterv is szerepel, amely számos kameraalkalmazást mutat be négy IMX219 kamera használatával, például streamelést és objektumérzékelést. A felhasználókat arra ösztönzik, hogy szerezzék be a V3Link kameramegoldás-készletet az Arducamtól, és replikálják ezeket a példákat.ampA jelentés részletes elemzést nyújt az AM62A teljesítményéről négy kamera különböző konfigurációkban történő használata során, beleértve a képernyőn való kijelzést, az Etherneten keresztüli streamelést és a rögzítést. files. Azt is mutatja, hogy az AM62A képes mélytanulási következtetéseket végrehajtani négy különálló kamerafolyamon párhuzamosan. Ha bármilyen kérdése van ezen példák futtatásával kapcsolatbanamples, küldjön egy kérdést a TI E2E fórumon.

Hivatkozások

  1. AM62A kezdőkészlet EVM gyors üzembe helyezési útmutató
  2. ArduCam V3Link kameramegoldás gyors üzembe helyezési útmutató
  3. Edge AI SDK dokumentáció az AM62A-hoz
  4. Edge AI intelligens kamerák energiatakarékos AM62A processzorral
  5. Kameratükör rendszerek az AM62A-n
  6. Vezető- és foglaltságfigyelő rendszerek az AM62A-n
  7. Négycsatornás kameraalkalmazás térhatású hangzáshoz View és CMS kamerarendszerek
  8. AM62Ax Linux Akadémia a CIS-2 érzékelő engedélyezéséről
  9. Edge AI ModelZoo
  10. Edge AI Stúdió
  11. Teljesítménystatisztikák eszköz

Az ebben a felhasználási útmutatóban hivatkozott TI alkatrészek:

FONTOS FIGYELMEZTETÉS ÉS NYILATKOZAT

A TI MŰSZAKI ÉS MEGBÍZHATÓSÁGI ADATOKAT (AZ ADATLAPOKAT BELEÉRTVE), TERVEZÉSI FORRÁSOKAT (BEÉVEZETETT A REFERENCIATERVEKET), ALKALMAZÁSI VAGY EGYÉB TERVEZÉSI TANÁCSOKAT BIZTOSÍT, WEB ESZKÖZÖK, BIZTONSÁGI INFORMÁCIÓK ÉS EGYÉB FORRÁSOK „AHOGY VAN”, ÉS MINDEN HIBÁVAL, ÉS MINDEN KIFEJEZETT ÉS VÉLEMEZTETETT GARANCIÁT ELLENÜL, BELEÉRTVE KORLÁTOZÁS nélkül A KERESKEDELMI SZABÁLYOZATOKRA VONATKOZÓ KERESKEDELMI SZABÁLYOZATOKRA VONATKOZÓ BÁRMILYEN VÉLEMEZETT GARANCIÁT .

Ezek az erőforrások a TI-termékekkel tervező szakképzett fejlesztőknek szólnak. Egyedül Ön felelős

  1. az alkalmazásához megfelelő TI termékek kiválasztása,
  2. az alkalmazás tervezése, érvényesítése és tesztelése, és
  3. annak biztosítása, hogy az alkalmazás megfeleljen a vonatkozó szabványoknak és minden egyéb biztonsági, szabályozási vagy egyéb követelménynek.

Ezek az erőforrások előzetes értesítés nélkül változhatnak. A TI kizárólag olyan alkalmazások fejlesztésére engedélyezi ezen erőforrások használatát, amelyek az erőforrásban leírt TI-termékeket használják. Ezen erőforrások egyéb reprodukálása és megjelenítése tilos. A TI semmilyen más szellemi tulajdonjogra vagy harmadik fél szellemi tulajdonjogára nem ad licencet. A TI elhárítja a felelősséget, és Ön teljes mértékben kártalanítja a TI-t és képviselőit az erőforrások használatából eredő minden követeléssel, kárral, költséggel, veszteséggel és kötelezettséggel szemben.

A TI termékeit a TI értékesítési feltételeinek vagy egyéb vonatkozó feltételeknek megfelelően bocsátjuk rendelkezésre, amelyek a következő helyen érhetők el ti.com vagy az ilyen TI-termékekkel együtt biztosítva. Az erőforrások TI általi biztosítása nem bővíti vagy más módon nem módosítja a TI által a TI-termékekre vonatkozó garanciákat vagy jótállási nyilatkozatokat.

A TI tiltakozik és elutasítja az Ön által javasolt további vagy eltérő feltételeket.

FONTOS MEGJEGYZÉS

  • Levelezési cím: Texas Instruments, Post Office Box 655303, Dallas, Texas 75265
  • Copyright © 2024, Texas Instruments Incorporated

Gyakran Ismételt Kérdések

K: Bármilyen típusú kamerát használhatok az AM6x eszközcsaláddal?

Az AM6x család különböző kameratípusokat támogat, beleértve a beépített ISP-vel rendelkezőket és azok nélkülieket is. A támogatott kameratípusokról további részleteket a specifikációkban talál.

Melyek a fő különbségek az AM62A és az AM62P között a képfeldolgozás terén?

A főbb eltérések közé tartoznak a támogatott kameratípusok, a kamera kimeneti adatai, az internetszolgáltató (ISP) HWA, a mélytanulásra épülő HWA és a 3D grafikus HWA megléte. A részletes összehasonlításért lásd a specifikációs részt.

 

Dokumentumok / Források

Texas Instruments AM6x többkamerás fejlesztés [pdf] Felhasználói útmutató
AM62A, AM62P, AM6x Több kamera fejlesztése, AM6x, Több kamera fejlesztése, Több kamera, Kamera

Hivatkozások

Hagyj megjegyzést

E-mail címét nem tesszük közzé. A kötelező mezők meg vannak jelölve *