Texas Instruments AM6x több kamerát fejleszt
Műszaki adatok
- Termék neve: AM6x eszközcsalád
- Támogatott kameratípusok: AM62A (beépített ISP-vel vagy anélkül), AM62P (beépített ISP-vel)
- Kamera kimeneti adatok: AM62A (Raw/YUV/RGB), AM62P (YUV/RGB)
- Internetszolgáltató HWA: AM62A (Igen), AM62P (Nem)
- Mélytanulásos HWA: AM62A (Igen), AM62P (Nem)
- 3D grafikus HWA: AM62A (Nem), AM62P (Igen)
Bevezetés az AM6x többkamerás alkalmazásaiba:
- A beágyazott kamerák kulcsszerepet játszanak a modern látórendszerekben.
- Több kamera használata egy rendszerben növeli a képességeket, és lehetővé teszi olyan feladatok elvégzését, amelyek egyetlen kamerával nem érhetők el.
Több kamerát használó alkalmazások:
- Biztonsági megfigyelés: Javítja a megfigyelési lefedettséget, a tárgykövetést és a felismerési pontosságot.
- Surround View: Sztereó látást tesz lehetővé olyan feladatokhoz, mint az akadályérzékelés és a tárgymanipuláció.
- Kabinrögzítő és kameratükör rendszer: Kiterjesztett lefedettséget biztosít és kiküszöböli a holttereket.
- Orvosi képalkotás: Fokozott pontosságot biztosít a sebészeti navigációban és az endoszkópiában.
- Drónok és légi felvételek: Nagy felbontású képek rögzítése különböző szögekből különféle alkalmazásokhoz.
Több CSI-2 kamera csatlakoztatása a SoC-hez:
Több CSI-2 kamera SoC-hez való csatlakoztatásához kövesse a felhasználói kézikönyvben található irányelveket. Győződjön meg arról, hogy minden kamera megfelelően van illesztve és csatlakoztatva a SoC kijelölt portjaihoz.
Alkalmazási megjegyzés
Többkamerás alkalmazások fejlesztése AM6x-en
Jianzhong Xu, Qutaiba Saleh
ABSZTRAKT
Ez a jelentés az AM2x eszközcsaládon futó, több CSI-6 kamerát használó alkalmazásfejlesztést ismerteti. Bemutatjuk az AM4A SoC 62 kameráján futó mélytanulásos objektumdetektálás referenciatervét teljesítményelemzéssel együtt. A tervezés általános elvei más CSI-2 interfésszel rendelkező SoC-kre is vonatkoznak, mint például az AM62x és az AM62P.
Bevezetés
A beágyazott kamerák fontos szerepet játszanak a modern látórendszerekben. Több kamera használata egy rendszerben kibővíti ezen rendszerek képességeit, és olyan lehetőségeket tesz lehetővé, amelyek egyetlen kamerával nem lehetségesek. Az alábbiakban néhány példát láthatunk.amptöbb beágyazott kamerát használó alkalmazások:
- Biztonsági megfigyelés: Több stratégiailag elhelyezett kamera átfogó megfigyelési lefedettséget biztosít. Panorámafelvételeket tesznek lehetővé. viewcsökkenthetik a holttereket, és növelhetik a tárgykövetés és -felismerés pontosságát, javítva az általános biztonsági intézkedéseket.
- Surround ViewTöbb kamerát használnak egy sztereó látási beállítás létrehozásához, amely lehetővé teszi a háromdimenziós információk kinyerését és a mélység becslését. Ez kulcsfontosságú olyan feladatokhoz, mint az akadályok észlelése az önvezető járművekben, a precíz tárgymanipuláció a robotikában és a kiterjesztett valóság élményeinek fokozott realizmusa.
- Utastér-rögzítő és kameratükör-rendszer: Egy több kamerával rendelkező utastér-rögzítő egyetlen processzorral nagyobb lefedettséget biztosíthat. Hasonlóképpen, egy két vagy több kamerával rendelkező kameratükör-rendszer kiterjesztheti a vezető látóterét. view és megszünteti a holttereket az autó minden oldaláról.
- Orvosi képalkotás: Több kamera használható az orvosi képalkotásban olyan feladatokhoz, mint a sebészeti navigáció, így a sebészek több perspektívából láthatják a képeket a nagyobb pontosság érdekében. Endoszkópiában több kamera teszi lehetővé a belső szervek alapos vizsgálatát.
- Drónok és légi felvételek készítése: A drónok gyakran több kamerával vannak felszerelve, hogy nagy felbontású képeket vagy videókat készíthessenek különböző szögekből. Ez olyan alkalmazásokban hasznos, mint a légi fényképezés, a mezőgazdasági monitoring és a földmérés.
- A mikroprocesszorok fejlődésével több kamera integrálható egyetlen System-on-Chip rendszerbe.
(SoC) kompakt és hatékony megoldásokat kínál. Az AM62Ax SoC nagy teljesítményű videó/képfeldolgozással és mélytanulási gyorsítással ideális eszköz a fent említett felhasználási esetekhez. Egy másik AM6x eszköz, az AM62P, nagy teljesítményű beágyazott 3D megjelenítési alkalmazásokhoz készült. A 3D grafikus gyorsítással felszerelt AM62P könnyedén összefűzi a több kamera képeit, és nagy felbontású panorámaképet készít. viewAz AM62A/AM62P SoC innovatív funkcióit számos publikációban bemutatták, például a [4], [5], [6] stb. Ez az alkalmazási megjegyzés nem ismétli meg ezeket a funkcióleírásokat, hanem ehelyett több CSI-2 kamera AM62A/AM62P beágyazott képfeldolgozó alkalmazásokba való integrálására összpontosít. - Az 1-1. táblázat az AM62A és az AM62P közötti fő különbségeket mutatja a képfeldolgozás tekintetében.
1-1. táblázat. Az AM62A és az AM62P közötti különbségek a képfeldolgozásban
SoC | AM62A | AM62P |
Támogatott kameratípus | Beépített internetszolgáltatóval vagy anélkül | Beépített internetszolgáltatóval |
Kamera kimeneti adatok | Nyers/YUV/RGB | YUV/RGB |
Internetszolgáltató HWA | Igen | Nem |
Mélytanulási HWA | Igen | Nem |
3D grafikus HWA | Nem | Igen |
Több CSI-2 kamera csatlakoztatása a SoC-hez
Az AM6x SoC kamera alrendszere a következő komponenseket tartalmazza, ahogy a 2-1. ábra mutatja:
- MIPI D-PHY vevő: külső kamerákról fogad videostreameket, adatsávonként akár 1.5 Gbps sebességet támogatva 4 sávon keresztül.
- CSI-2 vevő (RX): fogadja a D-PHY vevőtől érkező videojeleket, és vagy közvetlenül az internetszolgáltatónak küldi azokat, vagy DDR memóriába menti az adatokat. Ez a modul akár 16 virtuális csatornát is támogat.
- SHIM: egy DMA wrapper, amely lehetővé teszi a rögzített adatfolyamok DMA-n keresztüli memóriába küldését. Több DMA kontextus hozható létre ezzel a wrapperrel, ahol minden kontextus a CSI-2 vevő egy virtuális csatornájának felel meg.
Az AM6x több kamera támogatására is alkalmas a CSI-2 RX virtuális csatornáinak használatával, annak ellenére, hogy csak egy CSI-2 RX interfész található a SoC-on. Egy külső CSI-2 aggregáló komponensre van szükség több kamerajelfolyam egyesítéséhez és egyetlen SoC-ra küldéséhez. Kétféle CSI-2 aggregáló megoldás használható, amelyeket a következő szakaszokban ismertetünk.
CSI-2 aggregátor SerDes használatával
Több kameraadatfolyam kombinálásának egyik módja a szerializáló és deszerializáló (SerDes) megoldás. Az egyes kamerák CSI-2 adatait egy szerializáló konvertálja, és kábelen keresztül továbbítja. A deszerializáló fogadja a kábelekről (kameránként egy kábel) átvitt összes szerializált adatot, visszaalakítja a folyamokat CSI-2 adatokká, majd egy összefonódó CSI-2 folyamot küld ki az SoC egyetlen CSI-2 RX interfészére. Minden kameraadatfolyamot egy egyedi virtuális csatorna azonosít. Ez az aggregáló megoldás további előnyt kínál, mivel lehetővé teszi a kamerák és az SoC közötti akár 15 méteres távolságú kapcsolatot.
Az AM3x Linux SDK által támogatott FPD-Link vagy V6-Link szerializálók és deszerializálók (SerDes) a legnépszerűbb technológiák az ilyen típusú CSI-2 aggregációs megoldásokhoz. Mind az FPD-Link, mind a V3-Link deszerializálók rendelkeznek hátsó csatornákkal, amelyekkel képkocka szinkronizációs jelek küldhetők az összes kamera szinkronizálásához, a [7]-ben leírtak szerint.
A 2-2. ábra egy plampPéldául a SerDes segítségével több kamera csatlakoztatható egyetlen AM6x SoC-hoz.
Egy voltampEnnek az aggregáló megoldásnak a példája megtalálható az Arducam V3Link kameramegoldás-készletben. Ez a készlet egy deszerializáló hubot tartalmaz, amely 4 CSI-2 kamerafolyamot, valamint 4 pár V3link szerializálót és IMX219 kamerát aggregál, beleértve a FAKRA koaxiális kábeleket és a 22 tűs FPC kábeleket. A később tárgyalt referenciaterv erre a készletre épül.
CSI-2 aggregátor SerDes használata nélkül
Ez a fajta aggregátor közvetlenül több MIPI CSI-2 kamerával is képes kommunikálni, és az összes kamera adatait egyetlen CSI-2 kimeneti adatfolyamba összesíteni.
A 2-3. ábra egy plampegy ilyen rendszer le. Ez a fajta aggregációs megoldás nem használ szerializálót/deszerializálót, de a CSI-2 adatátvitel maximális távolsága korlátozza, ami akár 30 cm is lehet. Az AM6x Linux SDK nem támogatja ezt a típusú CSI-2 aggregátort.
Több kamera engedélyezése szoftverben
Kamera alrendszer szoftverarchitektúrája
A 3-1. ábra az AM62A/AM62P Linux SDK kamerarögzítő rendszer szoftverének magas szintű blokkdiagramját mutatja, amely megfelel a 2-2. ábrán látható hardverrendszernek.
- Ez a szoftverarchitektúra lehetővé teszi az SoC számára, hogy több kameraadatot fogadjon a SerDes használatával, ahogy az a 2-2. ábrán látható. Az FPD-Link/V3-Link SerDes minden kamerához egyedi I2C címet és virtuális csatornát rendel. Minden kamera egyedi I2C címével egyedi eszközfa-átfedést kell létrehozni. A CSI-2 RX illesztőprogram felismeri az egyes kamerákat az egyedi virtuális csatornaszám alapján, és kameraadatonként létrehoz egy DMA kontextust. Minden DMA kontextushoz létrejön egy videocsomópont. Az egyes kamerák adatait ezután a rendszer fogadja és tárolja a memóriában DMA segítségével. A felhasználói térben lévő alkalmazások az egyes kamerákhoz tartozó videocsomópontokat használják a kameraadatok eléréséhez. Pl.ampEnnek a szoftverarchitektúrának a használatáról a 4. fejezet – Referenciatervezés – tartalmaz információkat.
- Bármely, a V4L2 keretrendszerrel kompatibilis érzékelő-illesztőprogram plug and play módon csatlakoztatható ehhez az architektúrához. A Linux SDK-ba integrált új érzékelő-illesztőprogramokkal kapcsolatban lásd a [8]-as hivatkozást.
Képfeldolgozó folyamat szoftverarchitektúra
- Az AM6x Linux SDK biztosítja a GStreamer (GST) keretrendszert, amely a szervertérben használható a képfeldolgozó komponensek integrálására különféle alkalmazásokhoz. A SoC hardvergyorsítói (HWA), mint például a Vision Pre-processing Accelerator (VPAC) vagy ISP, a videokódoló/dekódoló és a mélytanuló számítási motor, a GST-n keresztül érhetők el. pluginsMaga a VPAC (ISP) több blokkal rendelkezik, beleértve a Vision Imaging Sub-System (VISS), a Lens Distortion Correction (LDC) és a Multiscalar (MSC) blokkokat, amelyek mindegyike egy GST bővítménynek felel meg.
- A 3-2. ábra egy tipikus képfeldolgozási folyamat blokkdiagramját mutatja a kamerától a kódolásig vagy a mélyfeldolgozásig.
tanulási alkalmazások AM62A-n. A teljes körű adatfolyammal kapcsolatos további részletekért lásd az EdgeAI SDK dokumentációját.
Az AM62P esetében a képfeldolgozó folyamat egyszerűbb, mivel nincs internetszolgáltató az AM62P-n.
Mivel minden egyes kamerához külön videocsomópontot hoznak létre, a GStreamer-alapú képfeldolgozó folyamat lehetővé teszi több kamera bemenetének egyidejű feldolgozását (amelyek ugyanazon a CSI-2 RX interfészen keresztül csatlakoznak). A következő fejezetben egy referenciatervet mutatunk be, amely a GStreamert használja többkamerás alkalmazásokhoz.
Referencia tervezés
Ez a fejezet egy referenciatervet mutat be többkamerás alkalmazások AM62A EVM-en történő futtatásáról, amelyben az Arducam V3Link kameramegoldó készlet segítségével 4 CSI-2 kamera csatlakoztatható az AM62A-hoz, és mind a 4 kamerán objektumérzékelést futtatnak.
Támogatott kamerák
Az Arducam V3Link készlet FPD-Link/V3-Link alapú kamerákkal és Raspberry Pi-kompatibilis CSI-2 kamerákkal egyaránt működik. A következő kamerákat tesztelték:
- D3 Mérnöki D3RCM-IMX390-953
- Leopard Imaging LI-OV2312-FPDLINKIII-110H
- IMX219 kamerák az Arducam V3Link kameramegoldó készletben
Négy IMX219 kamera beállítása
Kövesse az AM62A Starter Kit EVM gyors üzembe helyezési útmutatójában található utasításokat az SK-AM62A-LP EVM (AM62A SK) és az ArduCam V3Link kameramegoldás gyors üzembe helyezési útmutatójának beállításához, hogy a kamerákat a V62Link készleten keresztül csatlakoztassa az AM3A SK-hoz. Győződjön meg arról, hogy a flexibilis kábelek, a kamerák, a V3Link panel és az AM62A SK csatlakozói megfelelően illeszkednek.
A 4-1. ábra a jelentésben szereplő referenciatervhez használt összeállítást mutatja. A beállítás főbb alkotóelemei a következők:
- 1 db SK-AM62A-LP EVM panel
- 1x Arducam V3Link d-ch adapterkártya
- FPC kábel, amely összeköti az Arducam V3Link-et az SK-AM62A-val
- 4 db V3Link kameraadapter (szerializáló)
- 4 db RF koaxiális kábel a V3Link sorosítók és a V3Link d-ch készlet összekapcsolásához
- 4X IMX219 kamera
- 4 db CSI-2 22 tűs kábel kamerák szerializálókhoz való csatlakoztatásához
- Kábelek: HDMI kábel, USB-C az SK-AM62A-LP tápellátásához és 12 V-os tápellátás a V3Link d-csatorna készlethez)
- A 4-1. ábrán nem látható egyéb alkatrészek: micro SD-kártya, micro USB-kábel az SK-AM62A-LP eléréséhez és Ethernet a streaminghez
Kamerák és CSI-2 RX interfész konfigurálása
Állítsa be a szoftvert az Arducam V3Link gyors üzembe helyezési útmutatójában található utasítások szerint. A kamera beállító szkript, a setup-imx219.sh futtatása után a kamera formátuma, a CSI-2 RX interfész formátuma és az egyes kameráktól a megfelelő videocsomópontig vezető útvonalak megfelelően konfigurálódnak. Négy videocsomópont jön létre a négy IMX219 kamerához. A „v4l2-ctl –list-devices” parancs megjeleníti az összes V4L2 videoeszközt, az alábbiak szerint:
A tiscsi6rx alatt 1 videocsomópont és 2 médiacsomópont található. Minden videocsomópont a CSI2 RX illesztőprogram által lefoglalt DMA kontextusnak felel meg. A 6 videocsomópont közül 4-et a 4 IMX219 kamera használ, ahogy az az alábbi médiacső topológián is látható:
A fentiekből látható, hogy a 30102000.ticsi2rx média entitás 6 forrásponttal rendelkezik, de csak az első 4-et használják, mindegyiket egy IMX219-hez. A médiacső topológiája grafikusan is szemléltethető. Futtassa a következő parancsot egy pont létrehozásához: file:
Ezután futtassa az alábbi parancsot egy Linux gazdagépen PNG létrehozásához file:
A 4-2. ábra a fent megadott parancsok segítségével generált kép. A 3-1. ábrán látható szoftverarchitektúra komponensei ezen a grafikonon találhatók.
Négy kamerából történő streamelés
A megfelelő hardver- és szoftverbeállítással többkamerás alkalmazások futtathatók a felhasználói térből. Az AM62A esetében az ISP-t be kell hangolni a jó képminőség érdekében. Az ISP hangolásának elvégzésével kapcsolatban lásd az AM6xA ISP hangolási útmutatóját. A következő szakaszok példákat mutatnak be.ampa kameraadatok kijelzőre streamelésének, a kameraadatok hálózatra streamelésének és a kameraadatok tárolásának módjai files.
Kameraadatok streamelése a kijelzőre
Ennek a többkamerás rendszernek az alapvető alkalmazása az összes kamera videóinak streamelése egy ugyanahhoz a SoC-hez csatlakoztatott kijelzőre. A következő egy GStreamer folyamatábraampnégy IMX219 streamelésének példája egy kijelzőre (a videó csomópontok számai és a v4l-subdev számok a folyamatban valószínűleg újraindításról újraindításra változnak).
Kameraadatok streamelése Etherneten keresztül
A kameraadatok az ugyanahhoz a SoC-hez csatlakoztatott kijelzőre való streamelés helyett Etherneten keresztül is streamelhetők. A fogadó oldal lehet egy másik AM62A/AM62P processzor vagy egy gazdagép. A következő egy példaampkameraadatok Etherneten keresztüli streamelésének példája (két kamera használatával az egyszerűség kedvéért) (vegye figyelembe a folyamatban használt kódoló bővítményt):
A következő egy exampkameraadatok fogadásának és egy másik AM62A/AM62P processzoron lévő kijelzőre történő streamelésének módja:
Kameraadatok tárolása Files
A kijelzőre vagy hálózaton keresztüli streamelés helyett a kameraadatok helyi memóriában tárolhatók. files. Az alábbi folyamat minden kamera adatait egy file (két kamerát használva exkéntamp(az egyszerűség kedvéért).
Többkamerás mélytanulási következtetés
Az AM62A egy mélytanulási gyorsítóval (C7x-MMA) van felszerelve, amely akár két TOPS-t is tartalmaz, és képes különféle mélytanulási modellek futtatására osztályozás, objektumfelismerés, szemantikus szegmentálás és egyebek céljából. Ez a szakasz bemutatja, hogyan képes az AM62A egyszerre négy mélytanulási modellt futtatni négy különböző kameraképen.
Modell kiválasztása
A TI EdgeAI-ModelZoo több száz korszerű modellt kínál, amelyeket eredeti betanítási keretrendszerükből beágyazás-barát formátumba konvertálnak/exportálnak, hogy azok áttölthetők legyenek a C7x-MMA mélytanulási gyorsítóba. A felhőalapú Edge AI Studio Model Analyzer egy könnyen használható „Modellválasztó” eszközt biztosít. Dinamikusan frissül, hogy tartalmazza a TI EdgeAI-ModelZoo által támogatott összes modellt. Az eszköz nem igényel előzetes tapasztalatot, és egy könnyen használható felületet biztosít a kívánt modellben szükséges funkciók megadásához.
A TFL-OD-2000-ssd-mobV1-coco-mlperf modellt választottuk ki ehhez a többkamerás mélytanulási kísérlethez. Ez a többobjektumos detektálási modell a TensorFlow keretrendszerben lett kifejlesztve, 300×300 bemeneti felbontással. A 4-1. táblázat a modell fontos jellemzőit mutatja be a cCOCO adathalmazon, körülbelül 80 különböző osztállyal betanítva.
4-1. táblázat. A TFL-OD-2000-ssd-mobV1-coco-mlperf modell főbb jellemzői.
Modell | Feladat | Felbontás | FPS | mAP 50% Pontosság a COCO-n | Késleltetés/Képkocka (ms) | DDR BW Kihasználtság (MB/képkocka) |
TFL-OD-2000-ssd- mobV1-coco-mlperf | Több objektum észlelése | 300×300 | ~152 | 15.9 | 6.5 | 18.839 |
Csővezeték beállítása
A 4-3. ábra a 4 kamerás mélytanulási GStreamer folyamatát mutatja. A TI a GStreamer egy csomagját biztosítja. plugins amelyek lehetővé teszik a médiafeldolgozás és a mélytanulási következtetések egy részének hardvergyorsítókra való átruházását. Néhány példaampkevesebb ezek közül plugins tartalmazza a tiovxisp, tiovxmultiscaler, tiovxmosaic és tidlinferer függvényeket. A 4-3. ábrán látható folyamatlánc tartalmazza az összes szükséges plugins egy többutas GStreamer csővezetékhez 4 kamerás bemenetekhez, mindegyik média előfeldolgozással, mélytanulási következtetéssel és utófeldolgozással. A duplikált plugins Az egyes kamerapályák értékei egymásra vannak halmozva a grafikonon a könnyebb bemutatás érdekében.
A rendelkezésre álló hardver erőforrások egyenletesen oszlanak el a négy kameraútvonal között. Például az AM62A két kép multiscalert tartalmaz: az MSC0-t és az MSC1-et. A folyamat explicit módon az MSC0-t az 1-es és a 2-es kamera útvonalainak feldolgozására dedikálja, míg az MSC1 a 3-as és a 4-es kamerának van dedikálva.
A négy kamera pipeline kimenetét a tiovxmosaic bővítmény segítségével skálázzák le és fűzik össze. A kimenet egyetlen képernyőn jelenik meg. A 4-4. ábra a négy kamera kimenetét mutatja egy mélytanulási modellel, amely objektumdetektálást futtat. Minden pipeline (kamera) 30 FPS-sel, összesen pedig 120 FPS-sel fut.
Ezután következik a többkamerás mélytanulási használati esethez tartozó teljes folyamatábra, amely a 4-3. ábrán látható.
Teljesítményelemzés
A négy kamerából álló, V3Link kártyát és AM62A SK-t használó összeállítást különféle alkalmazási forgatókönyvekben tesztelték, beleértve a közvetlen képernyőn történő megjelenítést, Etherneten keresztüli streamelést (négy UDP csatorna), valamint 4 különálló eszközre történő rögzítést. files, és mélytanulási következtetéssel. Minden kísérletben monitoroztuk a képkockasebességet és a CPU-magok kihasználtságát, hogy feltárjuk a teljes rendszer képességeit.
Amint azt a 4-4. ábra korábban bemutatta, a mélytanulási folyamat a tiperfooverlay GStreamer bővítményt használja a CPU-magok terhelésének oszlopdiagramként történő megjelenítéséhez a képernyő alján. Alapértelmezés szerint a grafikon két másodpercenként frissül, hogy a terheléseket kihasználtsági százalékként jelenítse meg.tage. A tiperfooverlay GStreamer bővítmény mellett a perf_stats eszköz egy második lehetőség az alapvető teljesítmény közvetlen megjelenítésére a terminálon, egy mentési lehetőséggel egy ... fájlba. fileEz az eszköz pontosabb a tTiperfooverlay-hoz képest, mivel az utóbbi extra terhelést jelent az ARMm magokra és a DDR-re a grafikon rajzolásához és a képernyőn való megjelenítéséhez. A perf_stats eszközt elsősorban a hardverkihasználtsági eredmények gyűjtésére használják a dokumentumban bemutatott összes tesztesetben. A tesztekben vizsgált fontos feldolgozómagok és gyorsítók közé tartoznak a fő processzorok (négy A53 Arm mag @ 1.25 GHz), a mélytanulási gyorsító (C7x-MMA @ 850 MHz), a VPAC (ISP) VISS-szel és multiscalerekkel (MSC0 és MSC1), valamint a DDR műveletek.
Az 5-1. táblázat az AM62A négy kamerával történő használatának teljesítményét és erőforrás-kihasználását mutatja három felhasználási esetben, beleértve négy kamera streamelését egy kijelzőre, streamelést Etherneten keresztül és rögzítést négy különálló eszközre. files. Minden használati esetben két tesztet valósítanak meg: csak a kamerával és mélytanulási következtetéssel. Ezenkívül az 5-1. táblázat első sora a hardverkihasználtságot mutatja, amikor csak az operációs rendszer futott az AM62A-n, felhasználói alkalmazások nélkül. Ezt használják összehasonlítási alapként a többi teszteset hardverkihasználtságának értékelésekor. Amint a táblázatban látható, a négy mélytanulással és képernyőkijelzővel rendelkező kamera egyenként 30 FPS-sel működött, a négy kamera összesen 120 FPS-sel. Ez a magas képkockasebesség a mélytanulási gyorsító (C86x-MMA) teljes kapacitásának mindössze 7%-ával érhető el. Fontos megjegyezni, hogy a mélytanulási gyorsítót ezekben a kísérletekben 850 MHz helyett 1000 MHz-re állították be, ami a maximális teljesítményének mindössze 85%-a.
5-1. táblázat. Az AM62A teljesítménye (FPS) és erőforrás-kihasználása 4 IMX219 kamerával történő használat esetén képernyőkijelzéshez, Ethernet-adatfolyamhoz és rögzítéshez Fileés a mélytanuláson alapuló következtetések végrehajtása
Applicatio n | Csővezeték (működés) ) | Kimenet | FPS átlagos folyamatidő | FPS teljes | A53-as MPU-k @ 1.25 GHz [%] | Mikrovezérlő R5 [%] | DLA (C7x- MMA) @ 850 MHz [%] | VISS [%] | MSC0 [%] | MSC1 [%] | DDR Út [MB/s] | DDR Wr [MB/s] | DDR Összesen [MB/s] |
Nincs alkalmazás | Alapállapot Nincs művelet | NA | NA | NA | 1.87 | 1 | 0 | 0 | 0 | 0 | 560 | 19 | 579 |
Kamera csak | Folyam képernyőre | Képernyő | 30 | 120 | 12 | 12 | 0 | 70 | 61 | 60 | 1015 | 757 | 1782 |
Ethernet-en keresztüli streamelés | PDU: 4 1920×1080-as portok | 30 | 120 | 23 | 6 | 0 | 70 | 0 | 0 | 2071 | 1390 | 3461 | |
Rekord hogy files | 4 file1920×1080 | 30 | 120 | 25 | 3 | 0 | 70 | 0 | 0 | 2100 | 1403 | 3503 | |
Bütyök mélytanulással | Mély tanulás: Objektumfelismerés MobV1-coco | Képernyő | 30 | 120 | 38 | 25 | 86 | 71 | 85 | 82 | 2926 | 1676 | 4602 |
Mély tanulás: Objektumdetektálás MobV1-COCO és Stream Etherneten keresztül | PDU: 4 1920×1080-as portok | 28 | 112 | 84 | 20 | 99 | 66 | 65 | 72 | 4157 | 2563 | 6720 | |
Mély tanulás: Objektumfelismerés MobV1-coco és rögzítés files | 4 file1920×1080 | 28 | 112 | 87 | 22 | 98 | 75 | 82 | 61 | 2024 | 2458 | 6482 |
Összegzés
Ez az alkalmazásjelentés leírja, hogyan lehet többkamerás alkalmazásokat megvalósítani az AM6x eszközcsaládon. A jelentésben egy, az Arducam V3Link kameramegoldás-készletén és az AM62A SK EVM-en alapuló referenciaterv is szerepel, amely számos kameraalkalmazást mutat be négy IMX219 kamera használatával, például streamelést és objektumérzékelést. A felhasználókat arra ösztönzik, hogy szerezzék be a V3Link kameramegoldás-készletet az Arducamtól, és replikálják ezeket a példákat.ampA jelentés részletes elemzést nyújt az AM62A teljesítményéről négy kamera különböző konfigurációkban történő használata során, beleértve a képernyőn való kijelzést, az Etherneten keresztüli streamelést és a rögzítést. files. Azt is mutatja, hogy az AM62A képes mélytanulási következtetéseket végrehajtani négy különálló kamerafolyamon párhuzamosan. Ha bármilyen kérdése van ezen példák futtatásával kapcsolatbanamples, küldjön egy kérdést a TI E2E fórumon.
Hivatkozások
- AM62A kezdőkészlet EVM gyors üzembe helyezési útmutató
- ArduCam V3Link kameramegoldás gyors üzembe helyezési útmutató
- Edge AI SDK dokumentáció az AM62A-hoz
- Edge AI intelligens kamerák energiatakarékos AM62A processzorral
- Kameratükör rendszerek az AM62A-n
- Vezető- és foglaltságfigyelő rendszerek az AM62A-n
- Négycsatornás kameraalkalmazás térhatású hangzáshoz View és CMS kamerarendszerek
- AM62Ax Linux Akadémia a CIS-2 érzékelő engedélyezéséről
- Edge AI ModelZoo
- Edge AI Stúdió
- Teljesítménystatisztikák eszköz
Az ebben a felhasználási útmutatóban hivatkozott TI alkatrészek:
- https://www.ti.com/product/AM62A7
- https://www.ti.com/product/AM62A7-Q1
- https://www.ti.com/product/AM62A3
- https://www.ti.com/product/AM62A3-Q1
- https://www.ti.com/product/AM62P
- https://www.ti.com/product/AM62P-Q1
- https://www.ti.com/product/DS90UB960-Q1
- https://www.ti.com/product/DS90UB953-Q1
- https://www.ti.com/product/TDES960
- https://www.ti.com/product/TSER953
FONTOS FIGYELMEZTETÉS ÉS NYILATKOZAT
A TI MŰSZAKI ÉS MEGBÍZHATÓSÁGI ADATOKAT (AZ ADATLAPOKAT BELEÉRTVE), TERVEZÉSI FORRÁSOKAT (BEÉVEZETETT A REFERENCIATERVEKET), ALKALMAZÁSI VAGY EGYÉB TERVEZÉSI TANÁCSOKAT BIZTOSÍT, WEB ESZKÖZÖK, BIZTONSÁGI INFORMÁCIÓK ÉS EGYÉB FORRÁSOK „AHOGY VAN”, ÉS MINDEN HIBÁVAL, ÉS MINDEN KIFEJEZETT ÉS VÉLEMEZTETETT GARANCIÁT ELLENÜL, BELEÉRTVE KORLÁTOZÁS nélkül A KERESKEDELMI SZABÁLYOZATOKRA VONATKOZÓ KERESKEDELMI SZABÁLYOZATOKRA VONATKOZÓ BÁRMILYEN VÉLEMEZETT GARANCIÁT .
Ezek az erőforrások a TI-termékekkel tervező szakképzett fejlesztőknek szólnak. Egyedül Ön felelős
- az alkalmazásához megfelelő TI termékek kiválasztása,
- az alkalmazás tervezése, érvényesítése és tesztelése, és
- annak biztosítása, hogy az alkalmazás megfeleljen a vonatkozó szabványoknak és minden egyéb biztonsági, szabályozási vagy egyéb követelménynek.
Ezek az erőforrások előzetes értesítés nélkül változhatnak. A TI kizárólag olyan alkalmazások fejlesztésére engedélyezi ezen erőforrások használatát, amelyek az erőforrásban leírt TI-termékeket használják. Ezen erőforrások egyéb reprodukálása és megjelenítése tilos. A TI semmilyen más szellemi tulajdonjogra vagy harmadik fél szellemi tulajdonjogára nem ad licencet. A TI elhárítja a felelősséget, és Ön teljes mértékben kártalanítja a TI-t és képviselőit az erőforrások használatából eredő minden követeléssel, kárral, költséggel, veszteséggel és kötelezettséggel szemben.
A TI termékeit a TI értékesítési feltételeinek vagy egyéb vonatkozó feltételeknek megfelelően bocsátjuk rendelkezésre, amelyek a következő helyen érhetők el ti.com vagy az ilyen TI-termékekkel együtt biztosítva. Az erőforrások TI általi biztosítása nem bővíti vagy más módon nem módosítja a TI által a TI-termékekre vonatkozó garanciákat vagy jótállási nyilatkozatokat.
A TI tiltakozik és elutasítja az Ön által javasolt további vagy eltérő feltételeket.
FONTOS MEGJEGYZÉS
- Levelezési cím: Texas Instruments, Post Office Box 655303, Dallas, Texas 75265
- Copyright © 2024, Texas Instruments Incorporated
Gyakran Ismételt Kérdések
K: Bármilyen típusú kamerát használhatok az AM6x eszközcsaláddal?
Az AM6x család különböző kameratípusokat támogat, beleértve a beépített ISP-vel rendelkezőket és azok nélkülieket is. A támogatott kameratípusokról további részleteket a specifikációkban talál.
Melyek a fő különbségek az AM62A és az AM62P között a képfeldolgozás terén?
A főbb eltérések közé tartoznak a támogatott kameratípusok, a kamera kimeneti adatai, az internetszolgáltató (ISP) HWA, a mélytanulásra épülő HWA és a 3D grafikus HWA megléte. A részletes összehasonlításért lásd a specifikációs részt.
Dokumentumok / Források
![]() | Texas Instruments AM6x többkamerás fejlesztés [pdf] Felhasználói útmutató AM62A, AM62P, AM6x Több kamera fejlesztése, AM6x, Több kamera fejlesztése, Több kamera, Kamera |