Logotip de Texas Instruments

Texas Instruments AM6x desenvolupant múltiples càmeres

Texas-Instruments-AM6x-Revelat-Múltiple-Càmera-Producte

Especificacions

  • Nom del producte: Família de dispositius AM6x
  • Tipus de càmera compatible: AM62A (amb o sense ISP integrat), AM62P (amb ISP integrat)
  • Dades de sortida de la càmera: AM62A (Raw/YUV/RGB), AM62P (YUV/RGB)
  • ISP HWA: AM62A (Sí), AM62P (No)
  • HWA d'aprenentatge profund: AM62A (Sí), AM62P (No)
  • Gràfics 3D HWA: AM62A (No), AM62P (Sí)

Introducció a les aplicacions de múltiples càmeres a l'AM6x:

  • Les càmeres integrades tenen un paper crucial en els sistemes de visió moderns.
  • La utilització de diverses càmeres en un sistema millora les capacitats i permet tasques que no es podrien aconseguir amb una sola càmera.

Aplicacions que utilitzen diverses càmeres:

  • Vigilància de seguretat: Millora la cobertura de vigilància, el seguiment d'objectes i la precisió del reconeixement.
  • Envoltant View: Habilita la visió estereoscòpica per a tasques com la detecció d'obstacles i la manipulació d'objectes.
  • Registrador de cabina i sistema de mirall de càmera: Proporciona una cobertura estesa i elimina els punts cecs.
  • Imatges mèdiques: Ofereix una precisió millorada en la navegació quirúrgica i l'endoscòpia.
  • Drons i imatges aèries: Captura imatges d'alta resolució des de diferents angles per a diverses aplicacions.

Connexió de diverses càmeres CSI-2 al SoC:
Per connectar diverses càmeres CSI-2 al SoC, seguiu les instruccions que es proporcionen al manual d'usuari. Assegureu-vos que cada càmera estigui correctament alineada i connectada als ports designats del SoC.

Nota d'aplicació
Desenvolupament d'aplicacions multicàmera a AM6x

Jianzhong Xu, Qutaiba Saleh

RESUM
Aquest informe descriu el desenvolupament d'aplicacions utilitzant múltiples càmeres CSI-2 a la família de dispositius AM6x. Es presenta un disseny de referència de detecció d'objectes amb aprenentatge profund en 4 càmeres al SoC AM62A amb anàlisi de rendiment. Els principis generals del disseny s'apliquen a altres SoC amb una interfície CSI-2, com ara AM62x i AM62P.

Introducció

Les càmeres integrades tenen un paper important en els sistemes de visió moderns. L'ús de diverses càmeres en un sistema amplia les capacitats d'aquests sistemes i habilita funcions que no són possibles amb una sola càmera. A continuació es mostren alguns exemples.amples aplicacions que utilitzen diverses càmeres integrades:

  • Vigilància de seguretat: Diverses càmeres col·locades estratègicament proporcionen una cobertura de vigilància completa. Permeten panoràmiques views, reduir els punts cecs i millorar la precisió del seguiment i reconeixement d'objectes, millorant les mesures de seguretat generals.
  • Envoltant ViewS'utilitzen diverses càmeres per crear una configuració de visió estèreo, permetent informació tridimensional i l'estimació de la profunditat. Això és crucial per a tasques com la detecció d'obstacles en vehicles autònoms, la manipulació precisa d'objectes en robòtica i el realisme millorat de les experiències de realitat augmentada.
  • Registrador de cabina i sistema de mirall de càmera: un gravador de cabina de cotxe amb diverses càmeres pot proporcionar més cobertura utilitzant un sol processador. De la mateixa manera, un sistema de mirall de càmera amb dues o més càmeres pot ampliar el camp de visió del conductor. view i eliminar els punts cecs de tots els costats d'un cotxe.
  • Imatges mèdiques: En imatges mèdiques es poden utilitzar diverses càmeres per a tasques com la navegació quirúrgica, cosa que proporciona als cirurgians múltiples perspectives per a una precisió millorada. En endoscòpia, diverses càmeres permeten un examen exhaustiu dels òrgans interns.
  • Drons i imatges aèries: Els drons sovint vénen equipats amb múltiples càmeres per capturar imatges o vídeos d'alta resolució des de diferents angles. Això és útil en aplicacions com la fotografia aèria, el monitoratge agrícola i l'aixecament de terrenys.
  • Amb l'avanç dels microprocessadors, es poden integrar diverses càmeres en un únic sistema en un xip.
    (SoC) per proporcionar solucions compactes i eficients. El SoC AM62Ax, amb processament de vídeo/visió d'alt rendiment i acceleració d'aprenentatge profund, és un dispositiu ideal per als casos d'ús esmentats anteriorment. Un altre dispositiu AM6x, l'AM62P, està dissenyat per a aplicacions de visualització 3D integrades d'alt rendiment. Equipat amb acceleració de gràfics 3D, l'AM62P pot unir fàcilment les imatges de diverses càmeres i produir una panoràmica d'alta resolució. viewLes característiques innovadores del SoC AM62A/AM62P s'han presentat en diverses publicacions, com ara [4], [5], [6], etc. Aquesta nota d'aplicació no repetirà aquestes descripcions de característiques, sinó que se centra en la integració de múltiples càmeres CSI-2 en aplicacions de visió integrades a AM62A/AM62P.
  • La taula 1-1 mostra les principals diferències entre l'AM62A i l'AM62P pel que fa al processament d'imatges.

Taula 1-1. Diferències entre AM62A i AM62P en el processament d'imatges

SoC AM62A AM62P
Tipus de càmera compatible Amb o sense un ISP integrat Amb ISP integrat
Dades de sortida de la càmera Raw/YUV/RGB YUV/RGB
proveïdor d'Internet de serveis d'atenció al client (HWA) No
HWA d'aprenentatge profund No
Gràfics 3D HWA No

Connexió de diverses càmeres CSI-2 al SoC
El subsistema de càmera del SoC AM6x conté els components següents, tal com es mostra a la Figura 2-1:

  • Receptor MIPI D-PHY: rep fluxos de vídeo de càmeres externes, i admet fins a 1.5 Gbps per carril de dades per a 4 carrils.
  • Receptor CSI-2 (RX): rep fluxos de vídeo del receptor D-PHY i els envia directament al proveïdor d'Internet o bé envia les dades a la memòria DDR. Aquest mòdul admet fins a 16 canals virtuals.
  • SHIM: un contenidor DMA que permet enviar els fluxos capturats a la memòria a través de DMA. Aquest contenidor pot crear diversos contextos DMA, i cada context correspon a un canal virtual del receptor CSI-2.

Texas-Instruments-AM6x-Revelat-Múltiple-Càmera-fig- (2)

L'AM6x pot admetre diverses càmeres mitjançant l'ús de canals virtuals de CSI-2 RX, tot i que només hi ha una interfície CSI-2 RX al SoC. Es necessita un component d'agregació CSI-2 extern per combinar diversos fluxos de càmeres i enviar-los a un únic SoC. Es poden utilitzar dos tipus de solucions d'agregació CSI-2, que es descriuen a les seccions següents.

Agregador CSI-2 que utilitza SerDes
Una manera de combinar diversos fluxos de càmera és utilitzar una solució de serialització i deserialització (SerDes). Les dades CSI-2 de cada càmera es converteixen mitjançant un serialitzador i es transfereixen a través d'un cable. El deserialitzador rep totes les dades serialitzades transferides dels cables (un cable per càmera), converteix els fluxos de nou a dades CSI-2 i després envia un flux CSI-2 entrellaçat a la interfície RX CSI-2 única del SoC. Cada flux de càmera s'identifica mitjançant un canal virtual únic. Aquesta solució d'agregació ofereix el benefici addicional de permetre una connexió de llarga distància de fins a 15 m des de les càmeres fins al SoC.

Els serialitzadors i deserialitzadors FPD-Link o V3-Link (SerDes), compatibles amb l'SDK AM6x Linux, són les tecnologies més populars per a aquest tipus de solució d'agregació CSI-2. Tant els deserialitzadors FPD-Link com els V3-Link tenen canals de retorn que es poden utilitzar per enviar senyals de sincronització de fotogrames per sincronitzar totes les càmeres, tal com s'explica a [7].
La figura 2-2 mostra un exampl'ús dels SerDes per connectar diverses càmeres a un únic SoC AM6x.

Texas-Instruments-AM6x-Revelat-Múltiple-Càmera-fig- (3)

Un exampUna part d'aquesta solució agregadora es pot trobar al kit de solucions de càmera Arducam V3Link. Aquest kit té un centre deserialitzador que agrega 4 fluxos de càmera CSI-2, així com 4 parells de serialitzadors V3link i càmeres IMX219, incloent-hi cables coaxials FAKRA i cables FPC de 22 pins. El disseny de referència que es descriu més endavant es basa en aquest kit.

Agregador CSI-2 sense utilitzar SerDes
Aquest tipus d'agregador pot interactuar directament amb diverses càmeres MIPI CSI-2 i agregar les dades de totes les càmeres a un únic flux de sortida CSI-2.

La figura 2-3 mostra un exampd'un sistema d'aquest tipus. Aquest tipus de solució d'agregació no utilitza cap serialitzador/deserialitzador, però està limitada per la distància màxima de transferència de dades CSI-2, que és de fins a 30 cm. L'SDK de Linux AM6x no admet aquest tipus d'agregador CSI-2.

Texas-Instruments-AM6x-Revelat-Múltiple-Càmera-fig- (4)

Habilitació de diverses càmeres al programari

Arquitectura de programari del subsistema de càmera
La figura 3-1 mostra un diagrama de blocs d'alt nivell del programari del sistema de captura de càmera a l'SDK de Linux AM62A/AM62P, corresponent al sistema de maquinari de la figura 2-2.

Texas-Instruments-AM6x-Revelat-Múltiple-Càmera-fig- (5)

  • Aquesta arquitectura de programari permet que el SoC rebi múltiples fluxos de càmera amb l'ús de SerDes, tal com es mostra a la Figura 2-2. El SerDes de FPD-Link/V3-Link assigna una adreça I2C i un canal virtual únics a cada càmera. S'ha de crear una superposició d'arbre de dispositius única amb l'adreça I2C única per a cada càmera. El controlador CSI-2 RX reconeix cada càmera mitjançant el número de canal virtual únic i crea un context DMA per flux de càmera. Es crea un node de vídeo per a cada context DMA. Les dades de cada càmera es reben i s'emmagatzemen mitjançant DMA a la memòria en conseqüència. Les aplicacions d'espai d'usuari utilitzen els nodes de vídeo corresponents a cada càmera per accedir a les dades de la càmera. Ex.ampLes maneres d'utilitzar aquesta arquitectura de programari es donen al capítol 4 – Disseny de referència.
  • Qualsevol controlador de sensor específic que sigui compatible amb el marc de treball V4L2 es pot connectar i utilitzar en aquesta arquitectura. Consulteu [8] sobre com integrar un nou controlador de sensor al SDK de Linux.

Arquitectura de programari de canalització d'imatges

  • L'SDK AM6x Linux proporciona el marc de treball GStreamer (GST), que es pot utilitzar en l'espai ser per integrar els components de processament d'imatges per a diverses aplicacions. Els acceleradors de maquinari (HWA) del SoC, com ara l'accelerador de preprocessament de visió (VPAC) o ISP, el codificador/descodificador de vídeo i el motor de computació d'aprenentatge profund, s'accedeix a través de GST. pluginsEl VPAC (ISP) en si té diversos blocs, incloent-hi el Subsistema d'Imatges de Vissió (VISS), la Correcció de Distorssió de Lens (LDC) i el Multiscalar (MSC), cadascun corresponent a un complement GST.
  • La figura 3-2 mostra el diagrama de blocs d'una canonada d'imatge típica des de la càmera fins a la codificació o la captura profunda.
    aplicacions d'aprenentatge a AM62A. Per obtenir més informació sobre el flux de dades de principi a fi, consulteu la documentació de l'SDK d'EdgeAI.

Texas-Instruments-AM6x-Revelat-Múltiple-Càmera-fig- (6)

Per a AM62P, el pipeline d'imatges és més senzill perquè no hi ha cap ISP a AM62P.

Texas-Instruments-AM6x-Revelat-Múltiple-Càmera-fig- (7)

Amb un node de vídeo creat per a cadascuna de les càmeres, el pipeline d'imatges basat en GStreamer permet el processament simultàniament de múltiples entrades de càmera (connectades a través de la mateixa interfície CSI-2 RX). Al següent capítol es presenta un disseny de referència que utilitza GStreamer per a aplicacions multicàmera.

Disseny de referència

Aquest capítol presenta un disseny de referència per executar aplicacions de múltiples càmeres a l'AM62A EVM, utilitzant el kit de solucions de càmera Arducam V3Link per connectar 4 càmeres CSI-2 a l'AM62A i executar la detecció d'objectes per a les 4 càmeres.

Càmeres compatibles
El kit Arducam V3Link funciona tant amb càmeres basades en FPD-Link/V3-Link com amb càmeres CSI-2 compatibles amb Raspberry Pi. S'han provat les càmeres següents:

  • Enginyeria D3 D3RCM-IMX390-953
  • Imatges de lleopard LI-OV2312-FPDLINKIII-110H
  • Càmeres IMX219 del kit de solucions de càmeres Arducam V3Link

Configuració de quatre càmeres IMX219
Seguiu les instruccions que es proporcionen a la Guia d'inici ràpid del kit d'inici AM62A EVM per configurar l'SK-AM62A-LP EVM (AM62A SK) i la Guia d'inici ràpid de la solució de càmera ArduCam V3Link per connectar les càmeres a l'AM62A SK a través del kit V3Link. Assegureu-vos que els pins dels cables flexibles, les càmeres, la placa V3Link i l'AM62A SK estiguin correctament alineats.

La figura 4-1 mostra la configuració utilitzada per al disseny de referència d'aquest informe. Els components principals de la configuració inclouen:

  • 1X placa EVM SK-AM62A-LP
  • 1X Placa adaptadora Arducam V3Link d-channel
  • Cable FPC que connecta l'Arducam V3Link a l'SK-AM62A
  • 4 adaptadors de càmera V3Link (serialitzadors)
  • 4 cables coaxials RF per connectar serialitzadors V3Link al kit de canals d'entrada V3Link
  • 4 càmeres IMX219
  • 4 cables CSI-2 de 22 pins per connectar càmeres a serialitzadors
  • Cables: cable HDMI, USB-C per alimentar SK-AM62A-LP i alimentació de 12 V per al kit de canals dobles V3Link.
  • Altres components que no es mostren a la Figura 4-1: targeta micro-SD, cable micro-USB per accedir a SK-AM62A-LP i Ethernet per a la transmissió en temps real

Texas-Instruments-AM6x-Revelat-Múltiple-Càmera-fig- (8)

Configuració de càmeres i interfície CSI-2 RX
Configureu el programari segons les instruccions que es proporcionen a la Guia d'inici ràpid de l'Arducam V3Link. Després d'executar l'script de configuració de la càmera, setup-imx219.sh, el format de la càmera, el format de la interfície CSI-2 RX i les rutes de cada càmera al node de vídeo corresponent es configuraran correctament. Es creen quatre nodes de vídeo per a les quatre càmeres IMX219. L'ordre "v4l2-ctl –list-devices" mostra tots els dispositius de vídeo V4L2, tal com es mostra a continuació:

Texas-Instruments-AM6x-Revelat-Múltiple-Càmera-fig- (9)

Hi ha 6 nodes de vídeo i 1 node multimèdia sota tiscsi2rx. Cada node de vídeo correspon a un context DMA assignat pel controlador CSI2 RX. Dels 6 nodes de vídeo, 4 s'utilitzen per a les 4 càmeres IMX219, tal com es mostra a la topologia de canonades multimèdia següent:

Texas-Instruments-AM6x-Revelat-Múltiple-Càmera-fig- (10)

Com es mostra a dalt, l'entitat multimèdia 30102000.ticsi2rx té 6 coixinets d'origen, però només s'utilitzen els 4 primers, cadascun per a un IMX219. La topologia del tub multimèdia també es pot il·lustrar gràficament. Executeu l'ordre següent per generar un punt file:

Texas-Instruments-AM6x-Revelat-Múltiple-Càmera-fig- (11)

A continuació, executeu l'ordre següent en un PC amfitrió Linux per generar un PNG. file:Texas-Instruments-AM6x-Revelat-Múltiple-Càmera-fig- (12)

La figura 4-2 és una imatge generada amb les ordres donades anteriorment. Els components de l'arquitectura de programari de la figura 3-1 es poden trobar en aquest gràfic.

Texas-Instruments-AM6x-Revelat-Múltiple-Càmera-fig- (13)

Transmissió des de quatre càmeres
Amb el maquinari i el programari configurats correctament, les aplicacions de diverses càmeres es poden executar des de l'espai d'usuari. Per a l'AM62A, l'ISP s'ha d'ajustar per produir una bona qualitat d'imatge. Consulteu la Guia d'ajustament de l'ISP de l'AM6xA per saber com realitzar l'ajustament de l'ISP. Les seccions següents presenten exemples.ampfitxers de transmissió de dades de càmera a una pantalla, transmissió de dades de càmera a una xarxa i emmagatzematge de les dades de la càmera a files.

Transmissió de dades de càmera a la pantalla
Una aplicació bàsica d'aquest sistema multicàmera és transmetre els vídeos de totes les càmeres a una pantalla connectada al mateix SoC. El següent és un exemple de pipeline de GStreamer.ampde la transmissió de quatre IMX219 a una pantalla (els números de node de vídeo i els números de v4l-subdev del pipeline probablement canviaran de reinici a reinici).

Texas-Instruments-AM6x-Revelat-Múltiple-Càmera-fig- (14) Texas-Instruments-AM6x-Revelat-Múltiple-Càmera-fig- (15)

Transmissió de dades de càmera a través d'Ethernet
En lloc de transmetre a una pantalla connectada al mateix SoC, les dades de la càmera també es poden transmetre a través d'Ethernet. El costat receptor pot ser un altre processador AM62A/AM62P o un PC amfitrió. El següent és un exemple.ample de la transmissió de les dades de la càmera a través d'Ethernet (utilitzant dues càmeres per simplificar) (tingueu en compte el complement del codificador utilitzat al pipeline):

Texas-Instruments-AM6x-Revelat-Múltiple-Càmera-fig- (16)

El següent és un exampmanera de rebre les dades de la càmera i transmetre-les a una pantalla en un altre processador AM62A/AM62P:

Texas-Instruments-AM6x-Revelat-Múltiple-Càmera-fig- (17)

Emmagatzemar dades de la càmera a Files
En lloc de transmetre-les a una pantalla o a través d'una xarxa, les dades de la càmera es poden emmagatzemar localment. files. El pipeline següent emmagatzema les dades de cada càmera a un file (utilitzant dues càmeres com a exemple)ample per simplicitat).

Texas-Instruments-AM6x-Revelat-Múltiple-Càmera-fig- (18)Texas-Instruments-AM6x-Revelat-Múltiple-Càmera-fig- (19)

Inferència d'aprenentatge profund multicàmera

L'AM62A està equipat amb un accelerador d'aprenentatge profund (C7x-MMA) amb fins a dos TOPS, que són capaços d'executar diversos tipus de models d'aprenentatge profund per a la classificació, la detecció d'objectes, la segmentació semàntica i més. Aquesta secció mostra com l'AM62A pot executar simultàniament quatre models d'aprenentatge profund en quatre canals de càmeres diferents.

Selecció de models
EdgeAI-ModelZoo de TI proporciona centenars de models d'última generació, que es converteixen/exporten dels seus marcs d'entrenament originals a un format compatible amb integració perquè es puguin descarregar a l'accelerador d'aprenentatge profund C7x-MMA. L'analitzador de models Edge AI Studio basat en núvol proporciona una eina de "selecció de models" fàcil d'utilitzar. S'actualitza dinàmicament per incloure tots els models compatibles amb TI EdgeAI-ModelZoo. L'eina no requereix experiència prèvia i proporciona una interfície fàcil d'utilitzar per introduir les característiques necessàries al model desitjat.

El TFL-OD-2000-ssd-mobV1-coco-mlperf va ser seleccionat per a aquest experiment d'aprenentatge profund multicàmera. Aquest model de detecció multiobjecte es desenvolupa en el marc TensorFlow amb una resolució d'entrada de 300×300. La taula 4-1 mostra les característiques importants d'aquest model quan s'entrena amb el conjunt de dades cCOCO amb unes 80 classes diferents.

Taula 4-1. Característiques destacades del model TFL-OD-2000-ssd-mobV1-coco-mlperf.

Model Tasca Resolució FPS mAP 50%

Precisió a COCO

Latència/Fotograma (ms) DDR BW

Utilització (MB/Fotograma)

TFL-OD-2000-ssd-

mobV1-coco-mlperf

Detecció de múltiples objectes 300×300 ~152 15.9 6.5 18.839

Configuració de la canonada
La figura 4-3 mostra el pipeline de GStreamer d'aprenentatge profund de 4 càmeres. TI proporciona un conjunt de GStreamer plugins que permeten descarregar part del processament multimèdia i la inferència d'aprenentatge profund als acceleradors de maquinari. Alguns exemplesamples d'aquestes plugins inclouen tiovxisp, tiovxmultiscaler, tiovxmosaic i tidlinferer. El pipeline de la Figura 4-3 inclou tots els requisits plugins per a un pipeline GStreamer multipath per a entrades de 4 càmeres, cadascuna amb preprocessament multimèdia, inferència d'aprenentatge profund i postprocessament. El duplicat plugins per a cadascuna de les trajectòries de la càmera s'apilen al gràfic per facilitar la demostració.
Els recursos de maquinari disponibles es distribueixen uniformement entre les quatre rutes de càmera. Per exemple, AM62A conté dos multiscaladors d'imatges: MSC0 i MSC1. El pipeline dedica explícitament MSC0 a processar les rutes de la càmera 1 i la càmera 2, mentre que MSC1 està dedicat a la càmera 3 i la càmera 4.

Texas-Instruments-AM6x-Revelat-Múltiple-Càmera-fig- (21)

La sortida dels quatre canals de càmeres es redueix i es concatena mitjançant el connector tiovxmosaic. La sortida es mostra en una sola pantalla. La figura 4-4 mostra la sortida de les quatre càmeres amb un model d'aprenentatge profund que executa la detecció d'objectes. Cada canal (càmera) funciona a 30 FPS i un total de 120 FPS.

Texas-Instruments-AM6x-Revelat-Múltiple-Càmera-fig- (22)

A continuació es mostra l'script complet del pipeline per al cas d'ús d'aprenentatge profund multicàmera que es mostra a la Figura 4-3.

Texas-Instruments-AM6x-Revelat-Múltiple-Càmera-fig- (23) Texas-Instruments-AM6x-Revelat-Múltiple-Càmera-fig- (24)

Anàlisi de rendiment

La configuració amb quatre càmeres utilitzant la placa V3Link i l'AM62A SK es va provar en diversos escenaris d'aplicació, incloent-hi la visualització directa en una pantalla, la transmissió en temps real per Ethernet (quatre canals UDP), l'enregistrament a 4 canals separats files, i amb inferència d'aprenentatge profund. A cada experiment, vam monitoritzar la velocitat de fotogrames i la utilització dels nuclis de la CPU per explorar les capacitats de tot el sistema.

Com s'ha mostrat anteriorment a la Figura 4-4, el pipeline d'aprenentatge profund utilitza el complement tiperfoverlay de GStreamer per mostrar les càrregues del nucli de la CPU com un gràfic de barres a la part inferior de la pantalla. Per defecte, el gràfic s'actualitza cada dos segons per mostrar les càrregues com a percentatge d'utilització.tage. A més del connector tiperfoverlay de GStreamer, l'eina perf_stats és una segona opció per mostrar el rendiment bàsic directament al terminal amb una opció per desar a un fileAquesta eina és més precisa en comparació amb la superposició de tTiperfo, ja que aquesta última afegeix una càrrega addicional als nuclis ARMm i a la DDR per dibuixar el gràfic i superposar-lo a la pantalla. L'eina perf_stats s'utilitza principalment per recopilar resultats d'utilització del maquinari en tots els casos de prova que es mostren en aquest document. Alguns dels nuclis de processament i acceleradors importants estudiats en aquestes proves inclouen els processadors principals (quatre nuclis A53 Arm a 1.25 GHz), l'accelerador d'aprenentatge profund (C7x-MMA a 850 MHz), el VPAC (ISP) amb VISS i multiescaladors (MSC0 i MSC1) i les operacions DDR.

La taula 5-1 mostra el rendiment i l'ús de recursos quan s'utilitza AM62A amb quatre càmeres per a tres casos d'ús, incloent-hi la transmissió de quatre càmeres a una pantalla, la transmissió per Ethernet i l'enregistrament a quatre dispositius separats. files. S'implementen dues proves a cada cas d'ús: només amb la càmera i amb inferència d'aprenentatge profund. A més, la primera fila de la Taula 5-1 mostra les utilitzacions del maquinari quan només s'executava el sistema operatiu a AM62A sense cap aplicació d'usuari. Això s'utilitza com a referència per comparar-ho a l'hora d'avaluar les utilitzacions del maquinari dels altres casos de prova. Com es mostra a la taula, les quatre càmeres amb aprenentatge profund i visualització en pantalla van funcionar a 30 FPS cadascuna, amb un total de 120 FPS per a les quatre càmeres. Aquesta alta freqüència de fotogrames s'aconsegueix amb només el 86% de la capacitat total de l'accelerador d'aprenentatge profund (C7x-MMA). A més, és important tenir en compte que l'accelerador d'aprenentatge profund es va sincronitzar a 850 MHz en lloc de 1000 MHz en aquests experiments, que és aproximadament només el 85% del seu rendiment màxim.

Taula 5-1. Rendiment (FPS) i utilització de recursos de l'AM62A quan s'utilitza amb 4 càmeres IMX219 per a visualització en pantalla, transmissió per Ethernet i gravació a Files, i realització d'inferències d'aprenentatge profund

Aplicació n Canonada (operació)

)

Sortida FPS canonades mitjanes FPS

total

MPU A53s a 1.25

GHz [%]

MCU R5 [%] DLA (C7x-MMA) a 850

MHz [%]

VISS [%] MSC0 [%] MSC1 [%] DDR

Rd [MB/s]

DDR

Wr [MB/s]

DDR

Total [MB/s]

Sense aplicació Línia base Sense operació NA NA NA 1.87 1 0 0 0 0 560 19 579
Càmera només Corrent a la pantalla Pantalla 30 120 12 12 0 70 61 60 1015 757 1782
Transmissió en temps real per Ethernet UDP: 4

ports 1920 × 1080

30 120 23 6 0 70 0 0 2071 1390 3461
Registre a files 4 file1920 × 1080 30 120 25 3 0 70 0 0 2100 1403 3503
Cam amb aprenentatge profund Aprenentatge profund: Detecció d'objectes MobV1-coco Pantalla 30 120 38 25 86 71 85 82 2926 1676 4602
Aprenentatge profund: Detecció d'objectes MobV1-coco i Stream over Ethernet UDP: 4

ports 1920 × 1080

28 112 84 20 99 66 65 72 4157 2563 6720
Aprenentatge profund: Detecció d'objectes MobV1-coco i registre a files 4 file1920 × 1080 28 112 87 22 98 75 82 61 2024 2458 6482

Resum
Aquest informe d'aplicació descriu com implementar aplicacions multicàmera a la família de dispositius AM6x. L'informe proporciona un disseny de referència basat en el kit de solucions de càmera V3Link d'Arducam i l'AM62A SK EVM, amb diverses aplicacions de càmera que utilitzen quatre càmeres IMX219, com ara la transmissió en temps real i la detecció d'objectes. S'anima els usuaris a adquirir el kit de solucions de càmera V3Link d'Arducam i replicar aquests exemples.amples. L'informe també proporciona una anàlisi detallada del rendiment de l'AM62A mentre utilitza quatre càmeres sota diverses configuracions, incloent-hi la visualització en una pantalla, la transmissió en temps real per Ethernet i l'enregistrament a fileTambé mostra la capacitat de l'AM62A per realitzar inferències d'aprenentatge profund en quatre fluxos de càmeres separats en paral·lel. Si hi ha cap pregunta sobre l'execució d'aquests exemplesamples, envieu una consulta al fòrum TI E2E.

Referències

  1. Guia d'inici ràpid del kit d'inici AM62A EVM
  2. Guia d'inici ràpid de la solució de càmera ArduCam V3Link
  3. Documentació del SDK d'IA d'Edge per a AM62A
  4. Càmeres intel·ligents amb IA Edge que utilitzen el processador AM62A d'alta eficiència energètica
  5. Sistemes de mirall de càmera a AM62A
  6. Sistemes de monitorització de conductors i ocupants a l'AM62A
  7. Aplicació de càmera de quatre canals per a envoltant View i sistemes de càmeres CMS
  8. Acadèmia AM62Ax Linux sobre l'habilitació del sensor CIS-2
  9. ModelZoo d'IA de vora
  10. Edge AI Studio
  11. Eina Perf_stats

Peces de TI a les quals es fa referència en aquesta nota d'aplicació:

AVÍS IMPORTANT I EXENCIÓ DE RESPONSABILITAT

TI PROPORCIONA DADES TÈCNIQUES I DE FIABILITAT (INCLOSES FITXES DE DADES), RECURSOS DE DISSENY (INCLOSOS DISSENYS DE REFERÈNCIA), APLICACIONS O ALTRES CONSELLS DE DISSENY, WEB EINES, INFORMACIÓ DE SEGURETAT I ALTRES RECURSOS "TAL CUAL" I AMB TOTS ELS DEFECTES, I RENUNCIA A TOTES LES GARANTIES, EXPRESSES I IMPLÍCITES, INCLOSANT, SENSE LIMITACIÓ, QUALSEVOL GARANTIA IMPLÍCITA DE COMERCIABILITAT, IDONEIDAD PER A UN FINS PARTICULAR O PROPIETAT DE PROPIEDAT NO PROPIETAT .

Aquests recursos estan destinats a desenvolupadors especialitzats que dissenyen amb productes de TI. Vostè és l'únic responsable

  1. seleccionar els productes TI adequats per a la vostra aplicació,
  2. dissenyar, validar i provar la vostra aplicació, i
  3. assegurar-se que la vostra aplicació compleixi els estàndards aplicables i qualsevol altre requisit de seguretat, protecció, reglamentari o d'altra índole.

Aquests recursos estan subjectes a canvis sense previ avís. TI us permet utilitzar aquests recursos només per al desenvolupament d'una aplicació que utilitzi els productes de TI descrits en el recurs. Es prohibeix la reproducció i visualització d'aquests recursos. No es concedeix cap llicència per a cap altre dret de propietat intel·lectual de TI ni per a cap dret de propietat intel·lectual de tercers. TI renuncia a la responsabilitat per qualsevol reclamació, dany, cost, pèrdua i responsabilitat derivada de l'ús d'aquests recursos, i vosaltres indemnitzareu completament TI i els seus representants contra aquests.

Els productes de TI es proporcionen subjectes a les Condicions de venda de TI o a altres condicions aplicables disponibles a ti.com o proporcionats conjuntament amb aquests productes de TI. La prestació d'aquests recursos per part de TI no amplia ni altera les garanties o exempcions de responsabilitat aplicables de TI per als productes de TI.

TI s'oposa i rebutja els termes addicionals o diferents que hagis proposat.

AVÍS IMPORTANT

  • Adreça postal: Texas Instruments, Post Office Box 655303, Dallas, Texas 75265
  • Copyright © 2024, Texas Instruments Incorporated

Preguntes freqüents

P: Puc utilitzar qualsevol tipus de càmera amb la família de dispositius AM6x?

La família AM6x admet diferents tipus de càmeres, incloses les que tenen o no ISP integrat. Consulteu les especificacions per obtenir més informació sobre els tipus de càmeres compatibles.

Quines són les principals diferències entre l'AM62A i l'AM62P en el processament d'imatges?

Les variacions clau inclouen els tipus de càmera compatibles, les dades de sortida de la càmera, la presència d'ISP HWA, Deep Learning HWA i 3-D Graphics HWA. Consulteu la secció d'especificacions per obtenir una comparació detallada.

 

Documents/Recursos

Texas Instruments AM6x desenvolupant múltiples càmeres [pdfGuia de l'usuari
AM62A, AM62P, AM6x Desenvolupament de diverses càmeres, AM6x, Desenvolupament de diverses càmeres, Càmera múltiple, Càmera

Referències

Deixa un comentari

La teva adreça de correu electrònic no es publicarà. Els camps obligatoris estan marcats *