Texas Instruments-logo

Texas Instruments AM6x ontwikkel verskeie kameras

Texas-Instruments-AM6x-Ontwikkeling-van-veelvuldige-kamera-produk

Spesifikasies

  • Produknaam: AM6x-reeks toestelle
  • Ondersteunde kameratipe: AM62A (Met of sonder ingeboude ISP), AM62P (Met ingeboude ISP)
  • Kamera-uitvoerdata: AM62A (Rou/YUV/RGB), AM62P (YUV/RGB)
  • ISP HWA: AM62A (Ja), AM62P (Nee)
  • Diep Leer HWA: AM62A (Ja), AM62P (Nee)
  • 3D-grafika HWA: AM62A (Nee), AM62P (Ja)

Inleiding tot veelvuldige kamera-toepassings op AM6x:

  • Ingeboude kameras speel 'n belangrike rol in moderne visiestelsels.
  • Die gebruik van verskeie kameras in 'n stelsel verbeter vermoëns en maak take moontlik wat nie met 'n enkele kamera haalbaar is nie.

Toepassings wat veelvuldige kameras gebruik:

  • Sekuriteitsbewaking: Verbeter toesigdekking, voorwerpopsporing en herkenningsakkuraatheid.
  • Omring View: Maak stereovisie moontlik vir take soos obstruksieopsporing en voorwerpmanipulasie.
  • Kajuitopnemer en kameraspieëlstelsel: Bied uitgebreide dekking en elimineer blinde kolle.
  • Mediese Beeldvorming: Bied verbeterde presisie in chirurgiese navigasie en endoskopie.
  • Drones en Lugbeelding: Neem hoë-resolusie beelde vanuit verskillende hoeke vir verskeie toepassings.

Koppel verskeie CSI-2-kameras aan die SoC:
Om verskeie CSI-2-kameras aan die SoC te koppel, volg die riglyne in die gebruikershandleiding. Verseker behoorlike belyning en verbinding van elke kamera aan die aangewese poorte op die SoC.

Aansoeknota
Ontwikkeling van veelvuldige kamera-toepassings op AM6x

Jianzhong Xu, Qutaiba Saleh

OPSOMMING
Hierdie verslag beskryf toepassingsontwikkeling met behulp van verskeie CSI-2-kameras op die AM6x-reeks toestelle. 'n Verwysingsontwerp van objekopsporing met diep leer op 4 kameras op die AM62A SoC word aangebied met werkverrigtingsanalise. Algemene beginsels van die ontwerp is van toepassing op ander SoC's met 'n CSI-2-koppelvlak, soos AM62x en AM62P.

Inleiding

Ingeboude kameras speel 'n belangrike rol in moderne visiestelsels. Die gebruik van verskeie kameras in 'n stelsel brei die vermoëns van hierdie stelsels uit en maak vermoëns moontlik wat nie met 'n enkele kamera moontlik is nie. Hieronder is 'n paar voorbeeldeampLes van toepassings wat verskeie ingeboude kameras gebruik:

  • Sekuriteitsbewaking: Verskeie strategies geplaasde kameras bied omvattende bewakingsdekking. Hulle maak panoramiese views, verminder blinde kolle en verbeter die akkuraatheid van voorwerpopsporing en -herkenning, wat algehele sekuriteitsmaatreëls verbeter.
  • Omring ViewVerskeie kameras word gebruik om 'n stereovisie-opstelling te skep, wat driedimensionele inligting en die beraming van diepte moontlik maak. Dit is noodsaaklik vir take soos obstruksie-opsporing in outonome voertuie, presiese voorwerpmanipulasie in robotika en verbeterde realisme van toegevoegde realiteit-ervarings.
  • Kajuitopnemer en kameraspieëlstelsel: 'n Motorkajuitopnemer met verskeie kameras kan meer dekking bied met 'n enkele verwerker. Net so kan 'n kameraspieëlstelsel met twee of meer kameras die bestuurder se veld uitbrei. view en elimineer blinde kolle van alle kante van 'n motor.
  • Mediese Beelding: Verskeie kameras kan in mediese beelding gebruik word vir take soos chirurgiese navigasie, wat chirurge verskeie perspektiewe bied vir verbeterde presisie. In endoskopie maak verskeie kameras 'n deeglike ondersoek van interne organe moontlik.
  • Drones en Lugfoto's: Drones is dikwels toegerus met verskeie kameras om hoë-resolusie beelde of video's vanuit verskillende hoeke vas te lê. Dit is nuttig in toepassings soos lugfotografie, landboumonitering en landopmeting.
  • Met die vooruitgang van mikroverwerkers kan verskeie kameras in 'n enkele Stelsel-op-skyfie geïntegreer word.
    (SoC) om kompakte en doeltreffende oplossings te bied. Die AM62Ax SoC, met hoëprestasie-video-/visieverwerking en diep leerversnelling, is 'n ideale toestel vir die bogenoemde gebruiksgevalle. Nog 'n AM6x-toestel, die AM62P, is gebou vir hoëprestasie-ingebedde 3D-skermtoepassings. Toegerus met 3D-grafikaversnelling, kan die AM62P maklik die beelde van verskeie kameras saamvoeg en 'n hoëresolusie-panorama produseer. viewDie innoverende kenmerke van die AM62A/AM62P SoC is in verskeie publikasies aangebied, soos [4], [5], [6], ens. Hierdie toepassingsnota sal nie daardie kenmerkbeskrywings herhaal nie, maar fokus eerder op die integrasie van verskeie CSI-2-kameras in ingebedde visietoepassings op AM62A/AM62P.
  • Tabel 1-1 toon die belangrikste verskille tussen AM62A en AM62P wat beeldverwerking betref.

Tabel 1-1. Verskille tussen AM62A en AM62P in beeldverwerking

SoC AM62A AM62P
Ondersteunde kameratipe Met of sonder 'n ingeboude internetdiensverskaffer Met ingeboude internetdiensverskaffer
Kamera-uitvoerdata Rou/YUV/RGB YUV/RGB
ISP HWA Ja Nee
Diep Leer HWA Ja Nee
3D-grafika HWA Nee Ja

Koppel verskeie CSI-2-kameras aan die SoC
Die kamerasubstelsel op die AM6x SoC bevat die volgende komponente, soos getoon in Figuur 2-1:

  • MIPI D-PHY-ontvanger: ontvang videostrome van eksterne kameras, wat tot 1.5 Gbps per databaan vir 4 bane ondersteun.
  • CSI-2 Ontvanger (RX): ontvang videostrome vanaf die D-PHY-ontvanger en stuur die strome direk na die internetdiensverskaffer of dump die data na DDR-geheue. Hierdie module ondersteun tot 16 virtuele kanale.
  • SHIM: 'n DMA-omhulsel wat dit moontlik maak om die vasgelegde strome oor DMA na die geheue te stuur. Verskeie DMA-kontekste kan deur hierdie omhulsel geskep word, met elke konteks wat ooreenstem met 'n virtuele kanaal van die CSI-2-ontvanger.

Texas-Instruments-AM6x-Ontwikkeling-Veelvuldige-Kamera-fig- (2)

Verskeie kameras kan op die AM6x ondersteun word deur die gebruik van virtuele kanale van CSI-2 RX, selfs al is daar slegs een CSI-2 RX-koppelvlak op die SoC. 'n Eksterne CSI-2-aggregeringskomponent is nodig om verskeie kamerastrome te kombineer en na 'n enkele SoC te stuur. Twee tipes CSI-2-aggregeringsoplossings kan gebruik word, wat in die volgende afdelings beskryf word.

CSI-2 Aggregator wat SerDes gebruik
Een manier om verskeie kamerastrome te kombineer, is om 'n serialiserings- en deserialiseringsoplossing (SerDes) te gebruik. Die CSI-2-data van elke kamera word deur 'n serialiseerder omgeskakel en deur 'n kabel oorgedra. Die deserialiseerder ontvang alle geserialiseerde data wat van die kabels oorgedra word (een kabel per kamera), skakel die strome terug na CSI-2-data en stuur dan 'n verweefde CSI-2-stroom na die enkele CSI-2 RX-koppelvlak op die SoC. Elke kamerastroom word geïdentifiseer deur 'n unieke virtuele kanaal. Hierdie samevoegingsoplossing bied die bykomende voordeel dat dit langafstandverbindings van tot 15 m vanaf die kameras na die SoC moontlik maak.

Die FPD-Link- of V3-Link-serialiseerders en -deserialiseerders (SerDes), wat in die AM6x Linux SDK ondersteun word, is die gewildste tegnologieë vir hierdie tipe CSI-2-aggregeringsoplossing. Beide die FPD-Link- en V3-Link-deserialiseerders het terugkanale wat gebruik kan word om raamsinkronisasieseine te stuur om al die kameras te sinkroniseer, soos in [7] verduidelik.
Figuur 2-2 toon 'n exampdie gebruik van die SerDes om verskeie kameras aan 'n enkele AM6x SoC te koppel.

Texas-Instruments-AM6x-Ontwikkeling-Veelvuldige-Kamera-fig- (3)

'N Examp'n Deel van hierdie samevoegingsoplossing kan gevind word in die Arducam V3Link-kamera-oplossingskit. Hierdie stel het 'n deserialiseerder-hub wat 4 CSI-2-kamerastrome saamvoeg, sowel as 4 pare V3link-serialiseerders en IMX219-kameras, insluitend FAKRA-koaksiale kabels en 22-pen FPC-kabels. Die verwysingsontwerp wat later bespreek word, is op hierdie stel gebou.

CSI-2 Aggregator sonder om SerDes te gebruik
Hierdie tipe aggregator kan direk met verskeie MIPI CSI-2-kameras koppel en die data van alle kameras na 'n enkele CSI-2-uitvoerstroom saamvoeg.

Figuur 2-3 toon 'n exampvan so 'n stelsel. Hierdie tipe samevoegingsoplossing gebruik geen serialiseerder/deserialiseerder nie, maar word beperk deur die maksimum afstand van CSI-2-data-oordrag, wat tot 30 cm is. Die AM6x Linux SDK ondersteun nie hierdie tipe CSI-2-aggregator nie.

Texas-Instruments-AM6x-Ontwikkeling-Veelvuldige-Kamera-fig- (4)

Aktiveer verskeie kameras in sagteware

Kamera Substelsel Sagteware Argitektuur
Figuur 3-1 toon 'n hoëvlak-blokdiagram van die kamera-opnamestelselsagteware in AM62A/AM62P Linux SDK, wat ooreenstem met die hardewarestelsel in Figuur 2-2.

Texas-Instruments-AM6x-Ontwikkeling-Veelvuldige-Kamera-fig- (5)

  • Hierdie sagteware-argitektuur stel die SoC in staat om verskeie kamerastrome te ontvang met die gebruik van SerDes, soos getoon in Figuur 2-2. Die FPD-Link/V3-Link SerDes ken 'n unieke I2C-adres en virtuele kanaal aan elke kamera toe. 'n Unieke toestelboom-oorlegsel moet geskep word met die unieke I2C-adres vir elke kamera. Die CSI-2 RX-drywer herken elke kamera deur die unieke virtuele kanaalnommer te gebruik en skep 'n DMA-konteks per kamerastroom. 'n Videoknoop word vir elke DMA-konteks geskep. Data van elke kamera word dan ontvang en met behulp van DMA in die geheue gestoor. Gebruikersruimte-toepassings gebruik die videoknooppunte wat ooreenstem met elke kamera om toegang tot die kameradata te verkry. Bv.ampInstruksies oor die gebruik van hierdie sagteware-argitektuur word in Hoofstuk 4 – Verwysingsontwerp – gegee.
  • Enige spesifieke sensordrywer wat voldoen aan die V4L2-raamwerk kan in hierdie argitektuur inprop en speel. Verwys na [8] oor hoe om 'n nuwe sensordrywer in die Linux SDK te integreer.

Beeldpyplyn sagteware-argitektuur

  • Die AM6x Linux SDK verskaf die GStreamer (GST) raamwerk, wat in die ser-ruimte gebruik kan word om die beeldverwerkingskomponente vir verskeie toepassings te integreer. Die Hardewareversnellers (HWA) op die SoC, soos die Vision Pre-processing Accelerator (VPAC) of ISP, video-enkodeerder/dekodeerder, en diep leer-rekenaar-enjin, word deur GST verkry. pluginsDie VPAC (ISP) self het verskeie blokke, insluitend Vision Imaging Sub-System (VISS), Lens Distortion Correction (LDC), en Multiscalar (MSC), wat elk ooreenstem met 'n GST-inprop.
  • Figuur 3-2 toon die blokdiagram van 'n tipiese beeldpyplyn vanaf die kamera na kodering of diepgaande
    leertoepassings op AM62A. Vir meer besonderhede oor die end-tot-end datavloei, verwys na die EdgeAI SDK-dokumentasie.

Texas-Instruments-AM6x-Ontwikkeling-Veelvuldige-Kamera-fig- (6)

Vir AM62P is die beeldpyplyn eenvoudiger omdat daar geen internetdiensverskaffer op AM62P is nie.

Texas-Instruments-AM6x-Ontwikkeling-Veelvuldige-Kamera-fig- (7)

Met 'n videoknooppunt wat vir elk van die kameras geskep is, laat die GStreamer-gebaseerde beeldpyplyn die verwerking van verskeie kamera-insette (gekoppel deur dieselfde CSI-2 RX-koppelvlak) gelyktydig toe. 'n Verwysingsontwerp wat GStreamer vir multikamera-toepassings gebruik, word in die volgende hoofstuk gegee.

Verwysingsontwerp

Hierdie hoofstuk bied 'n verwysingsontwerp vir die uitvoering van veelvuldige kamera-toepassings op AM62A EVM, deur die Arducam V3Link Camera Solution Kit te gebruik om 4 CSI-2-kameras aan AM62A te koppel en objekopsporing vir al 4 kameras uit te voer.

Ondersteunde kameras
Die Arducam V3Link-stel werk met beide FPD-Link/V3-Link-gebaseerde kameras en Raspberry Pi-versoenbare CSI-2-kameras. Die volgende kameras is getoets:

  • D3 Ingenieurswese D3RCM-IMX390-953
  • Leopard Imaging LI-OV2312-FPDLINKIII-110H
  • IMX219-kameras in die Arducam V3Link-kamera-oplossingskit

Opstel van vier IMX219-kameras
Volg die instruksies in die AM62A Beginnerspakket EVM Vinnige Begingids om die SK-AM62A-LP EVM (AM62A SK) en ArduCam V3Link Kamera-oplossing Vinnige Begingids op te stel om die kameras aan die AM62A SK te koppel deur die V3Link-stel. Maak seker dat die penne op die buigkabels, kameras, V3Link-bord en AM62A SK almal behoorlik in lyn is.

Figuur 4-1 toon die opstelling wat vir die verwysingsontwerp in hierdie verslag gebruik is. Die hoofkomponente in die opstelling sluit in:

  • 1X SK-AM62A-LP EVM-bord
  • 1X Arducam V3Link d-kanaal adapterbord
  • FPC-kabel wat Arducam V3Link aan SK-AM62A koppel
  • 4X V3Link kamera-adapters (serialiseerders)
  • 4X RF koaksiale kabels om V3Link-serialiseerders aan die V3Link d-ch-stel te koppel
  • 4X IMX219 Kameras
  • 4X CSI-2 22-pen kabels om kameras aan serialiseerders te koppel
  • Kabels: HDMI-kabel, USB-C om SK-AM62A-LP aan te dryf en 12V-kragbron vir V3Link d-kanaal-stel)
  • Ander komponente wat nie in Figuur 4-1 getoon word nie: mikro-SD-kaart, mikro-USB-kabel om toegang tot SK-AM62A-LP te verkry, en Ethernet vir stroomdienste

Texas-Instruments-AM6x-Ontwikkeling-Veelvuldige-Kamera-fig- (8)

Konfigurasie van kameras en CSI-2 RX-koppelvlak
Stel die sagteware op volgens die instruksies in die Arducam V3Link Vinnige Begingids. Nadat die kamera-opstellingskrip, setup-imx219.sh, uitgevoer is, sal die kamera se formaat, die CSI-2 RX-koppelvlakformaat en die roetes van elke kamera na die ooreenstemmende videoknoop behoorlik gekonfigureer word. Vier videoknooppunte word geskep vir die vier IMX219-kameras. Die opdrag "v4l2-ctl –list-devices" vertoon al die V4L2-videotoestelle, soos hieronder getoon:

Texas-Instruments-AM6x-Ontwikkeling-Veelvuldige-Kamera-fig- (9)

Daar is 6 videoknooppunte en 1 mediaknooppunt onder tiscsi2rx. Elke videoknooppunt stem ooreen met 'n DMA-konteks wat deur die CSI2 RX-drywer toegeken word. Van die 6 videoknooppunte word 4 vir die 4 IMX219-kameras gebruik, soos in die mediapyp-topologie hieronder getoon:

Texas-Instruments-AM6x-Ontwikkeling-Veelvuldige-Kamera-fig- (10)

Soos hierbo getoon, het media-entiteit 30102000.ticsi2rx 6 bronblokke, maar slegs die eerste 4 word gebruik, elk vir een IMX219. Die mediapyp-topologie kan ook grafies geïllustreer word. Voer die volgende opdrag uit om 'n punt te genereer. file:

Texas-Instruments-AM6x-Ontwikkeling-Veelvuldige-Kamera-fig- (11)

Voer dan die onderstaande opdrag op 'n Linux-gasheerrekenaar uit om 'n PNG te genereer file:Texas-Instruments-AM6x-Ontwikkeling-Veelvuldige-Kamera-fig- (12)

Figuur 4-2 is 'n prentjie wat gegenereer is met behulp van die bogenoemde opdragte. Die komponente in die sagteware-argitektuur van Figuur 3-1 kan in hierdie grafiek gevind word.

Texas-Instruments-AM6x-Ontwikkeling-Veelvuldige-Kamera-fig- (13)

Stroom vanaf vier kameras
Met beide hardeware en sagteware wat behoorlik opgestel is, kan veelvuldige kamera-toepassings vanaf die gebruikersruimte loop. Vir AM62A moet die ISP ingestel word om goeie beeldkwaliteit te lewer. Verwys na die AM6xA ISP-instellingsgids vir hoe om ISP-instellings uit te voer. Die volgende afdelings bied voorbeelde aan.amples van die stroom van kameradata na 'n skerm, die stroom van kameradata na 'n netwerk, en die stoor van die kameradata na files.

Stroom kameradata na skerm
'n Basiese toepassing van hierdie multikamerastelsel is om die video's van alle kameras na 'n skerm te stroom wat aan dieselfde SoC gekoppel is. Die volgende is 'n GStreamer-pyplynvoorbeeld.ampdie stroom van vier IMX219 na 'n skerm (die videoknooppuntnommers en v4l-subdev-nommers in die pyplyn sal waarskynlik van herlaai tot herlaai verander).

Texas-Instruments-AM6x-Ontwikkeling-Veelvuldige-Kamera-fig- (14) Texas-Instruments-AM6x-Ontwikkeling-Veelvuldige-Kamera-fig- (15)

Stroom kameradata deur Ethernet
In plaas daarvan om na 'n skerm te stroom wat aan dieselfde SoC gekoppel is, kan die kameradata ook deur die Ethernet gestroom word. Die ontvangkant kan óf 'n ander AM62A/AM62P-verwerker óf 'n gasheer-rekenaar wees. Die volgende is 'n voorbeeld.ampdie stroom van die kameradata deur die Ethernet (met behulp van twee kameras vir eenvoud) (let op die enkodeerder-inprop wat in die pyplyn gebruik word):

Texas-Instruments-AM6x-Ontwikkeling-Veelvuldige-Kamera-fig- (16)

Die volgende is 'n exampdie ontvangs van die kameradata en stroom na 'n skerm op 'n ander AM62A/AM62P-verwerker:

Texas-Instruments-AM6x-Ontwikkeling-Veelvuldige-Kamera-fig- (17)

Stoor kameradata na Files
In plaas daarvan om na 'n skerm of deur 'n netwerk te stroom, kan die kameradata in plaaslike toestande gestoor word files. Die pyplyn hieronder stoor elke kamera se data na 'n file (gebruik twee kameras as 'n voorbeeld)ampvir eenvoud).

Texas-Instruments-AM6x-Ontwikkeling-Veelvuldige-Kamera-fig- (18)Texas-Instruments-AM6x-Ontwikkeling-Veelvuldige-Kamera-fig- (19)

Multikamera Diep Leer Inferensie

AM62A is toegerus met 'n diep leerversneller (C7x-MMA) met tot twee TOPS, wat in staat is om verskeie tipes diep leermodelle vir klassifikasie, objekopsporing, semantiese segmentering en meer uit te voer. Hierdie afdeling wys hoe AM62A gelyktydig vier diep leermodelle op vier verskillende kameravoere kan uitvoer.

Model Keuse
Die TI se EdgeAI-ModelZoo bied honderde moderne modelle wat vanaf hul oorspronklike opleidingsraamwerke na 'n ingebedde-vriendelike formaat omgeskakel/uitgevoer word sodat hulle na die C7x-MMA-diepleerversneller afgelaai kan word. Die wolkgebaseerde Edge AI Studio Model Analyzer bied 'n maklik-om-te-gebruik "Modelkeuse"-instrument. Dit word dinamies opgedateer om alle modelle wat in TI EdgeAI-ModelZoo ondersteun word, in te sluit. Die instrument vereis geen vorige ervaring nie en bied 'n maklik-om-te-gebruik koppelvlak om die funksies wat in die verlangde model benodig word, in te voer.

Die TFL-OD-2000-ssd-mobV1-coco-mlperf is gekies vir hierdie multi-kamera diep leer eksperiment. Hierdie multi-objek opsporingsmodel is ontwikkel in die TensorFlow raamwerk met 'n 300×300 invoer resolusie. Tabel 4-1 toon die belangrike kenmerke van hierdie model wanneer dit opgelei word op die cCOCO datastel met ongeveer 80 verskillende klasse.

Tabel 4-1. Beklemtoon die kenmerke van die model TFL-OD-2000-ssd-mobV1-coco-mlperf.

Model Taak Resolusie FPS mAP 50%

Akkuraatheid op COCO

Latensie/Raam (ms) DDR Swart

Benutting (MB/Raam)

TFL-OD-2000-ssd-

mobV1-coco-mlperf

Multi-objek-opsporing 300×300 ~152 15.9 6.5 18.839

Pyplynopstelling
Figuur 4-3 toon die 4-kamera diep leer GStreamer pyplyn. TI bied 'n reeks GStreamer plugins wat die aflaai van sommige van die mediaverwerking en die diep leer-inferensie na die hardewareversnellers moontlik maak. Sommige bv.amples hiervan plugins sluit tiovxisp, tiovxmultiscaler, tiovxmosaic en tidlinferer in. Die pyplyn in Figuur 4-3 sluit al die vereiste in plugins vir 'n multipad GStreamer-pyplyn vir 4-kamera-insette, elk met media-voorverwerking, diep leer-inferensie en naverwerking. Die gedupliseerde plugins Vir elk van die kamerapaaie word in die grafiek gestapel vir makliker demonstrasie.
Die beskikbare hardewarebronne word eweredig versprei tussen die vier kamerapaaie. AM62A bevat byvoorbeeld twee beeldmultiskalers: MSC0 en MSC1. Die pyplyn wy MSC0 eksplisiet toe aan die proses van kamera 1 en kamera 2 paaie, terwyl MSC1 toegewy is aan kamera 3 en kamera 4.

Texas-Instruments-AM6x-Ontwikkeling-Veelvuldige-Kamera-fig- (21)

Die uitvoer van die vier kamerapyplyne word afgeskaal en saamgevoeg met behulp van die tiovxmosaic-inprop. Die uitvoer word op 'n enkele skerm vertoon. Figuur 4-4 toon die uitvoer van die vier kameras met 'n diep leermodel wat objekopsporing uitvoer. Elke pyplyn (kamera) loop teen 30 FPS en 'n totaal van 120 FPS.

Texas-Instruments-AM6x-Ontwikkeling-Veelvuldige-Kamera-fig- (22)

Volgende is die volledige pyplynskrip vir die multikamera-diepleergebruiksgeval wat in Figuur 4-3 getoon word.

Texas-Instruments-AM6x-Ontwikkeling-Veelvuldige-Kamera-fig- (23) Texas-Instruments-AM6x-Ontwikkeling-Veelvuldige-Kamera-fig- (24)

Prestasie-analise

Die opstelling met vier kameras wat die V3Link-bord en die AM62A SK gebruik, is in verskeie toepassingscenario's getoets, insluitend direkte vertoon op 'n skerm, stroom oor Ethernet (vier UDP-kanale), opname na 4 afsonderlike files, en met diep leer-inferensie. In elke eksperiment het ons die raamtempo en die benutting van SVE-kerne gemonitor om die hele stelsel se vermoëns te verken.

Soos voorheen in Figuur 4-4 getoon, gebruik die diep leerpyplyn die tiperfoverlay GStreamer-inprop om SVE-kernladings as 'n staafgrafiek onderaan die skerm te wys. Standaard word die grafiek elke twee sekondes opgedateer om die ladings as 'n gebruikspersentasie te wys.tage. Benewens die tiperfoverlay GStreamer-inprop, is die perf_stats-instrument 'n tweede opsie om kernprestasie direk op die terminaal te wys met 'n opsie om na 'n te stoor. fileHierdie instrument is meer akkuraat in vergelyking met die tTiperfoverlay, aangesien laasgenoemde ekstra las op die ARMm-kerne en die DDR plaas om die grafiek te teken en dit op die skerm te oorlê. Die perf_stats-instrument word hoofsaaklik gebruik om hardewarebenuttingsresultate in al die toetsgevalle wat in hierdie dokument getoon word, in te samel. Van die belangrike verwerkingskerne en versnellers wat in hierdie toetse bestudeer is, sluit in die hoofverwerkers (vier A53 Arm-kerne teen 1.25 GHz), die diep leerversneller (C7x-MMA teen 850 MHz), die VPAC (ISP) met VISS en multiskalers (MSC0 en MSC1), en DDR-bewerkings.

Tabel 5-1 toon die werkverrigting en hulpbronbenutting wanneer AM62A met vier kameras vir drie gebruiksgevalle gebruik word, insluitend die stroom van vier kameras na 'n skerm, stroom oor Ethernet en opname na vier afsonderlike kameras. files. Twee toetse word in elke gebruiksgeval geïmplementeer: met slegs die kamera en met diep leer-inferensie. Daarbenewens toon die eerste ry in Tabel 5-1 hardewaregebruik wanneer slegs die bedryfstelsel op AM62A geloop het sonder enige gebruikerstoepassings. Dit word as 'n basislyn gebruik om te vergelyk wanneer die hardewaregebruik van die ander toetsgevalle geëvalueer word. Soos in die tabel getoon, het die vier kameras met diep leer en skermvertoning teen 30 FPS elk gewerk, met 'n totaal van 120 FPS vir die vier kameras. Hierdie hoë raamtempo word bereik met slegs 86% van die diep leerversneller (C7x-MMA) se volle kapasiteit. Daarbenewens is dit belangrik om daarop te let dat die diep leerversneller teen 850 MHz in plaas van 1000 MHz in hierdie eksperimente geklok is, wat ongeveer slegs 85% van sy maksimum werkverrigting is.

Tabel 5-1. Werkverrigting (FPS) en hulpbronbenutting van AM62A wanneer dit gebruik word met 4 IMX219-kameras vir skermvertoning, Ethernet-stroom, opname na Files, en die uitvoering van diep leer-inferensie

Toepassing n Pyplyn (operasie)

)

Uitset FPS gemiddelde pyplyn s FPS

totaal

MPU's A53s @ 1.25

GHz [%]

MCU R5 [%] DLA (C7x-MMA) @ 850

MHz [%]

VISS [%] MSC0 [%] MSC1 [%] DDR

Pad [MB/s]

DDR

Wr [MB/s]

DDR

Totaal [MB/s]

Geen toepassing nie Basislyn Geen operasie NA NA NA 1.87 1 0 0 0 0 560 19 579
Kamera slegs Stroom om te skerm Skerm 30 120 12 12 0 70 61 60 1015 757 1782
Stroom oor Ethernet UDP: 4

poorte 1920×1080

30 120 23 6 0 70 0 0 2071 1390 3461
Rekord aan files 4 files 1920×1080 30 120 25 3 0 70 0 0 2100 1403 3503
Cam met diep leer Diep leer: Objekopsporing MobV1- coco Skerm 30 120 38 25 86 71 85 82 2926 1676 4602
Diep leer: Objekopsporing MobV1- coco en stroom oor Ethernet UDP: 4

poorte 1920×1080

28 112 84 20 99 66 65 72 4157 2563 6720
Diep leer: Objekopsporing MobV1- coco en opname na files 4 files 1920×1080 28 112 87 22 98 75 82 61 2024 2458 6482

Opsomming
Hierdie toepassingsverslag beskryf hoe om multikamera-toepassings op die AM6x-reeks toestelle te implementeer. 'n Verwysingsontwerp gebaseer op Arducam se V3Link Camera Solution Kit en AM62A SK EVM word in die verslag verskaf, met verskeie kamera-toepassings wat vier IMX219-kameras gebruik, soos stroomdienste en voorwerpopsporing. Gebruikers word aangemoedig om die V3Link Camera Solution Kit van Arducam aan te skaf en hierdie voorbeelde te herhaal.ampDie verslag verskaf ook 'n gedetailleerde ontleding van die werkverrigting van AM62A terwyl vier kameras onder verskillende konfigurasies gebruik word, insluitend vertoon op 'n skerm, stroom oor Ethernet en opname na files. Dit toon ook AM62A se vermoë om diep leer-inferensie op vier afsonderlike kamerastrome parallel uit te voer. Indien daar enige vrae is oor die uitvoering van hierdie voorbeeldeamples, dien 'n navraag in by die TI E2E forum.

Verwysings

  1. AM62A Aanvangskit EVM Vinnige Aanvangsgids
  2. ArduCam V3Link Kamera-oplossing Vinnige Begingids
  3. Edge AI SDK-dokumentasie vir AM62A
  4. Edge KI slimkameras wat energie-doeltreffende AM62A-verwerker gebruik
  5. Kameraspieëlstelsels op AM62A
  6. Bestuurder- en Besettingsmoniteringstelsels op AM62A
  7. Vierkanaalkamera-toepassing vir surround View en CMS-kamerastelsels
  8. AM62Ax Linux Akademie oor die aktivering van CIS-2 Sensor
  9. Edge KI ModelZoo
  10. Edge KI Studio
  11. Perf_stats-instrument

TI-onderdele waarna in hierdie aansoeknota verwys word:

BELANGRIKE KENNISGEWING EN VRYWARING

TI VERSKAF TEGNIESE EN BETROUBAARHEIDSDATA (INSLUITEND DATABLADE), ONTWERPHULPBRONNE (INSLUITEND VERWYSINGSONTWERP), TOEPASSING OF ANDER ONTWERPADVIES, WEB GEREEDSKAP, VEILIGHEIDSINLIGTING EN ANDER HULPBRONNE "SOOS IS" EN MET ALLE FOUTE, EN WYS ALLE WAARBORGE, UITDRUKKELIJK EN GEÏMPLISEERD, INSLUITEND SONDER BEPERKING ENIGE GEÏSPLISEERDE WAARBORGE VAN VERHANDELBAARHEID VIR VERKOOPBAARHEID VIR DEELNEEMBAARHEID VIR DEELSKAPLIKHEID, DERDEPARTY INTELLEKTUELE EIENDOMSREGTE .

Hierdie hulpbronne is bedoel vir bekwame ontwikkelaars wat met TI-produkte ontwerp. Jy is alleen verantwoordelik vir

  1. kies die toepaslike TI-produkte vir jou toepassing,
  2. ontwerp, validering en toets van jou aansoek, en
  3. om te verseker dat u aansoek voldoen aan toepaslike standaarde en enige ander veiligheids-, sekuriteits-, regulatoriese of ander vereistes.

Hierdie hulpbronne is onderhewig aan verandering sonder kennisgewing. TI laat jou toe om hierdie hulpbronne slegs te gebruik vir die ontwikkeling van 'n toepassing wat die TI-produkte gebruik wat in die hulpbron beskryf word. Ander reproduksie en vertoon van hierdie hulpbronne is verbode. Geen lisensie word toegestaan ​​aan enige ander TI-intellektuele eiendomsreg of aan enige derdeparty-intellektuele eiendomsreg nie. TI ontken verantwoordelikheid vir, en jy sal TI en sy verteenwoordigers ten volle vrywaar teen, enige eise, skade, koste, verliese en laste wat voortspruit uit jou gebruik van hierdie hulpbronne.

TI se produkte word verskaf onderhewig aan TI se verkoopsbepalings of ander toepaslike bepalings wat beskikbaar is op óf ti.com of in samewerking met sulke TI-produkte verskaf word. TI se voorsiening van hierdie hulpbronne brei of verander nie TI se toepaslike waarborge of waarborgvrywarings vir TI-produkte nie.

TI maak beswaar teen en verwerp enige bykomende of ander bepalings wat jy moontlik voorgestel het.

BELANGRIKE KENNISGEWING

  • Posadres: Texas Instruments, Poskantoor 655303, Dallas, Texas 75265
  • Kopiereg © 2024, Texas Instruments Incorporated

Gereelde Vrae

V: Kan ek enige tipe kamera met die AM6x-reeks toestelle gebruik?

Die AM6x-familie ondersteun verskillende kameratipes, insluitend dié met of sonder ingeboude internetdiensverskaffer. Verwys na die spesifikasies vir meer besonderhede oor ondersteunde kameratipes.

Wat is die hoofverskille tussen AM62A en AM62P in beeldverwerking?

Die belangrikste variasies sluit in ondersteunde kameratipes, kamera-uitvoerdata, teenwoordigheid van ISP HWA, Deep Learning HWA en 3D-grafika HWA. Verwys na die spesifikasies-afdeling vir 'n gedetailleerde vergelyking.

 

Dokumente / Hulpbronne

Texas Instruments AM6x Ontwikkel Veelvuldige Kameras [pdf] Gebruikersgids
AM62A, AM62P, AM6x Ontwikkeling van veelvuldige kameras, AM6x, Ontwikkeling van veelvuldige kameras, veelvuldige kameras, kamera

Verwysings

Los 'n opmerking

Jou e-posadres sal nie gepubliseer word nie. Vereiste velde is gemerk *