Logo Texas Instruments

Texas Instruments AM6x Mengembangkan Beberapa Kamera

Texas-Instruments-AM6x-Mengembangkan-Produk-Kamera-Berganda

Spesifikasi

  • Nama Produk: keluarga perangkat AM6x
  • Tipe Kamera yang Didukung: AM62A (Dengan atau tanpa ISP bawaan), AM62P (Dengan ISP bawaan)
  • Data Keluaran Kamera: AM62A (Raw/YUV/RGB), AM62P (YUV/RGB)
  • ISP HWA: AM62A (Ya), AM62P (Tidak)
  • Pembelajaran Mendalam HWA: AM62A (Ya), AM62P (Tidak)
  • Grafik 3D HWA: AM62A (Tidak), AM62P (Ya)

Pengantar Aplikasi Multi-Kamera pada AM6x:

  • Kamera tertanam memainkan peran penting dalam sistem penglihatan modern.
  • Memanfaatkan beberapa kamera dalam satu sistem meningkatkan kemampuan dan memungkinkan tugas-tugas yang tidak dapat dicapai dengan satu kamera.

Aplikasi Menggunakan Beberapa Kamera:

  • Pengawasan Keamanan: Meningkatkan cakupan pengawasan, pelacakan objek, dan akurasi pengenalan.
  • Mengelilingi View: Memungkinkan penglihatan stereo untuk tugas-tugas seperti deteksi rintangan dan manipulasi objek.
  • Sistem Perekam Kabin dan Cermin Kamera: Memberikan jangkauan yang lebih luas dan menghilangkan titik buta.
  • Pencitraan Medis: Menawarkan peningkatan presisi dalam navigasi bedah dan endoskopi.
  • Drone dan Pencitraan Udara: Mengambil gambar beresolusi tinggi dari berbagai sudut untuk berbagai aplikasi.

Menghubungkan Beberapa Kamera CSI-2 ke SoC:
Untuk menghubungkan beberapa kamera CSI-2 ke SoC, ikuti panduan yang diberikan dalam buku panduan pengguna. Pastikan setiap kamera telah disejajarkan dan terhubung dengan benar ke port yang ditentukan pada SoC.

Catatan Aplikasi
Mengembangkan Aplikasi Multi-Kamera pada AM6x

Jianzhong Xu, Qutaiba Saleh

ABSTRAK
Laporan ini menjelaskan pengembangan aplikasi menggunakan beberapa kamera CSI-2 pada keluarga perangkat AM6x. Desain referensi deteksi objek dengan pembelajaran mendalam pada 4 kamera pada SoC AM62A disajikan beserta analisis kinerjanya. Prinsip umum desain ini berlaku untuk SoC lain dengan antarmuka CSI-2, seperti AM62x dan AM62P.

Perkenalan

Kamera tertanam memainkan peran penting dalam sistem penglihatan modern. Penggunaan beberapa kamera dalam satu sistem memperluas kemampuan sistem ini dan memungkinkan kemampuan yang tidak mungkin dilakukan dengan satu kamera. Berikut adalah beberapa contohampBeberapa aplikasi yang menggunakan beberapa kamera tertanam:

  • Pengawasan Keamanan: Beberapa kamera yang ditempatkan secara strategis memberikan cakupan pengawasan yang komprehensif. Kamera-kamera ini memungkinkan views, mengurangi titik buta, dan meningkatkan akurasi pelacakan dan pengenalan objek, meningkatkan langkah-langkah keamanan secara keseluruhan.
  • Mengelilingi ViewBeberapa kamera digunakan untuk menciptakan pengaturan penglihatan stereo, yang memungkinkan informasi tiga dimensi dan estimasi kedalaman. Hal ini krusial untuk tugas-tugas seperti deteksi rintangan pada kendaraan otonom, manipulasi objek yang presisi dalam robotika, dan peningkatan realisme dalam pengalaman realitas tertambah.
  • Sistem Perekam Kabin dan Cermin Kamera: Perekam kabin mobil dengan beberapa kamera dapat memberikan cakupan lebih luas menggunakan satu prosesor. Demikian pula, sistem cermin kamera dengan dua kamera atau lebih dapat memperluas jangkauan pandangan pengemudi. view dan menghilangkan titik buta dari semua sisi mobil.
  • Pencitraan Medis: Beberapa kamera dapat digunakan dalam pencitraan medis untuk tugas-tugas seperti navigasi bedah, memberikan ahli bedah berbagai perspektif untuk meningkatkan presisi. Dalam endoskopi, beberapa kamera memungkinkan pemeriksaan organ dalam secara menyeluruh.
  • Drone dan Pencitraan Udara: Drone sering kali dilengkapi dengan beberapa kamera untuk menangkap gambar atau video beresolusi tinggi dari berbagai sudut. Hal ini berguna dalam aplikasi seperti fotografi udara, pemantauan pertanian, dan survei lahan.
  • Dengan kemajuan mikroprosesor, beberapa kamera dapat diintegrasikan ke dalam satu System-on-Chip.
    (SoC) untuk menyediakan solusi yang ringkas dan efisien. SoC AM62Ax, dengan pemrosesan video/visual berkinerja tinggi dan akselerasi pembelajaran mendalam, merupakan perangkat ideal untuk kasus penggunaan yang disebutkan di atas. Perangkat AM6x lainnya, AM62P, dirancang untuk aplikasi tampilan 3D tertanam berkinerja tinggi. Dilengkapi dengan akselerasi grafis 3D, AM62P dapat dengan mudah menggabungkan gambar dari beberapa kamera dan menghasilkan panorama beresolusi tinggi. viewFitur inovatif dari SoC AM62A/AM62P telah disajikan dalam berbagai publikasi, seperti [4], [5], [6], dll. Catatan aplikasi ini tidak akan mengulangi deskripsi fitur tersebut tetapi berfokus pada pengintegrasian beberapa kamera CSI-2 ke dalam aplikasi visi tertanam pada AM62A/AM62P.
  • Tabel 1-1 menunjukkan perbedaan utama antara AM62A dan AM62P sejauh menyangkut pemrosesan gambar.

Tabel 1-1. Perbedaan antara AM62A dan AM62P dalam Pemrosesan Gambar

SoC AM62A AM62P
Jenis Kamera yang Didukung Dengan atau tanpa ISP bawaan Dengan ISP bawaan
Data Keluaran Kamera Mentah/YUV/RGB YUV/RGB
Penyedia Layanan Internet (ISP) HWA Ya TIDAK
Pembelajaran Mendalam HWA Ya TIDAK
Grafik 3D HWA TIDAK Ya

Menghubungkan Beberapa Kamera CSI-2 ke SoC
Subsistem Kamera pada SoC AM6x berisi komponen-komponen berikut, seperti yang ditunjukkan pada Gambar 2-1:

  • Penerima MIPI D-PHY: menerima aliran video dari kamera eksternal, mendukung hingga 1.5 Gbps per jalur data untuk 4 jalur.
  • Penerima CSI-2 (RX): menerima aliran video dari penerima D-PHY dan mengirimkannya langsung ke ISP atau menyimpan data ke memori DDR. Modul ini mendukung hingga 16 kanal virtual.
  • SHIM: pembungkus DMA yang memungkinkan pengiriman aliran yang ditangkap ke memori melalui DMA. Beberapa konteks DMA dapat dibuat oleh pembungkus ini, dengan setiap konteks terkait dengan kanal virtual Penerima CSI-2.

Texas-Instruments-AM6x-Mengembangkan-Kamera-Ganda-fig- (2)

Beberapa kamera dapat didukung pada AM6x melalui penggunaan kanal virtual CSI-2 RX, meskipun hanya ada satu antarmuka CSI-2 RX pada SoC. Komponen agregasi CSI-2 eksternal diperlukan untuk menggabungkan beberapa aliran kamera dan mengirimkannya ke satu SoC. Dua jenis solusi agregasi CSI-2 dapat digunakan, yang akan dijelaskan di bagian berikut.

Agregator CSI-2 Menggunakan SerDes
Salah satu cara menggabungkan beberapa aliran kamera adalah dengan menggunakan solusi serialisasi dan deserialisasi (SerDes). Data CSI-2 dari setiap kamera dikonversi oleh serializer dan ditransfer melalui kabel. Deserializer menerima semua data serial yang ditransfer dari kabel (satu kabel per kamera), mengonversi aliran kembali menjadi data CSI-2, lalu mengirimkan aliran CSI-2 yang disisipkan ke antarmuka RX CSI-2 tunggal pada SoC. Setiap aliran kamera diidentifikasi oleh kanal virtual yang unik. Solusi agregasi ini menawarkan manfaat tambahan berupa koneksi jarak jauh hingga 15 m dari kamera ke SoC.

Serializer dan deserializer FPD-Link atau V3-Link (SerDes), yang didukung dalam AM6x Linux SDK, adalah teknologi paling populer untuk solusi agregasi CSI-2 jenis ini. Baik deserializer FPD-Link maupun V3-Link memiliki kanal belakang yang dapat digunakan untuk mengirimkan sinyal sinkronisasi bingkai guna menyinkronkan semua kamera, seperti yang dijelaskan dalam [7].
Gambar 2-2 menunjukkan mantanampcara menggunakan SerDes untuk menghubungkan beberapa kamera ke satu SoC AM6x.

Texas-Instruments-AM6x-Mengembangkan-Kamera-Ganda-fig- (3)

mantanampSolusi agregasi ini dapat ditemukan dalam Kit Solusi Kamera Arducam V3Link. Kit ini memiliki hub deserializer yang menggabungkan 4 aliran kamera CSI-2, serta 4 pasang serializer V3link dan kamera IMX219, termasuk kabel koaksial FAKRA dan kabel FPC 22-pin. Desain referensi yang akan dibahas nanti dibangun berdasarkan kit ini.

Agregator CSI-2 tanpa Menggunakan SerDes
Jenis agregator ini dapat langsung berinteraksi dengan beberapa kamera MIPI CSI-2 dan menggabungkan data dari semua kamera ke aliran keluaran CSI-2 tunggal.

Gambar 2-3 menunjukkan mantanampSistem semacam itu. Solusi agregasi jenis ini tidak menggunakan serializer/deserializer, tetapi dibatasi oleh jarak maksimum transfer data CSI-2, yaitu hingga 30 cm. SDK Linux AM6x tidak mendukung agregator CSI-2 jenis ini.

Texas-Instruments-AM6x-Mengembangkan-Kamera-Ganda-fig- (4)

Mengaktifkan Beberapa Kamera dalam Perangkat Lunak

Arsitektur Perangkat Lunak Subsistem Kamera
Gambar 3-1 menunjukkan diagram blok tingkat tinggi dari perangkat lunak sistem perekaman kamera di AM62A/AM62P Linux SDK, yang sesuai dengan sistem HW pada Gambar 2-2.

Texas-Instruments-AM6x-Mengembangkan-Kamera-Ganda-fig- (5)

  • Arsitektur perangkat lunak ini memungkinkan SoC menerima beberapa aliran kamera dengan menggunakan SerDes, seperti yang ditunjukkan pada Gambar 2-2. SerDes FPD-Link/V3-Link menetapkan alamat I2C dan kanal virtual yang unik untuk setiap kamera. Hamparan pohon perangkat yang unik harus dibuat dengan alamat I2C yang unik untuk setiap kamera. Driver RX CSI-2 mengenali setiap kamera menggunakan nomor kanal virtual yang unik dan membuat konteks DMA per aliran kamera. Sebuah simpul video dibuat untuk setiap konteks DMA. Data dari setiap kamera kemudian diterima dan disimpan menggunakan DMA ke memori yang sesuai. Aplikasi ruang pengguna menggunakan simpul video yang sesuai dengan setiap kamera untuk mengakses data kamera. MisalnyaampContoh penggunaan arsitektur perangkat lunak ini diberikan dalam Bab 4 – Desain Referensi.
  • Driver sensor spesifik apa pun yang sesuai dengan kerangka kerja V4L2 dapat dipasang dan dijalankan dalam arsitektur ini. Lihat [8] untuk mengetahui cara mengintegrasikan driver sensor baru ke dalam SDK Linux.

Arsitektur Perangkat Lunak Pipeline Gambar

  • AM6x Linux SDK menyediakan kerangka kerja GStreamer (GST), yang dapat digunakan di ruang server untuk mengintegrasikan komponen pemrosesan gambar untuk berbagai aplikasi. Akselerator Perangkat Keras (HWA) pada SoC, seperti Vision Pre-processing Accelerator (VPAC) atau ISP, encoder/decoder video, dan mesin komputasi pembelajaran mendalam, diakses melalui GST. pluginsVPAC (ISP) sendiri memiliki beberapa blok, termasuk Vision Imaging Sub-System (VISS), Lens Distortion Correction (LDC), dan Multiscalar (MSC), yang masing-masing sesuai dengan plugin GST.
  • Gambar 3-2 menunjukkan diagram blok dari jalur gambar khas dari kamera ke pengkodean atau pemrosesan mendalam.
    Aplikasi pembelajaran pada AM62A. Untuk detail lebih lanjut tentang alur data menyeluruh, lihat dokumentasi EdgeAI SDK.

Texas-Instruments-AM6x-Mengembangkan-Kamera-Ganda-fig- (6)

Untuk AM62P, jalur gambar lebih sederhana karena tidak ada ISP pada AM62P.

Texas-Instruments-AM6x-Mengembangkan-Kamera-Ganda-fig- (7)

Dengan node video yang dibuat untuk masing-masing kamera, alur gambar berbasis GStreamer memungkinkan pemrosesan beberapa masukan kamera (yang terhubung melalui antarmuka CSI-2 RX yang sama) secara bersamaan. Desain referensi menggunakan GStreamer untuk aplikasi multi-kamera akan dijelaskan di bab berikutnya.

Desain Referensi

Bab ini menyajikan desain referensi untuk menjalankan aplikasi multi-kamera pada AM62A EVM, menggunakan Arducam V3Link Camera Solution Kit untuk menghubungkan 4 kamera CSI-2 ke AM62A dan menjalankan deteksi objek untuk keempat kamera.

Kamera yang Didukung
Kit Arducam V3Link kompatibel dengan kamera berbasis FPD-Link/V3-Link dan kamera CSI-2 yang kompatibel dengan Raspberry Pi. Kamera-kamera berikut telah diuji:

  • D3 Teknik D3RCM-IMX390-953
  • Pencitraan Macan Tutul LI-OV2312-FPDLINKIII-110H
  • Kamera IMX219 dalam Kit Solusi Kamera Arducam V3Link

Menyiapkan Empat Kamera IMX219
Ikuti petunjuk yang diberikan dalam Panduan Memulai Cepat EVM Kit Pemula AM62A untuk menyiapkan EVM SK-AM62A-LP (AM62A SK) dan Panduan Memulai Cepat Solusi Kamera ArduCam V3Link untuk menghubungkan kamera ke AM62A SK melalui kit V3Link. Pastikan pin pada kabel fleksibel, kamera, papan V3Link, dan AM62A SK semuanya sejajar dengan benar.

Gambar 4-1 menunjukkan pengaturan yang digunakan untuk desain referensi dalam laporan ini. Komponen utama dalam pengaturan tersebut meliputi:

  • 1X papan EVM SK-AM62A-LP
  • 1X papan adaptor d-ch Arducam V3Link
  • Kabel FPC yang menghubungkan Arducam V3Link ke SK-AM62A
  • Adaptor kamera 4X V3Link (serializer)
  • 4X kabel koaksial RF untuk menghubungkan serializer V3Link ke kit d-ch V3Link
  • 4X Kamera IMX219
  • 4 kabel CSI-2 22-pin untuk menghubungkan kamera ke serializer
  • Kabel: Kabel HDMI, USB-C untuk memberi daya pada SK-AM62A-LP dan daya 12V untuk kit V3Link d-ch)
  • Komponen lain yang tidak ditampilkan pada Gambar 4-1: kartu micro-SD, kabel micro-USB untuk mengakses SK-AM62A-LP, dan Ethernet untuk streaming

Texas-Instruments-AM6x-Mengembangkan-Kamera-Ganda-fig- (8)

Mengonfigurasi Kamera dan Antarmuka CSI-2 RX
Siapkan perangkat lunak sesuai petunjuk yang terdapat dalam Panduan Memulai Cepat Arducam V3Link. Setelah menjalankan skrip pengaturan kamera, setup-imx219.sh, format kamera, format antarmuka CSI-2 RX, dan rute dari setiap kamera ke node video terkait akan dikonfigurasi dengan benar. Empat node video dibuat untuk keempat kamera IMX219. Perintah "v4l2-ctl –list-devices" akan menampilkan semua perangkat video V4L2, seperti yang ditunjukkan di bawah ini:

Texas-Instruments-AM6x-Mengembangkan-Kamera-Ganda-fig- (9)

Terdapat 6 node video dan 1 node media pada tiscsi2rx. Setiap node video sesuai dengan konteks DMA yang dialokasikan oleh driver RX CSI2. Dari 6 node video tersebut, 4 digunakan untuk 4 kamera IMX219, seperti yang ditunjukkan pada topologi pipa media di bawah ini:

Texas-Instruments-AM6x-Mengembangkan-Kamera-Ganda-fig- (10)

Seperti yang ditunjukkan di atas, entitas media 30102000.ticsi2rx memiliki 6 pad sumber, tetapi hanya 4 pad pertama yang digunakan, masing-masing untuk satu IMX219. Topologi pipa media juga dapat diilustrasikan secara grafis. Jalankan perintah berikut untuk menghasilkan titik file:

Texas-Instruments-AM6x-Mengembangkan-Kamera-Ganda-fig- (11)

Kemudian jalankan perintah di bawah ini pada PC host Linux untuk menghasilkan PNG file:Texas-Instruments-AM6x-Mengembangkan-Kamera-Ganda-fig- (12)

Gambar 4-2 adalah gambar yang dihasilkan menggunakan perintah-perintah yang diberikan di atas. Komponen-komponen dalam arsitektur perangkat lunak pada Gambar 3-1 dapat ditemukan dalam grafik ini.

Texas-Instruments-AM6x-Mengembangkan-Kamera-Ganda-fig- (13)

Streaming dari Empat Kamera
Dengan pengaturan perangkat keras dan perangkat lunak yang tepat, aplikasi multi-kamera dapat berjalan dari ruang pengguna. Untuk AM62A, ISP harus disetel untuk menghasilkan kualitas gambar yang baik. Lihat Panduan Penyetelan ISP AM6xA untuk cara melakukan penyetelan ISP. Bagian berikut menyajikan contohampfile streaming data kamera ke layar, streaming data kamera ke jaringan, dan menyimpan data kamera ke files.

Streaming Data Kamera untuk Ditampilkan
Aplikasi dasar sistem multikamera ini adalah untuk mengalirkan video dari semua kamera ke layar yang terhubung ke SoC yang sama. Berikut ini adalah contoh pipeline GStreamer.ample streaming empat IMX219 ke layar (nomor simpul video dan nomor v4l-subdev dalam jalur kemungkinan akan berubah dari reboot ke reboot).

Texas-Instruments-AM6x-Mengembangkan-Kamera-Ganda-fig- (14) Texas-Instruments-AM6x-Mengembangkan-Kamera-Ganda-fig- (15)

Streaming Data Kamera melalui Ethernet
Alih-alih streaming ke layar yang terhubung ke SoC yang sama, data kamera juga dapat dialirkan melalui Ethernet. Sisi penerima dapat berupa prosesor AM62A/AM62P lain atau PC host. Berikut ini adalah contohampcara streaming data kamera melalui Ethernet (menggunakan dua kamera demi kesederhanaan) (perhatikan plugin encoder yang digunakan dalam alur kerja):

Texas-Instruments-AM6x-Mengembangkan-Kamera-Ganda-fig- (16)

Berikut ini adalah contohampcara menerima data kamera dan streaming ke tampilan pada prosesor AM62A/AM62P lainnya:

Texas-Instruments-AM6x-Mengembangkan-Kamera-Ganda-fig- (17)

Menyimpan Data Kamera ke Files
Alih-alih streaming ke layar atau melalui jaringan, data kamera dapat disimpan di penyimpanan lokal files. Pipa di bawah ini menyimpan data setiap kamera ke file (menggunakan dua kamera sebagai example untuk penyederhanaan).

Texas-Instruments-AM6x-Mengembangkan-Kamera-Ganda-fig- (18)Texas-Instruments-AM6x-Mengembangkan-Kamera-Ganda-fig- (19)

Inferensi Pembelajaran Mendalam Multikamera

AM62A dilengkapi dengan akselerator pembelajaran mendalam (C7x-MMA) dengan hingga dua TOPS, yang mampu menjalankan berbagai jenis model pembelajaran mendalam untuk klasifikasi, deteksi objek, segmentasi semantik, dan lainnya. Bagian ini menunjukkan bagaimana AM62A dapat menjalankan empat model pembelajaran mendalam secara bersamaan pada empat umpan kamera yang berbeda.

Pemilihan Model
EdgeAI-ModelZoo TI menyediakan ratusan model canggih, yang dikonversi/diekspor dari kerangka kerja pelatihan aslinya ke format yang ramah tertanam sehingga dapat diunggah ke akselerator pembelajaran mendalam C7x-MMA. Edge AI Studio Model Analyzer berbasis cloud menyediakan alat "Pemilihan Model" yang mudah digunakan. Alat ini diperbarui secara dinamis untuk mencakup semua model yang didukung di TI EdgeAI-ModelZoo. Alat ini tidak memerlukan pengalaman sebelumnya dan menyediakan antarmuka yang mudah digunakan untuk memasukkan fitur yang diperlukan ke dalam model yang diinginkan.

TFL-OD-2000-ssd-mobV1-coco-mlperf dipilih untuk eksperimen pembelajaran mendalam multi-kamera ini. Model deteksi multi-objek ini dikembangkan dalam kerangka kerja TensorFlow dengan resolusi input 300x300. Tabel 4-1 menunjukkan fitur-fitur penting model ini ketika dilatih pada dataset cCOCO dengan sekitar 80 kelas berbeda.

Tabel 4-1. Fitur Unggulan Model TFL-OD-2000-ssd-mobV1-coco-mlperf.

Model Tugas Resolusi FPS peta 50%

Akurasi Pada COCO

Latensi/Bingkai (ms) DDR BW

Pemanfaatan (MB/Bingkai)

TFL-OD-2000-ssd-

mobV1-coco-mlperf

Deteksi Multi Objek Ukuran 300×300 ~152 15.9 6.5 18.839

Pengaturan Pipa
Gambar 4-3 menunjukkan alur kerja GStreamer pembelajaran mendalam 4 kamera. TI menyediakan serangkaian GStreamer plugins yang memungkinkan pemindahan sebagian pemrosesan media dan inferensi pembelajaran mendalam ke akselerator perangkat keras. Beberapa contohampsedikit dari ini plugins termasuk tiovxisp, tiovxmultiscaler, tiovxmosaic, dan tidlinferer. Alur kerja pada Gambar 4-3 mencakup semua yang dibutuhkan plugins untuk alur kerja GStreamer multijalur untuk input 4 kamera, masing-masing dengan praproses media, inferensi pembelajaran mendalam, dan pascaproses. Duplikasi plugins untuk setiap jalur kamera ditumpuk dalam grafik agar lebih mudah ditunjukkan.
Sumber daya perangkat keras yang tersedia didistribusikan secara merata di antara keempat jalur kamera. Misalnya, AM62A berisi dua multiskaler gambar: MSC0 dan MSC1. Alur kerja secara eksplisit mendedikasikan MSC0 untuk memproses jalur kamera 1 dan kamera 2, sementara MSC1 didedikasikan untuk kamera 3 dan kamera 4.

Texas-Instruments-AM6x-Mengembangkan-Kamera-Ganda-fig- (21)

Keluaran dari keempat jalur kamera diperkecil dan digabungkan menggunakan plugin tiovxmosaic. Keluaran ditampilkan di satu layar. Gambar 4-4 menunjukkan keluaran dari keempat kamera dengan model pembelajaran mendalam yang menjalankan deteksi objek. Setiap jalur (kamera) berjalan pada 30 FPS dengan total 120 FPS.

Texas-Instruments-AM6x-Mengembangkan-Kamera-Ganda-fig- (22)

Berikut ini adalah skrip alur lengkap untuk kasus penggunaan pembelajaran mendalam multikamera yang ditunjukkan pada Gambar 4-3.

Texas-Instruments-AM6x-Mengembangkan-Kamera-Ganda-fig- (23) Texas-Instruments-AM6x-Mengembangkan-Kamera-Ganda-fig- (24)

Analisis Kinerja

Pengaturan dengan empat kamera menggunakan papan V3Link dan AM62A SK diuji dalam berbagai skenario aplikasi, termasuk menampilkan langsung di layar, streaming melalui Ethernet (empat saluran UDP), merekam ke 4 saluran terpisah files, dan dengan inferensi pembelajaran mendalam. Dalam setiap eksperimen, kami memantau laju bingkai dan pemanfaatan inti CPU untuk mengeksplorasi kemampuan keseluruhan sistem.

Seperti yang ditunjukkan sebelumnya pada Gambar 4-4, alur kerja pembelajaran mendalam menggunakan plugin GStreamer tiperfoverlay untuk menampilkan beban inti CPU sebagai grafik batang di bagian bawah layar. Secara default, grafik diperbarui setiap dua detik untuk menampilkan beban sebagai persentase pemanfaatan.tage. Selain plugin GStreamer tiperfoverlay, alat perf_stats adalah opsi kedua untuk menunjukkan kinerja inti langsung di terminal dengan opsi untuk menyimpan ke fileAlat ini lebih akurat dibandingkan dengan tTiperfoverlay karena tTiperfoverlay menambah beban ekstra pada inti ARMm dan DDR untuk menggambar grafik dan melapisinya di layar. Alat perf_stats terutama digunakan untuk mengumpulkan hasil pemanfaatan perangkat keras di semua kasus uji yang ditunjukkan dalam dokumen ini. Beberapa inti pemrosesan dan akselerator penting yang dipelajari dalam pengujian ini meliputi prosesor utama (empat inti Arm A53 @ 1.25GHz), akselerator pembelajaran mendalam (C7x-MMA @ 850MHz), VPAC (ISP) dengan VISS dan multiscaler (MSC0 dan MSC1), dan operasi DDR.

Tabel 5-1 menunjukkan kinerja dan pemanfaatan sumber daya saat menggunakan AM62A dengan empat kamera untuk tiga kasus penggunaan, termasuk streaming empat kamera ke layar, streaming melalui Ethernet, dan perekaman ke empat kamera terpisah. files. Dua pengujian diimplementasikan pada setiap kasus penggunaan: hanya dengan kamera dan dengan inferensi pembelajaran mendalam. Selain itu, baris pertama pada Tabel 5-1 menunjukkan pemanfaatan perangkat keras saat hanya sistem operasi yang berjalan pada AM62A tanpa aplikasi pengguna apa pun. Ini digunakan sebagai dasar untuk membandingkan saat mengevaluasi pemanfaatan perangkat keras dari kasus uji lainnya. Seperti yang ditunjukkan pada tabel, keempat kamera dengan pembelajaran mendalam dan tampilan layar beroperasi pada 30 FPS masing-masing, dengan total 120 FPS untuk keempat kamera. Frame rate tinggi ini dicapai hanya dengan 86% dari kapasitas penuh akselerator pembelajaran mendalam (C7x-MMA). Selain itu, penting untuk dicatat bahwa akselerator pembelajaran mendalam di-clock pada 850MHz, bukan 1000MHz dalam percobaan ini, yang hanya sekitar 85% dari kinerja maksimumnya.

Tabel 5-1. Performa (FPS) dan Pemanfaatan Sumber Daya AM62A saat digunakan dengan 4 Kamera IMX219 untuk Tampilan Layar, Aliran Ethernet, Perekaman ke Files, dan Melakukan Inferensi Pembelajaran Mendalam

Aplikasi n Pipa (operasi

)

Keluaran FPS rata-rata pipa s FPS

total

MPU A53 @ 1.25

GHz [%]

MCU R5 [%] DLA (C7x- MMA) @ 850

MHz [%]

VISS [%] MSC0 [%] MSC1 [%] Bahasa Inggris DDR

Jalan [MB/s]

Bahasa Inggris DDR

Wr [MB/s]

Bahasa Inggris DDR

Jumlah [MB/s]

Tidak Ada Aplikasi Baseline Tidak ada operasi NA NA NA 1.87 1 0 0 0 0 560 19 579
Kamera hanya Sungai kecil untuk menyaring Layar 30 120 12 12 0 70 61 60 1015 757 1782
Streaming melalui Ethernet UDP: 4

port 1920×1080

30 120 23 6 0 70 0 0 2071 1390 3461
Catatan ke files 4 fileresolusi 1920×1080 30 120 25 3 0 70 0 0 2100 1403 3503
Kamera dengan Pembelajaran Mendalam Pembelajaran mendalam: Deteksi objek MobV1- coco Layar 30 120 38 25 86 71 85 82 2926 1676 4602
Pembelajaran mendalam: Deteksi objek MobV1-coco dan Stream over Ethernet UDP: 4

port 1920×1080

28 112 84 20 99 66 65 72 4157 2563 6720
Pembelajaran mendalam: Deteksi objek MobV1- coco dan rekam ke files 4 fileresolusi 1920×1080 28 112 87 22 98 75 82 61 2024 2458 6482

Ringkasan
Laporan aplikasi ini menjelaskan cara mengimplementasikan aplikasi multikamera pada keluarga perangkat AM6x. Desain referensi berdasarkan Kit Solusi Kamera V3Link Arducam dan EVM AM62A SK disediakan dalam laporan ini, dengan beberapa aplikasi kamera menggunakan empat kamera IMX219, seperti streaming dan deteksi objek. Pengguna disarankan untuk mendapatkan Kit Solusi Kamera V3Link dari Arducam dan mereplikasinya.ampLaporan ini juga memberikan analisis terperinci tentang kinerja AM62A saat menggunakan empat kamera dalam berbagai konfigurasi, termasuk menampilkan ke layar, streaming melalui Ethernet, dan merekam ke files. Ini juga menunjukkan kemampuan AM62A untuk melakukan inferensi pembelajaran mendalam pada empat aliran kamera terpisah secara paralel. Jika ada pertanyaan tentang menjalankan contoh ini,amples, ajukan pertanyaan di forum TI E2E.

Referensi

  1. Panduan Memulai Cepat EVM Kit Pemula AM62A
  2. Panduan Memulai Cepat Solusi Kamera ArduCam V3Link
  3. Dokumentasi Edge AI SDK untuk AM62A
  4. Kamera Cerdas AI Edge Menggunakan Prosesor AM62A Hemat Energi
  5. Sistem Cermin Kamera pada AM62A
  6. Sistem Pemantauan Pengemudi dan Penghuni pada AM62A
  7. Aplikasi Kamera Quad Channel untuk Surround View dan Sistem Kamera CMS
  8. AM62Ax Linux Academy tentang Mengaktifkan Sensor CIS-2
  9. Model Kebun Binatang AI Tepi
  10. Studio AI Tepi
  11. Alat Perf_stats

Bagian TI yang Disebut dalam Catatan Aplikasi Ini:

PEMBERITAHUAN PENTING DAN SANGGAHAN

TI MENYEDIAKAN DATA TEKNIS DAN KEANDALAN (TERMASUK LEMBAR DATA), SUMBER DESAIN (TERMASUK DESAIN REFERENSI), APLIKASI ATAU SARAN DESAIN LAINNYA, WEB ALAT, INFORMASI KESELAMATAN, DAN SUMBERDAYA LAINNYA “SEBAGAIMANA ADANYA” DAN DENGAN SEMUA KESALAHANNYA, DAN MENYANGKAL SEMUA JAMINAN, TERSURAT MAUPUN TERSIRAT, TERMASUK TETAPI TIDAK TERBATAS JAMINAN TERSIRAT ATAS KELAYAKAN DAGANG, KESESUAIAN UNTUK TUJUAN TERTENTU ATAU TIDAK PELANGGARAN HAK KEKAYAAN INTELEKTUAL PIHAK KETIGA .

Sumber daya ini ditujukan untuk pengembang terampil yang mendesain dengan produk TI. Anda bertanggung jawab sepenuhnya atas

  1. memilih produk TI yang tepat untuk aplikasi Anda,
  2. merancang, memvalidasi, dan menguji aplikasi Anda, dan
  3. memastikan aplikasi Anda memenuhi standar yang berlaku, dan persyaratan keselamatan, keamanan, peraturan, atau persyaratan lainnya.

Sumber daya ini dapat berubah sewaktu-waktu tanpa pemberitahuan. TI mengizinkan Anda menggunakan sumber daya ini hanya untuk pengembangan aplikasi yang menggunakan produk TI yang dijelaskan dalam sumber daya ini. Reproduksi dan tampilan sumber daya ini dalam bentuk apa pun dilarang. Tidak ada lisensi yang diberikan untuk hak kekayaan intelektual TI lainnya atau hak kekayaan intelektual pihak ketiga mana pun. TI melepaskan tanggung jawab atas, dan Anda akan sepenuhnya mengganti rugi TI dan perwakilannya atas, segala klaim, kerusakan, biaya, kerugian, dan kewajiban yang timbul dari penggunaan sumber daya ini oleh Anda.

Produk-produk TI disediakan dengan tunduk pada Ketentuan Penjualan TI atau ketentuan-ketentuan lain yang berlaku yang tersedia di keduanya ti.com atau diberikan bersamaan dengan produk TI tersebut. Penyediaan sumber daya ini oleh TI tidak memperluas atau mengubah jaminan TI yang berlaku atau penafian jaminan untuk produk TI.

TI menolak dan menolak persyaratan tambahan atau persyaratan berbeda yang mungkin Anda usulkan.

PEMBERITAHUAN PENTING

  • Alamat Surat: Texas Instruments, Post Office Box 655303, Dallas, Texas 75265
  • Hak Cipta © 2024, Texas Instruments Incorporated

Pertanyaan yang Sering Diajukan

T: Dapatkah saya menggunakan jenis kamera apa pun dengan perangkat keluarga AM6x?

Keluarga AM6x mendukung berbagai jenis kamera, termasuk yang memiliki atau tanpa ISP bawaan. Lihat spesifikasi untuk detail lebih lanjut tentang jenis kamera yang didukung.

Apa perbedaan utama antara AM62A dan AM62P dalam pemrosesan gambar?

Variasi utama meliputi jenis kamera yang didukung, data keluaran kamera, keberadaan HWA ISP, HWA Pembelajaran Mendalam, dan HWA Grafis 3D. Lihat bagian spesifikasi untuk perbandingan detail.

 

Dokumen / Sumber Daya

Texas Instruments AM6x Mengembangkan Kamera Ganda [Bahasa Indonesia:] Panduan Pengguna
AM62A, AM62P, AM6x Mengembangkan Kamera Ganda, AM6x, Mengembangkan Kamera Ganda, Kamera Ganda, Kamera

Referensi

Tinggalkan komentar

Alamat email Anda tidak akan dipublikasikan. Bidang yang wajib diisi ditandai *