Qualcomm TensorFlow Lite SDK програм хангамжийн хэрэглэгчийн гарын авлага
Хяналтын түүх
| Хяналт | Огноо | Тодорхойлолт |
| AA | 2023 оны есдүгээр сар | Анхны хувилбар |
| AB | 2023 оны аравдугаар сар |
|
Qualcomm TFLite SDK хэрэгслүүдийн танилцуулга
Qualcomm TensorFlow Lite програм хангамж хөгжүүлэх иж бүрдэл (Qualcomm TFLite SDK) хэрэгслүүд нь төхөөрөмж дээрх хиймэл оюун ухаан (AI) дүгнэлт гаргахад зориулагдсан TensorFlow Lite хүрээг бүрдүүлдэг бөгөөд энэ нь програм хөгжүүлэгчдэд тохирох AI програмуудыг хөгжүүлэх эсвэл ажиллуулахад тусалдаг.
Энэхүү баримт бичиг нь бие даасан Qualcomm TFLite SDK-г эмхэтгэх, хөгжүүлэх орчныг тохируулах алхам алхмаар зааварчилгааг өгдөг. Энэ нь хөгжүүлэгчийн ажлын урсгалыг идэвхжүүлдэг бөгөөд үүнд:
- хөгжүүлэгч Qualcomm TFLite SDK-г эмхэтгэх боломжтой бүтээх орчныг тохируулах
- бие даасан Qualcomm TFLite SDK програмуудыг хөгжүүлэх
Дэмжлэг авахыг хүсвэл https://-г үзнэ үү.www.qualcomm.com/дэмждэг. Дараах зурагт Qualcomm TFLite SDK ажлын урсгалын хураангуйг харуулав: ”
Зураг 1-1 Qualcomm TFLite SDK ажлын урсгал
Энэхүү хэрэгсэл нь платформ SDK болон тохиргоог шаарддаг file (JSON формат) Qualcomm TFLite SDK олдворуудыг үүсгэх.
Мультимедиа, хиймэл оюун ухаан, компьютерийн харааны (CV) дэд системүүдийг ашиглан төгсгөл хоорондын програм бүтээхийн тулд Qualcomm Intelligent Multimedia SDK (QIM SDK) хурдан эхлүүлэх гарын авлагыг (80-50450-51) үзнэ үү.
Хүснэгтэнд CodeLinaro хувилбар бүхий Qualcomm TFLite SDK хувилбарын зураглалыг харуулав tag:
Хүснэгт 1-1 Хувилбарын мэдээлэл
| Qualcomm TFLite SDK хувилбар | CodeLinaro хувилбар tag |
| V1.0 | Qualcomm TFLITE.SDK.1.0.r1-00200-TFLITE.0 |
Хүснэгт 1-2 Дэмжигдсэн Qualcomm TFLite SDK хувилбарууд
| Qualcomm TFLite SDK хувилбар | Дэмжигдсэн програм хангамжийн бүтээгдэхүүн | TFLite хувилбарыг дэмждэг |
| V1.0 | QCS8550.LE.1.0 |
|
|
||
|
||
|
||
|
||
|
Лавлагаа
Хүснэгт 1-3 Холбогдох баримт бичиг
| Гарчиг | Тоо |
| Qualcomm | |
| 00067.1 QCS8550.LE.1.0 хувилбарын тэмдэглэл | RNO-230830225415 |
| Qualcomm ухаалаг мультимедиа SDK (QIM SDK) хурдан эхлүүлэх гарын авлага | 80-50450-51 |
| Qualcomm Intelligent Multimedia SDK (QIM SDK) лавлагаа | 80-50450-50 |
| Нөөц | |
| https://source.android.com/docs/setup/start/initializing | – |
Хүснэгт 1-4 Товчлол ба тодорхойлолт
| Товчлол эсвэл нэр томъёо | Тодорхойлолт |
| AI | Хиймэл оюун ухаан |
| BIOS | Үндсэн оролт/гаралтын систем |
| CV | Компьютерийн хараа |
| IPK | Түүний багц file |
| QIM SDK | Qualcomm Intelligent мультимедиа програм хангамж хөгжүүлэх хэрэгсэл |
| SDK | Програм хангамж хөгжүүлэх багц |
| TFLite | TensorFlow Lite |
| XNN | Xth хамгийн ойрын хөрш |
Qualcomm TFLite SDK хэрэгслүүдийг бүтээх орчинг тохируулна уу
Qualcomm TFLite SDK хэрэгслүүдийг эх хэлбэрээр гаргасан; Тиймээс үүнийг эмхэтгэхийн тулд бүтээх орчныг бий болгох нь заавал хийх ёстой боловч нэг удаагийн тохиргоо юм.
Урьдчилсан нөхцөл
- Линукс хост машинд sudoaccess байгаа эсэхийг шалгаарай.
- Линуксийн хост хувилбар нь Ubuntu 18.04 эсвэл Ubuntu 20.04 байгаа эсэхийг шалгаарай.
- Хост систем дээрх хамгийн их хэрэглэгчийн цаг болон хамгийн их хэрэглэгчийн тохиолдлыг нэмэгдүүлэх.
- Дараах тушаалын мөрүүдийг/etc/sysctl.confand-д нэмж хостыг дахин ачаална уу: fs.inotify.max_user_instances=8192 fs.inotify.max_user_watches=542288
Шаардлагатай хост багцуудыг суулгана уу
Хост багцуудыг Linux хост машин дээр суулгасан.
Хост багцуудыг суулгах командуудыг ажиллуулна уу: $ sudo apt install -y jq $ sudo apt install -y texinfo chrpath libxml-simple-perl openjdk-8-jdkheadless
Ubuntu 18.04 ба түүнээс дээш хувилбаруудын хувьд:
$ sudo apt-get суулгах git-core gnupg flex bison build-essential zip curl zlib1g-dev gcc-multilib g++-multilib libc6-dev-i386 libncurses5 lib32ncurses5- dev x11proto-core-dev libx11-dev lib32z1-dev libgl1-mesa-dev libxml2-utilclt fontsp
Дэлгэрэнгүй мэдээллийг https://s-г үзнэ үүource.android.com/docs/setup/start/эхлүүлэх.
Докер орчныг тохируулна уу
Докер нь програм хангамжийг бүтээх, хөгжүүлэх, турших, хүргэхэд ашигладаг платформ юм. SDK-г хөрвүүлэхийн тулд докерыг Линукс хост машин дээр тохируулсан байх ёстой.
Linux хост машин дээр CPU-ийн виртуалчлал идэвхжсэн эсэхийг шалгаарай. Хэрэв идэвхжээгүй бол үндсэн оролт/гаралтын системийн (BIOS) тохиргооны тохиргооноос идэвхжүүлэхийн тулд дараах зүйлийг хийнэ үү.
- BIOS-аас виртуалчлалыг идэвхжүүлэх:
a. Системийг ачаалж байх үед F1 эсвэл F2 товчийг дарж BIOS руу орно. BIOS цонх гарч ирнэ.
b. Нарийвчилсан таб руу шилжинэ.
c. CPU-ийн тохиргоо хэсэгт Виртуалчлалын технологийг идэвхжүүлсэн болгож тохируулна уу.
a. Хадгалах, гарахын тулд F12 товчийг дараад системийг дахин эхлүүлнэ үү.
Хэрэв эдгээр алхмууд ажиллахгүй бол виртуалчлалыг идэвхжүүлэхийн тулд системийн үйлчилгээ үзүүлэгчийн тусгай зааврыг дагана уу - Докерын хуучин тохиолдлуудыг устгана уу:
$ sudo apt устгах docker-desktop
$ rm -r $HOME/.docker/desktop
$ sudo rm /usr/local/bin/com.docker.cli
$ sudo apt purge docker-desktop - Докерын алсын нөөцийг тохируулах:
$ sudo apt-get update $ sudo apt-get суулгах ca-сертификат curl gnupg lsb-release $ sudo mkdir -p /etc/apt/keyrings $ curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg — dearmor -o /etc/apt/keyrings/docker.gpg $ echo “deb [arch=$(dpkg –print-architecture) signed-by=/etc/apt/ keyrings/ docker.gpg] https:// download.docker.com/linux/ubuntu $ (lsb_release -cs) тогтвортой” | sudo tee /etc/apt/sources.list.d/ docker.list > /dev/null - Докерын хөдөлгүүрийг суулгах:
$ sudo apt-get update $ sudo apt-get суулгах docker-ce docker-ce-cli - Докер бүлэгт хэрэглэгч нэмэх:
$ sudo groupadd docker $ sudo usermod -aG docker $USER - Системийг дахин ачаална уу.
Платформ SDK үүсгэх
Платформ SDK нь Qualcomm TFLite SDK хэрэгслийг эмхэтгэх зайлшгүй шаардлага юм. Энэ нь Qualcomm TFLite SDK-д шаардагдах бүх платформын хамаарлыг хангадаг.
Платформ SDK үүсгэхийн тулд дараахь зүйлийг хий.
- Сонгодог програм хангамжийн бүтээгдэхүүнд зориулж бүтээц үүсгэнэ үү.
QCS8550.LE.1.0 хувилбарыг бүтээх зааврыг хувилбарын тэмдэглэлд өгсөн болно. Хувилбарын тэмдэглэлд хандахын тулд лавлагааг үзнэ үү.
Хэрэв зургууд өмнө нь баригдсан бол 2-р алхамыг гүйцэтгээд дараа нь цэвэр бүтэц үүсгэнэ үү. - Хэрэглэгчийн орон зайн дүрс болон платформ SDK үүсгэхийн тулд дараах тушаалыг ажиллуулна уу:
QCS8550.LE.1.0-ийн хувьд kalama.conf доторх MACHINE_FEATURES дотор qti-tflite-delegate машины онцлогийг нэмнэ үү. file мөн хувилбарын тэмдэглэлийн зааврын дагуу бүтээх орчныг эх сурвалж.
Хэрэглэгчийн орон зайн зургийг бүтээхээс үүсгэсний дараа SDK платформыг үүсгэхийн тулд дараах тушаалыг ажиллуулна уу.
$ bitbake -fc populate_sdk qti-robotics-image
Qualcomm TFLite SDK хэрэгслийг бүтээх – хөгжүүлэгчийн ажлын урсгал
Qualcomm TFLite SDK хэрэгслийн ажлын урсгал нь хөгжүүлэгчээс тохиргоог өгөхийг шаарддаг file хүчинтэй оролттой. tflite-tools төслийн туслах бүрхүүлийн скриптүүд (Qualcomm TFLite SDK эхийн модонд байдаг) нь Qualcomm TFLite SDK ажлын урсгалд ашиглаж болох бүрхүүлийн орчныг тохируулах туслах хэрэгслийн функцээр хангадаг.
Хөгжүүлэгч нь чингэлэг дотор Qualcomm TFLite SDK төслүүдийг бүтээж, tflite-tools-ийн өгсөн хэрэгслүүдийг ашиглан олдворуудыг үүсгэдэг.
Qualcomm TFLite SDK савыг бүтээсний дараа хөгжүүлэгч нь саванд хавсаргаж, тасралтгүй хөгжүүлэхийн тулд савны бүрхүүлийн орчинд туслах хэрэгслүүдийг ашиглах боломжтой.
- Qualcomm TFLite SDK олдворуудыг USB/adb-ээр Linux хосттой холбогдсон Qualcomm төхөөрөмжид суулгах заалт бий.
- Мөн Qualcomm TFLite SDK олдворуудыг савнаас Qualcomm төхөөрөмж холбогдсон өөр хост машин руу хуулах заалт бий.
Дараах зурагт Qualcomm TFLite SDK-г бүтээхэд туслах скриптүүдийг ашиглан контейнер бүтээх орчныг тохируулсны дараа ашиглах боломжтой хэрэгслүүдийн жагсаалтыг харуулав.
Зураг дээр хэрэгслүүдийн гүйцэтгэлийн дарааллыг харуулав.
Зураг 4-3 Хост дээрх хэрэгслүүдийн дараалал
Qualcomm TFLite SDK-г синхрончилж, бүтээх
Docker дүрсийг үүсгэх үед Qualcomm TFLite SDK-г эмхэтгэдэг. Qualcomm TFLite SDK-г синхрончилж, бүтээхийн тулд дараах зүйлийг хийнэ үү.
- Хост дээр лавлах үүсгэнэ үү file Qualcomm TFLite SDK ажлын талбарыг синк хийх систем. Учир нь
exampле: $mkdir $cd - CodeLinaro-аас Qualcomm TFLite SDK эх кодыг татаж авна уу:
$ repo init -u https://git.codelinaro.org/clo/le/sdktflite/tflite/ manifest.git –repo-branch=qc/stable –repo-url=git://git.quicinc.com/ tools/repo.git -m TFLITE.SDK.1.0.r1-00200-TFLITE.0.xml -b хувилбар && репо синк -qc –no-tags -j - Хост дээр лавлах үүсгэнэ үү file докерт суулгаж болох систем. Жишээ ньample: mkdir-p / Энэ санг Linux хост машин дээр хаана ч үүсгэх боломжтой бөгөөд энэ нь Qualcomm TFLite SDK төсөл хаана синк хийгдсэнээс хамаарахгүй. Контейнер доторх ажлын урсгал дууссаны дараа Qualcomm TFLite SDK олдворуудыг энэ алхамд үүсгэсэн лавлахаас олж болно.
- JSON тохиргоог засах file /tflite-tools/ targets/le-tflite-tools-builder.json-д дараах оруулгуудыг оруулаарай:
“Зураг”: “tflite-tools-builder”, “Device_OS”: “le”, “Нэмэлт_tag”: “”, “TFLite_Version”: “2.11.1”, “Төлөөлөгчид”: { “Зургаан өнцөгт_төлөөлөгч”: “OFF”, “Gpu_delegate”: “ON”, “Xnnpack_delegate”: “ON” }, “TFLite_rsync_destination”: “ /”, “SDK_path”: “/build-qti-distro-fullstack-perf/tmpglibc/deploy/sdk>”, “SDK_shell_file”: “”, “Base_Dir_Location”: “” }
json тохиргоонд дурдсан оруулгуудын талаар нэмэлт мэдээлэл авахыг хүсвэл file, Docker.md Readme-г үзнэ үү file /tflite-tools/ дээр.
ЖИЧ QCS8550-д Qualcomm® Hexagon™ DSP төлөөлөгчийг дэмждэггүй. - Орчноо тохируулах скриптийг эх сурвалж:
$ CD /tflite-tools $ эх сурвалж ./scripts/host/docker_env_setup.sh - Qualcomm TFLite SDK докерын дүрсийг бүтээх: $ tflite-tools-host-build-image ./targets/le-tflite-tools-builder.json Хэрэв бүтээх тохиргоо амжилтгүй болбол докерын тохиргооны алдааг олж засварлах хэсгийг үзнэ үү. Амжилттай дууссаны дараа дараах мессеж гарч ирнэ: "Статус: Зургийг амжилттай бүтээж дууслаа!!" Энэ алхмыг ажиллуулснаар Qualcomm TFLite SDK-г бас бүтээдэг.
- Qualcomm TFLite SDK докер контейнерийг ажиллуул. Энэ нь савыг эхэлдэг tags JSON тохиргоонд өгөгдсөн file. $tflite-tools-host-run-container ./targets/le-tflite-tools-builder.json
- Өмнөх алхамаас эхэлсэн саванд хавсаргана.
$ докер хавсаргана
Qualcomm TFLite SDK-г эмхэтгэсэн бөгөөд олдворуудыг байрлуулахад бэлэн эсвэл цаашид ашиглах боломжтой.
QIM SDK TFLite залгаасыг үүсгэхэд ашигладаг.
Хост болон олдворуудыг байрлуулахад төхөөрөмжийг холбох]
Эмхэтгэл хийсний дараа төхөөрөмжийг хосттой холбож, байрлуулах хоёр механизм бий
Qualcomm TFLite SDK олдворууд.
- Дотоод Linux хосттой холбогдсон төхөөрөмж:
Хөгжүүлэгч нь төхөөрөмжийг ажлын станцтай холбож, Qualcomm TFLite SDK олдворуудыг савнаас шууд төхөөрөмж дээр суулгадаг (QCS8550). - Алсын хосттой холбогдсон төхөөрөмж:
Хөгжүүлэгч нь төхөөрөмжийг алсын ажлын станцтай холбодог бөгөөд тэд Windows болон Linux платформ дээрх багц менежер суулгагч командуудыг ашиглан төхөөрөмжид Qualcomm TFLite SDK олдворуудыг суулгах боломжтой (QCS8550)
Зураг 4-4 Төхөөрөмжийн самбарыг хөгжүүлэгч болон алсын ажлын станцтай холбох
Төхөөрөмжийг ажлын станцад холбоно уу
Төхөөрөмж нь ажлын станцтай холбогдсон бөгөөд хөгжүүлэлтийн сав нь USB/adb-ээр төхөөрөмжид хандах боломжтой.
Зураг нь s-г харуулж байнаtagQualcomm TFLite SDK ажлын урсгалын дарааллаар:
- Олдворуудыг төхөөрөмжид суулгахын тулд дараах тушаалуудыг ажиллуулна уу:
$ tflite-tools-device-prepare
$ tflite-tools-device-deploy - Олдворуудыг устгахын тулд дараах тушаалыг ажиллуулна уу:
$ tflite-tools-device-packages-remove
Төхөөрөмжийг алсын машинд холбоно уу
Төхөөрөмж нь алсын машинд холбогдсон бөгөөд Qualcomm TFLite SDK контейнер нь USB/зараар төхөөрөмжид хандах боломжгүй b.
Зураг нь s-г харуулж байнаtagQualcomm TFLite SDK ажлын урсгалын дарааллаар:
Олдворуудыг алсын машин руу хуулахын тулд tflite-tools саванд дараах тушаалуудыг ажиллуулна уу.
төхөөрөмж дээрх багц менежерээс хамаарч:
$ tflite-tools-remote-синк-ipk-rel-pkg
ЖИЧ Алсын машины мэдээллийг JSON тохиргоонд оруулсан болно file.
Windows платформд зориулсан олдворуудыг суулгана уу
Qualcomm TFLite SDK олдворуудыг алсын машины үйлдлийн систем дээр үндэслэн төхөөрөмж дээр суулгаж болно.
Windows платформын хувьд дараах зүйлийг хийнэ үү.
PowerShell дээр дараах скриптийг ашиглана уу: PS C:
> adb root PS C:> adb disable-verity PS C:> adb reboot PS C:> adb wait-for-device PS C:> adb root PS C:> adb remount PS C:> adb shell mount -o remount, rw / PS C:> adb shell “mkdir -p /tmp” PS C:> adb push /tmp Хэрэв багц нь ipk бол (QCS8550.LE.1.0-д) дараах тушаалуудыг ашиглана уу: PS C:> adb shell “ opkg –force-depends –force-reinstall –force-overwrite install /tmp/”
Линукс платформд зориулсан олдворуудыг суулгана уу
Дараах тушаалуудыг ашиглана уу.
$ adb root $ adb disable-verity $ adb reboot $ adb wait-for-device $ adb root $ adb remount $ adb shell mount -o remount,rw / $ adb shell “mkdir -p /tmp” $ adb push /tmp Хэрэв багц нь ipk (QCS8550.LE.1.0-д зориулагдсан): $ adb shell “opkg –force-depends –force-reinstall –force-overwrite install /tmp/”
Докерын дүрсийг цэвэрлэ
Хөгжүүлэгчийн ажлын урсгалыг дуусгасны дараа диск дээрх хадгалах санг чөлөөлөхийн тулд докерын орчныг цэвэрлэх хэрэгтэй. Докерыг цэвэрлэх нь ашиглагдаагүй контейнер, дүрсийг устгаж, дискний зайг чөлөөлнө.
Докерын дүрсийг цэвэрлэхийн тулд дараах тушаалуудыг ашиглана уу.
- Linux ажлын станц дээр дараах тушаалыг ажиллуулна уу:
$ CD /tflite-хэрэгслүүд - Савыг зогсоо:
$ tflite-tools-host-stop-container ./targets/ le-tflite-tools-builder.json - Савыг зайлуул:
$ tflite-tools-host-rm-container ./targets/ le-tflite-tools-builder.json - Докерын хуучин зургуудыг устгана уу:
$ tflite-tools-host-images-cleanup
Докерын тохиргооны алдааг олж засварлах
Хэрэв tflite-tools-host-build-image команд нь төхөөрөмж дээр үлдсэн Nospace мессежийг буцаавал docker лавлахыг/local/mnt руу шилжүүлнэ үү. Тохиргооны алдааг олж засварлахын тулд дараах зүйлийг хийнэ үү.
- Одоо байгаа докерыг нөөцлөөрэй files:
$ tar -zcC /var/lib docker > /mnt/pd0/var_lib_docker-backup-$(огноо + %s).tar.gz - Докерийг зогсоох:
$ service docker stop - Докерийн процесс ажиллахгүй байгаа эсэхийг шалгана уу:
$ ps хуурамч | grep docker - Докерийн лавлах бүтцийг шалгана уу:
$ sudo ls /var/lib/docker/ - Докерийн лавлахыг шинэ хуваалт руу зөөнө үү:
$ mv /var/lib/docker /local/mnt/docker - Шинэ хуваалт дахь docker лавлах руу тэмдэгт холбоос үүсгэнэ үү:
$ ln -s /local/mnt/docker /var/lib/docker - Докерийн лавлах бүтэц өөрчлөгдөхгүй байгаа эсэхийг шалгаарай:
$ sudo ls /var/lib/docker/ - Докерийг эхлүүлэх:
$ service docker start - Докерийн лавлахыг шилжүүлсний дараа бүх контейнерийг дахин эхлүүлнэ үү.
Linux ажлын станцтай TFLite SDK үүсгэнэ үү
TFLite SDK ажлын урсгалыг Линукс ажлын станц ашиглан контейнергүйгээр идэвхжүүлж болно. Энэ процедур нь савыг ашиглах өөр хувилбар юм.
Qualcomm TFLite SDK-г синхрончилж, бүтээхийн тулд дараах зүйлийг хийнэ үү.
- Хост дээр лавлах үүсгэнэ үү file Qualcomm TFLite SDK ажлын талбарыг синк хийх систем. Жишээ ньampле:
$mkdir
$cd - CodeLinaro-аас Qualcomm TFLite SDK эх кодыг татаж авна уу:
$ repo init -u https://git.codelinaro.org/clo/le/sdktflite/tflite/ manifest.git –repo-branch=qc/stable –repo-url=git://git.quicinc.com/ tools/repo.git -m TFLITE.SDK.1.0.r1-00200-TFLITE.0.xml -b хувилбар && репо синк -qc –no-tags -j8 && репо синк -qc –үгүй-tags -j8 - 3. JSON тохиргоог засах file -д үзүүлэв /tflite-tools/ targets/le-tflite-tools-builder.json дараах оруулгатай
“Зураг”: “tflite-tools-builder”, “Device_OS”: “le”, “Нэмэлт_tag”: “”, “TFLite_Version”: “2.11.1”, “Төлөөлөгчид”: { “Зургаан өнцөгт_төлөөлөгч”: “OFF”, “Gpu_delegate”: “ON”, “Xnnpack_delegate”: “ON” }, “TFLite_rsync_destination”: “ ”, “SDK_path”: “/build-qti-distro-fullstack-perf/tmpglibc/deploy/sdk>”, “SDK_shell_file”: “”, “Үндсэн_чиглүүлгийн_байршил”: “”
json тохиргоонд дурдсан оруулгуудын талаар нэмэлт мэдээлэл авахыг хүсвэл file, Docker.md Readme-г үзнэ үү file цагт /tflite-tools/.
ЖИЧ QCS8550-ийн хувьд Hexagon DSP төлөөлөгчийг дэмждэггүй - Орчноо тохируулах скриптийг эх сурвалж:
$ CD /tflite-хэрэгслүүд
$ эх сурвалж ./scripts/host/host_env_setup.sh - Qualcomm TFLite SDK-г бүтээх.
$ tflite-tools-setup targets/le-tflite-tools-builder.json - TFLite SDK олдворуудыг цуглуулахын тулд Linux-ийн ижил бүрхүүлд дараах хэрэгслийн командуудыг ажиллуулна уу.
TFLite_rsync_destination.
$ tflite-tools-host-get-rel-package targets/le-tflite-tools-builder.json
$ tflite-tools-host-get-dev-package targets/le-tflite-tools-builder.json - Үйлдлийн систем дээр суурилсан олдворуудыг суулгана уу
- Windows платформын хувьд PowerShell дээр дараах скриптийг ашиглана уу
PS C:> adb root PS C:> adb disable-verity PS C:> adb reboot PS C:> adb wait-for-device PS C:> adb root PS C:> adb remount PS C:> adb shell mount - o remount,rw / PS C:> adb shell “mkdir -p /tmp” PS C:> adb push /tmp
Хэрэв багц нь ipk бол (QCS8550.LE.1.0-д зориулагдсан) дараах тушаалуудыг ашиглана уу:
PS C:> adb shell “opkg –force-depends –force-reinstall –forceoverwrite install /tmp/
Линукс платформын хувьд дараах скриптийг ашиглана уу.
$ adb root $ adb disable-verity $ adb reboot $ adb wait-for-device $ adb root $ adb remount $ adb shell mount -o remount,rw / $ adb shell “mkdir -p /tmp” $ adb push /tmp Хэрэв багц нь ipk бол (QCS8550.LE.1.0-д):
$ adb shell “opkg –force-depends –force-reinstall –force-overwrite install /tmp/”
- Windows платформын хувьд PowerShell дээр дараах скриптийг ашиглана уу
QIM SDK бүтээхэд зориулж Qualcomm TFLite SDK олдворуудыг үүсгэнэ үү
QIM SDK-д Qualcomm TFLite SDK GStreamer залгаасыг идэвхжүүлэхийн тулд үүсгэсэн олдворуудыг ашиглахын тулд дараах зүйлийг хийнэ үү.
- Синхрончлол дахь процедурыг дуусгаж, Qualcomm TFLite SDK-г бүтээж, дараа нь дараах тушаалыг ажиллуулна уу: $ tflite-tools-host-get-dev-tar-package ./targets/le-tflite-toolsbuilder.json
Тар file үүсгэгддэг. Энэ нь заасан зам дээр Qualcomm TFLite SDK-г агуулдаг “TFLite_rsync_destination” - Qualcomm TFLite SDK GStreamer залгаасыг идэвхжүүлэхийн тулд tar ашиглана уу file JSON тохиргоонд аргумент болгон file QIM SDK бүтээхэд зориулагдсан.
QIM SDK хөрвүүлэх тухай мэдээллийг Qualcomm Intelligent Multimedia SDK (QIM SDK) хурдан эхлүүлэх гарын авлагаас (80-50450-51) үзнэ үү.
Qualcomm TFLite SDK-г үе шаттайгаар бүтээх
Хэрэв та Qualcomm TFLite SDK-г анх удаа барьж байгаа бол Qualcomm TFLite SDK хэрэгслүүдийг бүтээх – хөгжүүлэгчийн ажлын урсгалыг үзнэ үү. Барилгын ижил орчинг үе шаттайгаар хөгжүүлэхэд дахин ашиглаж болно.
Зураг дээр дурдсан туслах хэрэгслүүдийг (контейнер доторх) өөрчилсөн програмууд болон залгаасуудыг эмхэтгэхийн тулд хөгжүүлэгчид ашиглах боломжтой.
Зураг 5-1 Контейнер дэх ажлын урсгал
Кодын санд өөрчлөлт оруулсны дараа дараах зүйлийг хийнэ үү.
- Өөрчлөгдсөн кодыг эмхэтгэх:
$ tflite-tools-incremental-build-install - Багц эмхэтгэсэн код:
$ tflite-tools-ipk-rel-pkg эсвэл $ tflite-tools-deb-rel-pkg - Гаргасан багцуудыг хосттой синк хийнэ үү file систем:
$ tflite-tools-remote-синк-ipk-rel-pkg
Or
$ tflite-tools-remote-синк-deb-rel-pkg - Хөгжүүлэгчийн багц бэлтгэх:
$ tflite-tools-ipk-dev-pkg
Эмхэтгэсэн олдворуудыг JSON-д дурдсан TFLite_rsync_destination хавтаснаас олж болно. file, аль ч лавлах руу хуулж болно.
QNN гадаад TFLite төлөөлөгчтэй хамтран ажиллана
TFLite Гадаад төлөөлөгч нь Qualcomm-ын QNN гэх мэт итгэмжлэгдсэн гуравдагч талын сангуудыг ашиглан загваруудаа (хэсэг эсвэл бүхэлд нь) өөр гүйцэтгэгч дээр ажиллуулах боломжийг олгодог. Энэ механизм нь GPU эсвэл Hexagon Tensor Processor (HTP) гэх мэт төрөл бүрийн төхөөрөмж дээрх хурдасгууруудыг ашиглан дүгнэлт гаргах боломжтой. Энэ нь хөгжүүлэгчдэд өгөгдмөл TFLite-ээс уян хатан, салангид аргаар дүгнэлтийг хурдасгах боломжийг олгодог.
Урьдчилсан нөхцөл:
- QNN AI стекийг задлахын тулд Ubuntu ажлын станц ашиглаж байгаа эсэхээ шалгаарай.
- Та QNN 2.14 хувилбарыг Qualcomm TFLite SDK-тэй уялдуулан ашиглаж байгаа эсэхээ шалгаарай.
Qualcomm TFLite SDK нь QNN-д зориулсан TFLite гадаад төлөөлөгчөөр дамжуулан хэд хэдэн QNN арын хэсэгт дүгнэлт гаргах боломжтой. Нийтлэг хавтгай буфер дүрслэл бүхий TFLite загваруудыг GPU болон HTP дээр ажиллуулж болно.
Qualcomm TFLite SDK багцуудыг төхөөрөмжид суулгасны дараа QNN сангуудыг төхөөрөмж дээр суулгахын тулд дараах зүйлийг хийнэ үү.
- Ubuntu-д зориулсан Qualcomm Package Manager 3-г татаж аваарай.
a. https:// дарна ууqpm.qualcomm.com/, Tools дээр дарна уу.
b. Зүүн талын самбар дахь Search Tools талбарт QPM гэж бичнэ үү. Системийн үйлдлийн системийн жагсаалтаас Linux-г сонгоно уу.
Хайлтын үр дүнд Qualcomm багц менежерүүдийн жагсаалтыг харуулдаг.
c. Qualcomm Package Manager 3-ыг сонгоод Linux debian багцыг татаж аваарай. - Linux-д зориулсан Qualcomm Package Manager 3 суулгана уу. Дараах тушаалыг ашиглана уу.
$ dpkg -i –хүчээр дарж бичих /зам/хүргэх/
QualcommPackageManager3.3.0.83.1.Linux-x86.deb - Qualcomm® татаж авах
Ubuntu ажлын станц дээрх AI Engine Direct SDK.
a. https:// дарна ууqpm.qualcomm.com/ болон Tools дээр дарна уу.
b. Зүүн талын самбар дахь Search Tools талбарт AI стек гэж бичнэ үү. Системийн үйлдлийн системийн жагсаалтаас Linux-г сонгоно уу.
A Төрөл бүрийн AI стек хөдөлгүүрүүдийг агуулсан унадаг жагсаалт гарч ирнэ.
c. Qualcomm® AI Engine Direct SDK дээр товшоод Linux v2.14.0 багцыг татаж аваарай. - Ubuntu ажлын станц дээр Qualcomm® AI Engine Direct SDK суулгана уу.
а. Лицензийг идэвхжүүлэх:
qpm-cli – qualcomm_ai_engine_direct лиценз-идэвхжүүлэх
b AI Engine Direct SDK суулгах:
$ qpm-cli – задлах /зам/to/ qualcomm_ai_engine_direct.2.14.0.230828.Linux-AnyCPU.qik - Ubuntu ажлын станцаас adb push ашиглан номын сангуудыг төхөөрөмж рүү шилжүүлээрэй.
$ cd /opt/qcom/aistack/qnn/2.14.0.230828 $ adb түлхэх ./lib/aarch64-oe-linux-gcc11.2/ libQnnDsp.so /usr/lib/ $ adb түлхэх ./lib/aarch64-oe- linux-gcc11.2/ libQnnDspV66Stub.so /usr/lib/ $ adb push ./lib/aarch64-oe-linux-gcc11.2/ libQnnGpu.so /usr/lib/ $ adb түлхэх ./lib/aarch64-oe- linux-gcc11.2/ libQnnHtpPrepare.so /usr/lib/ $ adb түлхэх ./lib/aarch64-oe-linux-gcc11.2/ libQnnHtp.so /usr/lib/ $ adb түлхэх ./lib/aarch64-oe- linux-gcc11.2/ libQnnHtpV68Stub.so /usr/lib/ $ adb push ./lib/aarch64-oe-linux-gcc11.2/ libQnnSaver.so /usr/lib/ $ adb түлхэх ./lib/aarch64-oe- linux-gcc11.2/ libQnnSystem.so /usr/lib/ $ adb түлхэх ./lib/aarch64-oe-linux-gcc11.2/ libQnnTFLiteDelegate.so /usr/lib/ $ adb түлхэх ./lib/hexagon-v65/ unsigned/ libQnnDspV65Skel.so /usr/lib/rfsa/adsp $ adb push ./lib/hexagon-v66/unsigned/ libQnnDspV66Skel.so /usr/lib/rfsa/adsp $ adb түлхэх ./lib/hexagon-v68/unsigned libQnnHtpV68Skel.so /usr/lib/rfsa/adsp $ adb түлхэх ./lib/hexagon-v69/unsigned/ libQnnHtpV69Skel.so /usr/lib/rfsa/adsp $ adb түлхэх ./lib/hexagon-v73/unsigned-v73/unsigned/VXNUMXSlib Тиймээс /usr/lib/rfsa/adsp
Qualcomm TFLite SDK-г турших
Qualcomm TFLite SDK нь тодорхой жишээг өгдөгample программууд бөгөөд энэ нь хөгжүүлэгчийн үнэлэхийг хүсч буй загваруудыг баталгаажуулах, жишиг тогтоох, нарийвчлалыг олж авахад ашиглаж болно.
Qualcomm TFLite SDK багцуудыг төхөөрөмжид суулгасны дараа эдгээр хуучин програмуудыг ажиллуулахын тулд ажиллах хугацаа төхөөрөмж дээр боломжтой болно.ampпрограмууд.
Урьдчилсан нөхцөл
Төхөөрөмж дээр дараах сангуудыг үүсгэнэ үү.
$ adb бүрхүүл "mkdir / өгөгдөл / загварууд"
$ adb бүрхүүл "mkdir /data/Labels"
$ adb бүрхүүл "mkdir / өгөгдөл / профайл"
Шошгоны зураг
Шошгоны зураг нь Qualcomm TFLite SDK-ээс хангагдсан хэрэгсэл бөгөөд урьдчилан бэлтгэсэн, хөрвүүлсэн TensorFlow Lite загварыг хэрхэн ачаалж, зураг дээрх объектуудыг танихад ашиглах боломжтойг харуулдаг. Урьдчилсан нөхцөл:
Татаж авах sampзагвар ба зураг:
Та ямар ч тохирох загварыг ашиглаж болно, гэхдээ дараах MobileNet v1 загвар нь 1000 өөр объектыг танихаар бэлтгэгдсэн загварыг сайн харуулж байна.
- Загвар авах
$ curl https://storage.googleapis.com/download.tensorflow.org/models/ mobilenet_v1_2018_02_22/mobilenet_v1_1.0_224.tgz | tar xzv -C /data $ mv /data/mobilenet_v1_1.0_224.tflite /data/Models/ - Шошго авах
$ curl https://storage.googleapis.com/download.tensorflow.org/models/ mobilenet_v1_1.0_224_frozen.tgz | tar xzv -C /data mobilenet_v1_1.0_224/ labels.txt
$ mv /data/mobilenet_v1_1.0_224/labels.txt /data/Labels/
Qualcomm TFLite SDK docker контейнерт холбогдсоны дараа зургийг дараах хаягаас олж болно.
“/mnt/tflite/src/tensorflow/tensorflow/lite/examples/label_image/ testdata/grace_hopper.bmp”
a. Үүнийг дар file руу/өгөгдөл/шошго/
b. Командыг ажиллуулна уу:
$ adb бүрхүүл “label_image -l /data/Labels/labels.txt -i /data/Labels/ grace_hopper.bmp -m /data/Models/mobilenet_v1_1.0_224.tflite -c 10 -j 1 -p 1”
Жишиг
Qualcomm TFLite SDK нь янз бүрийн ажиллах хугацааны гүйцэтгэлийг тооцоолох жишиг багажаар хангадаг.
Эдгээр жишиг хэрэгслүүд нь одоогоор дараах чухал гүйцэтгэлийн хэмжүүрүүдийн статистикийг хэмжиж, тооцоолж байна.
- Ажил эхлэх цаг
- Халаалтын төлөвийн дүгнэлт хийх хугацаа
- Тогтвортой байдлын дүгнэлт хийх хугацаа
- Эхлэх үеийн санах ойн ашиглалт
- Санах ойн нийт хэрэглээ
Урьдчилсан нөхцөл
TFLite Model Zoo-ээс турших загваруудыг түлхэж үзээрэй (https://tfhub.dev/)/өгөгдөл/Загвар/. -г ажиллуул дараах скриптүүд:
- XNN багц
$ adb shell “benchmark_model –graph=/data/Models/ — enable_op_profiling=true –use_xnnpack=true –num_threads=4 –max_secs=300 –profiling_output_csv_file=/data/profiling/” - GPU төлөөлөгч
$ adb shell “benchmark_model –graph=/data/Models/ — enable_op_profiling=true –use_gpu=true –num_runs=100 –warmup_runs=10 — max_secs=300 –profiling_output_csv_file=/data/profiling/” - Гадаад төлөөлөгч
QNN Гадаад Төлөөлөгчийн GPU:
Хөвөгч цэгийн загвараар дүгнэлт гаргах:
$ adb shell-command “benchmark_model –graph=/data/Models/ .tflite –external_delegate_path=libQnnTFLiteDelegate.so — external_delegate_options='backend_type:gpu;library_path:/usr/lib/ libQnnGpu.so;skellib/rlibry /adsp'”
QNN Гадаад Төлөөлөгчийн HTP:
Квантын загвараар дүгнэлт гаргах:
$ adb shell-command “benchmark_model –graph=/data/Models/ .tflite –external_delegate_path=libQnnTFLiteDelegate.so — external_delegate_options='backend_type:htp;library_path:/usr/lib/ libQnnHtp.so;_dirsalibrary:skel_/rlibry: /adsp'”
Нарийвчлалын хэрэгсэл
Qualcomm TFLite SDK нь янз бүрийн ажиллах хугацаатай загваруудын нарийвчлалыг тооцоолох нарийвчлалын хэрэгслээр хангадаг.
- GPU төлөөлөгчтэй ангилал
Шаардлагатай зүйлийг татаж авах алхамууд fileТурших s-г: “/mnt/tflite/src/tensorflow/tensorflow/lite/tools/evaluation/tasks/ imagenet_image_classicatio/README.md” хаягаас олж болно.
Энэ хэрэгслийг ажиллуулах хоёртын файл нь аль хэдийн SDK-ийн нэг хэсэг болсон тул хөгжүүлэгч үүнийг дахин бүтээх шаардлагагүй.
$ adb бүрхүүл “image_classify_run_eval — загвар_file=/өгөгдөл/Загвар/ –газрын_үнэн_зургийн_зам=/өгөгдөл/ — газрын_үнэн_шошго=/өгөгдөл/ –загвар_гаралтын_шошго=/ өгөгдөл/ –төлөөлөгч=gpu” - XNN багц ашиглан объект илрүүлэх
$ adb бүрхүүл “inf_diff_run_eval –model_file=/өгөгдөл/Загвар/ –delegate=xnnpac
ЭРХ ЗҮЙН МЭДЭЭЛЭЛ
Таны энэ баримт бичигт хандах эрх, ашиглалт, тодорхойлолт, лавлах самбарын хамт files, зураг, оношлогоо болон энд агуулагдсан бусад мэдээлэл (хамтдаа энэ "Баримт бичиг"), таны (таны төлөөлж буй корпораци эсвэл бусад хуулийн этгээдийг оролцуулан хамтад нь) хамаарна "Та" эсвэл "Таны") болзлыг хүлээн зөвшөөрөх (“Ашиглах нөхцөл”) доор харуулав. Хэрэв та эдгээр ашиглалтын нөхцлийг зөвшөөрөхгүй бол та энэ баримт бичгийг ашиглах боломжгүй бөгөөд түүний хуулбарыг нэн даруй устгах ёстой.
- Хууль эрх зүйн мэдэгдэл.
Энэхүү Баримт бичгийг энэхүү Баримт бичигт тодорхойлсон Qualcomm Technologies, Inc. ("Qualcomm Technologies") болон түүний салбар компаниудын бүтээгдэхүүн, үйлчилгээний санал болгож буй дотоод хэрэгцээнд зориулан танд олгож байгаа бөгөөд бусад зорилгоор ашиглахгүй. Энэхүү баримт бичгийг Qualcomm Technologies-ээс урьдчилан бичгээр зөвшөөрөл авалгүйгээр өөрчлөх, засварлах, өөрчлөх боломжгүй. Үүнийг зөвшөөрөлгүй ашиглах эсвэл задруулах
Баримт бичиг эсвэл энд агуулагдаж буй мэдээллийг хатуу хориглодог бөгөөд та Qualcomm Technologies, түүний харьяа байгууллагууд болон лиценз эзэмшигчид үүнийг зөвшөөрөлгүй ашигласан, задруулсан тохиолдолд Qualcomm Technologies, түүний харьяа байгууллагууд болон лиценз эзэмшигчид учирсан аливаа хохирол, хохирлыг нөхөн төлөхийг зөвшөөрч байна. хэсэг. Qualcomm Technologies, түүний харьяа байгууллагууд болон лиценз эзэмшигчид энэхүү Баримт бичигт хамаарах бүх эрх, өмчлөлийг хадгална. Аливаа барааны тэмдэг, патент, зохиогчийн эрх, маскны бүтээлийг хамгаалах эрх болон бусад оюуны өмчийн эрхийг энэхүү баримт бичиг эсвэл энд задруулсан аливаа мэдээлэл, түүний дотор хийх, ашиглах, импортлох, эсвэл хийх, ашиглах, импортлох тусгай зөвшөөрөл зэрэг, гэхдээ үүгээр хязгаарлагдахгүй. Энэхүү баримт бичигт дурдсан аливаа мэдээллийг агуулсан бүтээгдэхүүн, үйлчилгээ, технологийг худалдах.
ЭНЭ БАРИМТ БАРИМТ БИЧИГИЙГ ИЛЭРХИЙЛЭГДСЭН, ШИЛДҮҮЛСЭН, ХУУЛИЙН ЭСВЭЛ БУСАД ЭСВЭЛ БАТАЛГААТГҮЙ "Байгаагаараа" ӨГЖ БАЙНА. QUALCOMM TECHNOLOGIES, ТҮҮНИЙ ХАРИН БАЙГУУЛЛАГУУД БОЛОН ЛИЦЕНЗ ЭЗГҮҮДЧИД ХУУЛИЙН ЗӨВШӨӨРӨГДСӨН ДЭЭД ХЭМЖЭЭНД ЭРХ, ХУДАЛДААНЫ БОЛОМЖ, ЗӨРЧИЛГҮЙ, ХЭРЭГЛЭГЧИЙН БАТАЛГАА, ХЭРЭГЛЭЭ ХӨДӨЛГӨӨН БУЮУ Нягт нямбай байдал, ХУДАЛДААНЫ АШИГЛАЛТЫН ЗҮЙЛСЭЭС ҮҮСЭХ БҮХ БАТАЛГАА ХЭРЭГЛЭЭГЭЭС БУЮУ ГҮЙЦЭТГЭЛЭЭС ГАРСАН. Үүгээр зогсохгүй QUALCOMM TECHNOLOGIES, ТҮҮНИЙ ХАРИН БАЙГУУЛЛАГУУД ЭСВЭЛ ЛИЦЕНЗ ЭЗҮҮЛЭГЧДҮҮД ҮҮСЭН ХЭРХЭН ЗАРДАЛ, ХОХИРОЛ, ХЭРЭГЛЭЭ, ҮЙЛ АЖИЛЛАГААНЫ ХАРИУЦЛАГА ХАРИУЦАХГҮЙ ЭНЭ БАРИМТ БИЧИГТ CE.
Энэхүү Баримт бичигт дурдсан зарим бүтээгдэхүүний иж бүрдэл, багаж хэрэгсэл, материалууд нь эдгээр зүйлд хандах эсвэл ашиглахаасаа өмнө нэмэлт нөхцөл, болзлыг зөвшөөрөхийг танаас шаардаж болно.
Энэхүү баримт бичигт заасан техникийн өгөгдөл нь АНУ-ын болон экспортын хяналтын бусад хууль тогтоомжийн дагуу байж болно. АНУ болон бусад холбогдох хууль тогтоомжийн дагуу дамжуулахыг хатуу хориглоно.
Энэ баримт бичигт дурдсан зүйл нь энд дурдсан эд анги, төхөөрөмжийг худалдах санал биш юм.
Энэхүү баримт бичгийг нэмэлт мэдэгдэлгүйгээр өөрчлөх боломжтой. Эдгээр ашиглалтын нөхцөл болон эдгээрийн хооронд зөрчил гарсан тохиолдолд Webсайтын ашиглалтын нөхцөл дээр www.qualcomm.com эсвэл Qualcomm-ын Нууцлалын бодлогыг иш татсан www.qualcomm.com, эдгээр Ашиглалтын нөхцөлийг хянах болно. Энэхүү Ашиглах Нөхцөлүүд болон Qualcomm Technologies эсвэл Qualcomm Technologies-ийн салбар компанитай хамтран байгуулсан бусад гэрээ (бичгээр эсвэл товшилтоор) хооронд зөрчилдвөл таны энэхүү баримт бичигт хандах, ашиглах эрхийг нөгөө гэрээ хянана. .
Эдгээр ашиглалтын нөхцөлийг хууль тогтоомжийн зөрчлийн зарчмыг үл харгалзан Олон улсын бараа худалдах тухай НҮБ-ын конвенцийг эс тооцвол Калифорни муж улсын хууль тогтоомжийн дагуу зохицуулж, тайлбарлаж, хэрэгжүүлнэ. Эдгээр ашиглалтын нөхцөл, эсхүл түүнийг зөрчсөн, хүчинтэй эсэхээс үүдэн гарсан аливаа маргаан, нэхэмжлэл, маргааныг зөвхөн Калифорниа мужийн Сан Диего муж дахь эрх бүхий шүүх хянан шийдвэрлэх бөгөөд та үүгээр зөвшөөрч байна. энэ зорилгоор ийм шүүхийн хувийн харьяалал. - Барааны тэмдэг болон бүтээгдэхүүний нэршил.
Qualcomm бол Qualcomm Incorporated компанийн худалдааны тэмдэг эсвэл бүртгэгдсэн худалдааны тэмдэг юм. Arm нь Arm Limited (эсвэл түүний охин компаниудын) АНУ болон/эсвэл өөр газар бүртгэгдсэн худалдааны тэмдэг юм. Bluetooth® үгийн тэмдэг нь Bluetooth SIG, Inc-ийн эзэмшдэг бүртгэгдсэн худалдааны тэмдэг юм. Энэхүү баримт бичигт дурдсан бусад бүтээгдэхүүн, брэндийн нэр нь тухайн эзэмшигчийн худалдааны тэмдэг эсвэл бүртгэгдсэн худалдааны тэмдэг байж болно.
Энэхүү баримт бичигт дурдсан Snapdragon болон Qualcomm брэндийн бүтээгдэхүүнүүд нь Qualcomm Technologies, Inc. ба/эсвэл түүний охин компаниудын бүтээгдэхүүн юм. Qualcomm патентлагдсан технологиудыг Qualcomm Incorporated лицензтэй.
Баримт бичиг / нөөц
 |
Qualcomm TensorFlow Lite SDK програм хангамж [pdf] Хэрэглэгчийн гарын авлага TensorFlow Lite SDK Програм хангамж, Lite SDK Програм хангамж, SDK Програм хангамж, Програм хангамж |
