Leabhar-iùil cleachdaiche bathar-bog Qualcomm TensorFlow SDK
Eachdraidh ath-sgrùdaidhean
| Ath-sgrùdadh | Ceann-latha | Tuairisgeul |
| AA | Sultain 2023 | Sgaoileadh tùsail |
| AB | Dàmhair 2023 |
|
Ro-ràdh gu innealan Qualcomm TFLite SDK
Tha na h-innealan uidheamachd leasachaidh bathar-bog Qualcomm TensorFlow Lite (Qualcomm TFLite SDK) a’ toirt seachad frèam TensorFlow Lite airson co-dhùnaidhean inntleachd fuadain (AI) air inneal, a leigeas le luchd-leasachaidh thagraidhean tagraidhean AI iomchaidh a leasachadh no a ruith.
Tha an sgrìobhainn seo a’ toirt seachad stiùireadh ceum air cheum gus Qualcomm TFLite SDK leis fhèin a chur ri chèile agus an àrainneachd leasachaidh a stèidheachadh. Leigidh seo le sruth-obrach an leasaiche, a tha a’ toirt a-steach:
- a’ stèidheachadh na h-àrainneachd togail far an urrainn don leasaiche an Qualcomm TFLite SDK a chuir ri chèile
- a’ leasachadh thagraidhean neo-eisimeileach Qualcomm TFLite SDK
Airson taic, faic https://www.qualcomm.com/ taic. Tha am figear a leanas a’ toirt geàrr-chunntas air sruth-obrach Qualcomm TFLite SDK: ”
Figear 1-1 Sruth-obrach Qualcomm TFLite SDK
Feumaidh an inneal àrd-ùrlar SDK agus rèiteachadh file (cruth JSON) gus na stuthan Qualcomm TFLite SDK a ghineadh.
Gus tagradh deireadh-gu-deireadh a thogail a’ cleachdadh fo-shiostaman ioma-mheadhain, AI, agus lèirsinn coimpiutair (CV), faic Stiùireadh Tòiseachaidh Luath Qualcomm Intelligent Multimedia SDK (QIM SDK) (80-50450-51).
Tha an clàr a’ sealltainn mapadh dreach Qualcomm TFLite SDK le sgaoileadh CodeLinaro tag:
Clàr 1-1 Fiosrachadh foillseachaidh
| Tionndadh SDK Qualcomm TFLite | CodeLinaro saor an asgaidh tag |
| v1.0 | Qualcomm TFLITE.SDK.1.0.r1-00200-TFLITE.0 |
Clàr 1-2 tionndaidhean Qualcomm TFLite SDK le taic
| Qualcomm Tionndadh TFlite SDK | Bathar-bog le taic | Tionndadh TFLite le taic |
| v1.0 | QCS8550.LE.1.0 |
|
|
||
|
||
|
||
|
||
|
Iomraidhean
Clàr 1-3 Sgrìobhainnean co-cheangailte
| Tiotal | Aireamh |
| Qualcomm | |
| 00067.1 Nota fuasglaidh airson QCS8550.LE.1.0 | RNO-230830225415 |
| Leabhar-iùil tòiseachaidh luath Qualcomm Intelligent Multimedia SDK (QIM SDK). | 80-50450-51 |
| Iomradh Qualcomm Intelligent Multimedia SDK (QIM SDK). | 80-50450-50 |
| Goireasan | |
| https://source.android.com/docs/setup/start/initializing | – |
Clàr 1-4 Acronyms agus mìneachaidhean
| Acronym no teirm | Mìneachadh |
| AI | Inntinn fuadain |
| BIOS | Siostam cuir a-steach / toraidh bunaiteach |
| CV | Sealladh coimpiutair |
| IPK | A phacaid file |
| QIM SDK | Uidheam leasachaidh bathar-bog ioma-mheadhain Qualcomm Intelligent |
| SDK | Kit leasachadh bathar-bog |
| TFLite | Geama TensorFlow Lite |
| XNN | Xth nàbaidh as fhaisge |
Stèidhich àrainneachd togail airson innealan Qualcomm TFLite SDK
Tha na h-innealan Qualcomm TFLite SDK air an leigeil ma sgaoil ann an cruth stòr; mar sin, tha stèidheachadh na h-àrainneachd togail airson a chuir ri chèile na shuidheachadh èigneachail ach aon-ùine.
Ro-ghoireasan
- Dèan cinnteach gu bheil sudoaccess agad don inneal aoigheachd Linux.
- Dèan cinnteach gur e Ubuntu 18.04 no Ubuntu 20.04 an tionndadh aoigheachd Linux.
- Meudaich na h-uaireadairean cleachdaiche as àirde agus na h-àireamhan cleachdaiche as àirde air an t-siostam aoigheachd.
- Cuir na loidhnichean-àithne a leanas ri/etc/sysctl.confand ath-thòisich an òstair: fs.inotify.max_user_instances=8192 fs.inotify.max_user_watches=542288
Stàlaich na pasganan aoigheachd riatanach
Tha na pacaidean aoigheachd air an stàladh air inneal aoigheachd Linux.
Ruith na h-òrdughan gus na pacaidean aoigheachd a stàladh: $ sudo apt install -y jq $ sudo apt install -y texinfo chrpath libxml-simple-perl openjdk-8-jdkheadless
Airson Ubuntu 18.04 agus nas àirde:
$ sudo apt-faigh stàladh git-core gnupg flex bison togail-riatanach zip curl zlib1g-dev gcc-multilib g ++ -multilib libc6-dev-i386 libncurses5 lib32ncurses5- dev x11proto-core-dev libx11-dev lib32z1-dev libgl1-mesa-dev libxml2-utils unzip
Airson tuilleadh fiosrachaidh, faic https://source.android.com/docs/setup/tòiseachadh/tòiseachadh.
Stèidhich àrainneachd docker
Is e àrd-ùrlar a th’ ann an docker a thathas a’ cleachdadh gus bathar-bog a thogail, a leasachadh, a dhearbhadh agus a lìbhrigeadh. Gus an SDK a chuir ri chèile, feumaidh an docker a bhith air a rèiteachadh air inneal aoigheachd Linux.
Dèan cinnteach gu bheil virtualization CPU air a chomasachadh air inneal aoigheachd Linux. Mura h-eil e air a chomasachadh, dèan na leanas gus a chomasachadh bho na roghainnean rèiteachaidh bunaiteach siostam cuir a-steach / toraidh (BIOS):
- Dèan comas air virtualization bho BIOS:
a. Brùth F1 no F2 nuair a tha an siostam a’ dol suas gu ceum a-steach don BIOS. Tha uinneag BIOS air a thaisbeanadh.
b. Gluais chun tab adhartach.
c. Anns an roinn Configuration CPU, suidhich Teicneòlas Mas-fhìor ri Comasachadh.
a. Brùth F12 gus sàbhaladh agus fàgail, agus an uairsin ath-thòisich an siostam.
Mura obraich na ceumannan seo, lean an stiùireadh sònraichte bho sholaraiche an t-siostaim gus an virtualization a chomasachadh - Thoir air falbh seann eisimpleirean den docker:
$ sudo apt thoir air falbh docker-desktop
$ rm -r $HOME/.docker/desktop
$ sudo rm /usr/local/bin/com.docker.cli
$ sudo apt purge docker-desktop - Stèidhich an stòr docker iomallach:
$ sudo apt-faigh ùrachadh $ sudo apt-get install ca-certificates curl gnupg lsb-release $ sudo mkdir -p /etc/apt/keyrings $ curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg - dearmor -o /etc/apt/keyrings/docker.gpg $ echo “deb [arch=$(dpkg –print-architecture) signed-by=/etc/apt/keyrings/ docker.gpg] https:// download.docker.com/linux/ubuntu $ (lsb_release -cs) seasmhach" | sudo tee /etc/apt/sources.list.d/ docker.list > /dev/null - Stàlaich einnsean docker:
$ sudo apt-faigh ùrachadh $ sudo apt-get install docker-ce docker-ce-cli - Cuir cleachdaiche ris a’ bhuidheann docker:
$ sudo groupadd docker $ sudo usermod -aG docker $USER - Ath-thòisich an siostam.
Cruthaich àrd-ùrlar SDK
Tha an àrd-ùrlar SDK na riatanas èigneachail gus innealan Qualcomm TFLite SDK a chuir ri chèile. Tha e a’ toirt seachad a h-uile eisimeileachd àrd-ùrlair a dh’ fheumas an Qualcomm TFLite SDK.
Dèan na leanas gus an àrd-ùrlar SDK a ghineadh:
- Cruthaich togalach airson an toradh bathar-bog as fheàrr leat.
Tha an stiùireadh airson an QCS8550.LE.1.0release a thogail air a thoirt seachad anns na notaichean fuasglaidh. Gus faighinn gu na notaichean fuasglaidh, faic Iomraidhean.
Ma chaidh na h-ìomhaighean a thogail roimhe seo, cuir an gnìomh ceum 2, agus an uairsin cruthaich togalach glan. - Ruith an àithne a leanas gus na h-ìomhaighean àite cleachdaiche agus àrd-ùrlar SDK a thogail:
Airson QCS8550.LE.1.0, cuir feart an inneil qti-tflite-riochdaire ann am MACHINE_FEATURES anns an kalama.conf file agus an àrainneachd togail a lorg a rèir stiùireadh bho na notaichean fuasglaidh.
Às deidh dhut ìomhaighean àite luchd-cleachdaidh a ghineadh bho thogail, ruith an àithne a leanas gus an àrd-ùrlar SDK a ghineadh.
$ bitbake -fc populate_sdk qti-robotics-image
Tog innealan Qualcomm TFLite SDK - sruth-obrach leasaiche
Tha sruth-obrach innealan Qualcomm TFLite SDK ag iarraidh air an leasaiche an rèiteachadh a thoirt seachad file le cuir a-steach dligheach. Tha na sgriobtaichean slige cuideachaidh bhon phròiseact tflite-tools (an làthair ann an craobh stòr Qualcomm TFLite SDK) a’ toirt seachad gnìomhan goireas cuideachaidh gus àrainneachd nan sligean a stèidheachadh, a ghabhas cleachdadh airson sruth-obrach Qualcomm TFLite SDK.
Bidh an leasaiche a’ togail phròiseactan Qualcomm TFLite SDK taobh a-staigh an t-soithich agus a’ gineadh na stuthan a’ cleachdadh na goireasan a bheir tflite-tools seachad.
Às deidh soitheach Qualcomm TFLite SDK a thogail, faodaidh an leasaiche ceangal a dhèanamh ris a ’ghobhar agus na goireasan cuideachaidh a chleachdadh ann an àrainneachd shligean an t-soithich airson leasachadh leantainneach.
- Tha ullachadh ann airson na stuthan Qualcomm TFLite SDK a chuir a-steach gu inneal Qualcomm ceangailte ris an aoigh Linux tro USB / adb.
- Tha ullachadh ann cuideachd airson na stuthan Qualcomm TFLite SDK a chopaigeadh bhon ghobhar gu inneal aoigheachd eile far a bheil an inneal Qualcomm ceangailte.
Tha am figear a leanas a’ liostadh an t-seata de ghoireasan a tha rim faighinn às deidh dhaibh an àrainneachd togail soithichean a stèidheachadh a ’cleachdadh na sgriobtaichean cuideachaidh airson an Qualcomm TFLite SDK a thogail.
Tha an dealbh a’ sealltainn an t-sreath de chur gu bàs nan goireasan:
Figear 4-3 Seicheamh goireasan air aoigheachd
Sioncronaich agus tog Qualcomm TFLite SDK
Tha an Qualcomm TFLite SDK air a chur ri chèile nuair a thèid an ìomhaigh docker a chruthachadh. Gus an Qualcomm TFLite SDK a shioncronachadh agus a thogail, dèan na leanas:
- Cruthaich eòlaire air an òstair file siostam gus àite-obrach Qualcomm TFLite SDK a shioncronachadh. Airson
example: $mkdir $cd - Faigh còd stòr Qualcomm TFLite SDK bho CodeLinaro:
$ repo init -u https://git.codelinaro.org/clo/le/sdktflite/tflite/ manifest.git –repo-branch=qc/stable –repo-url=git://git.quicinc.com/ tools/repo.git -m TFLITE.SDK.1.0.r1-00200-TFLITE.0.xml -b release && sioncranachadh repo -qc -no-tags -j - Cruthaich eòlaire air an òstair file siostam a ghabhas a chuir a-steach do docker. Airson example: mkdir-p / Faodar an eòlaire seo a chruthachadh an àite sam bith air inneal aoigheachd Linux, agus chan eil e an urra ri càite a bheil am pròiseact Qualcomm TFLite SDK air a shioncronachadh. Às deidh an sruth-obrach a chrìochnachadh taobh a-staigh an t-soithich, gheibhear artifacts Qualcomm TFLite SDK aig an eòlaire a chaidh a chruthachadh sa cheum seo.
- Deasaich an rèiteachadh JSON file an làthair ann an /tflite-tools/targets/le-tflite-tools-builder.json leis na h-inntrigidhean a leanas:
“Image”: “tflite-tools-builder”, “Device_OS”: “le”, “A bharrachd_tag”: “”, “TFLite_Version”: “2.11.1”, “Riochdairean”: { “Hexagon_delegate”: “OFF”, “Gpu_delegate”: “ON”, “Xnnpack_delegate”: “ON” }, “TFLite_rsync_destination”: “ /”, “SDK_path”: “/build-qti-distro-fullstack-perf/tmpglibc/deploy/sdk>”, “SDK_shell_file” : “ ””, “Base_Dir_Location”: “” }
Airson tuilleadh fiosrachaidh mu na h-inntrigidhean a tha air an ainmeachadh ann an rèiteachadh json file, faic an Docker.md readme file aig /tflite-tools/.
NOTA Airson QCS8550, chan eil taic ri riochdaire Qualcomm® Hexagon ™ DSP. - Lorg an sgriobt gus an àrainneachd a stèidheachadh:
$cd /tflite-tools $ source ./scripts/host/docker_env_setup.sh - Tog ìomhaigh docker Qualcomm TFLite SDK: $ tflite-tools-host-build-image ./targets/le-tflite-tools-builder.json Ma dh'fhàilligeas an stèidheachadh togail, faic suidheachadh docker Troubleshoot. Às deidh crìochnachadh soirbheachail, tha an teachdaireachd a leanas air a thaisbeanadh: “Inbhe: Tog ìomhaigh crìochnaichte gu soirbheachail !!” Le bhith a’ ruith na ceum seo togaidh tu an Qualcomm TFLite SDK cuideachd.
- Ruith an soitheach docker Qualcomm TFLite SDK. Bidh seo a 'tòiseachadh a' bhogsa leis an tags air a thoirt seachad ann an rèiteachadh JSON file. $tflite-tools-host-run-container ./targets/le-tflite-tools-builder.json
- Ceangail ris an t-soitheach a thòisich bhon cheum roimhe.
$ docker ceangail
Tha an Qualcomm TFLite SDK air a chur ri chèile, agus tha na stuthan deiseil airson an cleachdadh no faodar an cleachdadh nas fhaide.
air a chleachdadh gus plug-in QIM SDK TFLite a ghineadh.
Ceangail inneal gus artifacts a chumail agus a chuir an sàs]
Às deidh an cur ri chèile, tha dà dhòigh air an inneal a cheangal ri aoigh agus an inneal a chuir a-steach
Stuthan Qualcomm TFLite SDK.
- Inneal ceangailte ri aoigheachd Linux ionadail:
Bidh leasaiche a ’ceangal an inneal ri stèisean-obrach agus a’ stàladh stuthan Qualcomm TFLite SDK bhon ghobhar gu dìreach air an inneal (QCS8550). - Inneal ceangailte ri òstair iomallach:
Bidh leasaiche a’ ceangal an inneal ri ionad-obrach iomallach, agus faodaidh iad na h-òrdughan stàlaichear manaidsear pacaid a chleachdadh air àrd-ùrlaran Windows agus Linux gus artifacts Qualcomm TFLite SDK a chuir a-steach don inneal (QCS8550)
Figear 4-4 Ceangal bòrd inneal ri leasaiche agus ionad-obrach iomallach
Ceangail an inneal ris an ionad-obrach
Tha an inneal ceangailte ris an ionad-obrach agus gheibh an soitheach leasachaidh cothrom air an inneal tro USB/adb.
Tha an dealbh a’ sealltainn stags ann an sreath de shruth-obrach Qualcomm TFLite SDK:
- Ruith na h-òrdughan a leanas gus na stuthan a chuir a-steach don inneal:
$ tflite-innealan-inneal-ullachaidh
$ tflite-tools-device-deploy - Gus na stuthan a dhì-stàladh, ruith an òrdugh a leanas:
$ tflite-tools-device-packages-remove
Ceangail inneal ri inneal iomallach
Tha an inneal ceangailte ri inneal iomallach, agus chan urrainn don inneal Qualcomm TFLite SDK faighinn chun inneal thairis air USB / ad b.
Tha an dealbh a’ sealltainn stags ann an sreath de shruth-obrach Qualcomm TFLite SDK:
Ruith na h-òrdughan a leanas anns a’ bhogsa tflite-tools gus na stuthan a chopaigeadh gu inneal iomallach
a rèir manaidsear a’ phacaid air an inneal:
$ tflite-tools-iomallach-sync-ipk-rel-pkg
NOTA Tha am fiosrachadh mun inneal iomallach air a thoirt seachad ann an rèiteachadh JSON file.
Stàlaich artifacts airson àrd-ùrlar Windows
Faodar na stuthan Qualcomm TFLite SDK a chuir a-steach air an inneal stèidhichte air siostam obrachaidh an inneil iomallach.
Airson àrd-ùrlar Windows, dèan na leanas:
Air PowerShell, cleachd an sgriobt a leanas: PS C:
> adb root PS C:> adb disable-verity PS C:> adb ath-thòiseachadh PS C:> adb feitheamh-airson-inneal PS C:> adb root PS C:> adb remount PS C:> adb shell mount -o remount, rw / PS C:> adb shell “mkdir -p /tmp” PS C:> adb push / tmp Mas e ipk a th’ anns a’ phacaid (airson QCS8550.LE.1.0), cleachd na h-òrdughan a leanas: PS C:> adb shell “ opkg -force-depends -force-reinstall -force-overwrite install / tmp/”
Stàlaich artifacts airson àrd-ùrlar Linux
Cleachd na h-òrdughan a leanas:
$ adb root $ adb disable-verity $ adb ath-thòiseachadh $ adb feitheamh-airson-inneal $ adb root $ adb remount $ adb slige mount -o remount,rw / $ adb slige “mkdir -p /tmp” $ adb push /tmp If tha am pasgan na ipk (airson QCS8550.LE.1.0): slige $ adb “opkg -force-depends -force-reinstall -force-overwrite install /tmp/”
Dealbh docker a ghlanadh
Às deidh sruth-obrach an leasaiche a chrìochnachadh, bu chòir àrainneachd an docker a ghlanadh gus an stòradh air an diosc a shaoradh. Bidh glanadh an docker a’ toirt air falbh na soithichean agus na h-ìomhaighean nach deach an cleachdadh, agus mar sin a’ saoradh àite an diosc.
Cleachd na h-òrdughan a leanas gus an ìomhaigh docker a ghlanadh:
- Ruith an àithne a leanas air an ionad-obrach Linux:
$cd /tflite-innealan - Cuir stad air an t-soitheach:
$ tflite-tools-host-stop-container ./targets/ le-tflite-tools-builder.json - Thoir air falbh an soitheach:
$ tflite-tools-host-rm-container ./targets/ le-tflite-tools-builder.json - Thoir air falbh na seann dealbhan docker:
$ tflite-tools-host-images-cleanup
Fuasgladh dhuilgheadasan docker suidheachadh
Ma thilleas an àithne tflite-tools-host-build-image teachdaireachd Nospace air fhàgail air an inneal, gluais an eòlaire docker gu / local / mnt. Dèan na leanas gus fuasgladh fhaighinn air an rèiteachadh:
- Cùl suas an docker a th’ ann mar-thà files:
$ tar -zcC /var/lib docker> /mnt/pd0/var_lib_docker-backup-$ (ceann-latha + %s).tar.gz - Cuir stad air an docker:
Stad docker seirbheis $ - Dèan cinnteach nach eil pròiseas docker a’ ruith:
$ ps faux | docker grep - Thoir sùil air structar eòlaire an docker:
$ sudo ls /var/lib/docker/ - Gluais an eòlaire docker gu sgaradh ùr:
$ mv /var/lib/docker/local/mnt/docker - Dèan symlink ris an eòlaire docker anns a’ phàirt ùr:
$ln -s / ionadail/mnt/docker /var/lib/docker - Dèan cinnteach nach atharraich structar an eòlaire docker:
$ sudo ls /var/lib/docker/ - Tòisich docker:
Tòisich docker seirbheis $ - Ath-thòisich na soithichean gu lèir às deidh dhut an eòlaire docker a ghluasad.
Cruthaich TFLite SDK le stèisean-obrach Linux
Faodar sruth-obrach TFLite SDK a chomasachadh gun shoithichean a’ cleachdadh ionad-obrach Linux. Tha am modh-obrach seo mar roghainn eile seach a bhith a 'cleachdadh soithichean.
Gus an Qualcomm TFLite SDK a shioncronachadh agus a thogail, dèan na leanas:
- Cruthaich eòlaire air an òstair file siostam gus àite-obrach Qualcomm TFLite SDK a shioncronachadh. Airson example:
$mkdir
$cd - Faigh còd stòr Qualcomm TFLite SDK bho CodeLinaro:
$ repo init -u https://git.codelinaro.org/clo/le/sdktflite/tflite/ manifest.git –repo-branch=qc/stable –repo-url=git://git.quicinc.com/ tools/repo.git -m TFLITE.SDK.1.0.r1-00200-TFLITE.0.xml -b release && sioncranachadh repo -qc -no-tags -j8 && sioncranachadh repo -qc -no-tags -j8 - 3. Deasaich an rèiteachadh JSON file làthair ann /tflite-tools/targets/le-tflite-tools-builder.json leis na h-inntrigidhean a leanas
“Image”: “tflite-tools-builder”, “Device_OS”: “le”, “A bharrachd_tag”: “”, “TFLite_Version”: “2.11.1”, “Riochdairean”: { “Hexagon_delegate”: “OFF”, “Gpu_delegate”: “ON”, “Xnnpack_delegate”: “ON” }, “TFLite_rsync_destination”: “ ”, “SDK_path”: “/build-qti-distro-fullstack-perf/tmpglibc/deploy/sdk>”, “SDK_shell_file": "", "Base_Dir_Location": ""
Airson tuilleadh fiosrachaidh mu na h-inntrigidhean a tha air an ainmeachadh ann an rèiteachadh json file, faic an Docker.md readme file aig /tflite-innealan/.
NOTA Airson QCS8550, chan eil taic ri riochdaire Hexagon DSP - Lorg an sgriobt gus an àrainneachd a stèidheachadh:
$cd /tflite-innealan
$ source ./scripts/host/host_env_setup.sh - Tog an Qualcomm TFLite SDK.
$ tflite-tools-setup target/le-tflite-tools-builder.json - Ruith na h-òrdughan goireis a leanas anns an aon shlige Linux gus na stuthan TFLite SDK a chruinneachadh bho
TFLite_rsync_ceann-uidhe.
$ tflite-tools-host-get-rel-package Targets/le-tflite-tools-builder.json
$ tflite-tools-host-get-dev-package Targets/le-tflite-tools-builder.json - Stàlaich artifacts stèidhichte air an t-siostam obrachaidh
- Airson àrd-ùrlar Windows, air PowerShell, cleachd an sgriobt a leanas
PS C:> adb root PS C:> adb disable-verity PS C:> adb reboot PS C:> adb feitheamh-airson-inneal PS C:> adb root PS C:> adb remount PS C:> adb shell mount - o remount, rw / PS C:> adb slige “mkdir -p / tmp” PS C:> adb push / tmp
Mas e ipk a th’ anns a’ phacaid (airson QCS8550.LE.1.0), cleachd na h-òrdughan a leanas:
PS C:> slige adb “opkg -force-depends -force-reinstall -forceoverwrite install /tmp/
Airson an àrd-ùrlar Linux, cleachd an sgriobt a leanas:
$ adb root $ adb disable-verity $ adb ath-thòiseachadh $ adb feitheamh-airson-inneal $ adb root $ adb remount $ adb slige mount -o remount,rw / $ adb slige “mkdir -p / tmp” $ adb push /tmp Mas e ipk a th’ anns a’ phacaid (airson QCS8550.LE.1.0):
$ adb slige “opkg -force-depends -force-reinstall -force-overwrite install /tmp/”
- Airson àrd-ùrlar Windows, air PowerShell, cleachd an sgriobt a leanas
Cruthaich artifacts Qualcomm TFLite SDK airson togail QIM SDK
Gus na stuthan a chaidh a chruthachadh a chleachdadh gus plug-in Qualcomm TFLite SDK GStreamer ann an QIM SDK a chomasachadh, dèan na leanas:
- Cuir crìoch air a’ mhodh-obrach ann an Sync agus tog Qualcomm TFLite SDK, agus an uairsin ruith an àithne a leanas: $ tflite-tools-host-get-dev-tar-package ./targets/le-tflite-toolsbuilder.json
A teàrr file air a ghineadh. Tha an Qualcomm TFLite SDK ann aig an t-slighe a chaidh a thoirt seachad aig “TFLite_rsync_ceann-uidhe” - Gus am plugan Qualcomm TFLite SDK GStreamer a chomasachadh, cleachd an teàrr file mar argamaid ann an rèiteachadh JSON file airson togail QIM SDK.
Airson fiosrachadh mu bhith a’ cur ri chèile QIM SDK, faic Stiùireadh Tòiseachaidh Luath Qualcomm Intelligent Multimedia SDK (QIM SDK) (80-50450-51).
Tog Qualcomm TFLite SDK mean air mhean
Ma tha thu a’ togail an Qualcomm TFLite SDK airson a’ chiad uair, faic Innealan Tog Qualcomm TFLite SDK - sruth-obrach leasaiche. Faodar an aon àrainneachd togail ath-chleachdadh airson leasachadh mean air mhean.
Tha na goireasan cuideachaidh (taobh a-staigh an t-soithich) a tha air an ainmeachadh san fhigear rim faighinn le luchd-leasachaidh gus tagraidhean atharraichte agus plug-ins a chuir ri chèile.
Figear 5-1 Sruth-obrach ann an soitheach
Às deidh na h-atharrachaidhean còd a chrìochnachadh san eòlaire còd, dèan na leanas:
- Cuir ri chèile còd atharraichte:
$ tflite-tools-incremental-build-install - Còd air a chur ri chèile a’ phacaid:
$ tflite-tools-ipk-rel-pkg neo $ tflite-tools-deb-rel-pkg - Sioncronaich pasganan fuasglaidh leis an òstair file siostam:
$ tflite-tools-iomallach-sync-ipk-rel-pkg
Or
$ tflite-tools-iomallach-sync-deb-rel-pkg - Ullaich pasgan dev:
$ tflite-innealan-ipk-dev-pkg
Lorgar na stuthan cruinnichte anns a’ phasgan TFLite_rsync_destination air a bheil iomradh anns an JSON file, a ghabhas lethbhreac a dhèanamh gu eòlaire sam bith.
Obraich còmhla ri riochdaire TFLite taobh a-muigh QNN
Leigidh Riochdaire Taobh a-muigh TFLite leat na modailean agad a ruith (pàirt no slàn) air neach-tiomnaidh eile a’ cleachdadh leabharlannan a thug treas phàrtaidh earbsach mar QNN le Qualcomm seachad. Faodaidh an uidheamachd seo grunn luathaichean air-inneal a luathachadh leithid an GPU no Hexagon Tensor Processor (HTP) airson co-dhùnadh. Bheir seo dòigh sùbailte is dealaichte do luchd-leasachaidh bhon TFLite àbhaisteach gus co-dhùnadh a luathachadh.
Ro-ghoireasan:
- Dèan cinnteach gun cleachd thu ionad-obrach Ubuntu gus stac QNN AI a thoirt a-mach.
- Dèan cinnteach gun cleachd thu dreach QNN 2.14 gus a bhith ann an co-bhonn ri Qualcomm TFLite SDK
Tha an Qualcomm TFLite SDK comasach air co-dhùnaidhean a ruith air grunn chinn-cùil QNN tro riochdaire taobh a-muigh TFLite airson QNN. Faodar na modalan TFLite le riochdachadh cumanta flatbuffer a ruith air GPU agus HTP.
Às deidh na pacaidean Qualcomm TFLite SDK a chuir a-steach air an inneal, dèan na leanas gus na leabharlannan QNN a chuir a-steach air an inneal.
- Luchdaich sìos Manaidsear Pacaidh Qualcomm 3 airson Ubuntu.
a. Cliog https://qpm.qualcomm.com/, agus cliog Innealan.
b. Anns a’ phana chlì, anns an raon Innealan Rannsachaidh, dèan seòrsa QPM. Bho liosta System OS, tagh Linux.
Tha na toraidhean rannsachaidh a’ taisbeanadh liosta de Mhanaidsearan Pacaidh Qualcomm.
c. Tagh Qualcomm Package Manager 3 agus luchdaich sìos am pasgan debian Linux. - Stàlaich Qualcomm Pacaid Manaidsear 3 airson Linux. Cleachd an òrdugh a leanas:
$ dpkg -i - force-overwrite / slighe / gu/
QualcommPackageManager3.3.0.83.1.Linux-x86.deb - Luchdaich sìos Qualcomm®
AI Engine Direct SDK air ionad-obrach Ubuntu.
a. Cliog https://qpm.qualcomm.com/ agus cliog air Innealan.
b. Anns a’ phana chlì, anns an raon Innealan Rannsachaidh, dèan seòrsa AI stack. Bho liosta System OS, tagh Linux.
A tha liosta tuiteam-sìos anns a bheil diofar einnseanan stac AI air a thaisbeanadh.
c. Cliog air Qualcomm® AI Engine Direct SDK agus luchdaich sìos am pasgan Linux v2.14.0. - Stàlaich Qualcomm® AI Engine Direct SDK air ionad-obrach Ubuntu.
a. Cuir an cead an gnìomh:
qpm-cli -license-gnìomh qualcomm_ai_engine_direct
b Stàlaich AI Engine Direct SDK:
$ qpm-cli -extract /path/to/ qualcomm_ai_engine_direct.2.14.0.230828.Linux-AnyCPU.qik - Brùth leabharlannan chun inneal bho ionad-obrach Ubuntu le putadh adb.
$ cd /opt/qcom/aistack/qnn/2.14.0.230828 $ putadh adb ./lib/aarch64-oe-linux-gcc11.2/ libQnnDsp.so /usr/lib/ $ adb push ./lib/aarch64-oe- linux-gcc11.2/ libQnnDspV66Stub.so /usr/lib/ $ adb putadh ./lib/aarch64-oe-linux-gcc11.2/ libQnnGpu.so /usr/lib/ $ adb putadh ./lib/aarch64-oe- linux-gcc11.2/ libQnnHtpPrepare.so /usr/lib/ $ adb push ./lib/aarch64-oe-linux-gcc11.2/ libQnnHtp.so /usr/lib/ $ adb putadh ./lib/aarch64-oe- linux-gcc11.2/ libQnnHtpV68Stub.so /usr/lib/ $ adb push ./lib/aarch64-oe-linux-gcc11.2/ libQnnSaver.so /usr/lib/ $ adb putadh ./lib/aarch64-oe- linux-gcc11.2/ libQnnSystem.so /usr/lib/ $ adb push ./lib/aarch64-oe-linux-gcc11.2/ libQnnTFLiteDelegate.so /usr/lib/ $ adb push ./lib/hexagon-v65/ gun ainm/ libQnnDspV65Skel.so /usr/lib/rfsa/adsp $ putadh adb ./lib/hexagon-v66/unsigned/ libQnnDspV66Skel.so /usr/lib/rfsa/adsp $ adb push ./lib/hexagon-v68/unsigned libQnnHtpV68Skel.so /usr/lib/rfsa/adsp $ adb putadh ./lib/hexagon-v69/unsigned/ libQnnHtpV69Skel.so /usr/lib/rfsa/adsp $ adb putadh ./lib/hexagon-v73pV73Skel.so /usr/lib/rfsa/adsp mar sin /usr/lib/rfsa/adsp
Dèan deuchainn air Qualcomm TFLite SDK
Tha an Qualcomm TFLite SDK a’ toirt seachad cuid de example tagraidhean, a dh'fhaodar a chleachdadh gus dearbhadh, slat-tomhais, agus faighinn a-mach dè cho ceart 'sa tha na modailean a tha leasaiche airson a mheasadh.
Às deidh na pacaidean Qualcomm TFLite SDK a chuir a-steach air an inneal, tha an ùine ruith ri fhaighinn air an inneal gus na seann fheadhainn sin a ruith.ample tagraidhean.
Ro-riatanach
Cruthaich na clàran a leanas air an inneal:
$ adb slige “mkdir / data/Models”
$ adb slige “mkdir / data/Lables”
$ adb slige “mkdir / data/profiling”
Ìomhaigh labail
Tha ìomhaigh leubail na ghoireas air a thoirt seachad leis an Qualcomm TFLite SDK a sheallas mar as urrainn dhut modal TensorFlow Lite ro-thrèanadh agus air a thionndadh agus a chleachdadh gus nithean aithneachadh ann an ìomhaighean. Ro-ghoireasan:
Luchdaich sìos sample modail agus ìomhaigh:
Faodaidh tu modal co-fhreagarrach sam bith a chleachdadh, ach tha am modal MobileNet v1 a leanas a’ tabhann deagh thaisbeanadh de mhodail a chaidh a thrèanadh gus 1000 rud eadar-dhealaichte aithneachadh.
- Faigh modail
$curl https://stòradh.googleapis.com/download.tensorflow.org/models/ mobilenet_v1_2018_02_22/mobilenet_v1_1.0_224.tgz | tar xzv -C / dàta $ mv /data/mobilenet_v1_1.0_224.tflite /data/Models/ - Faigh suaicheantasan
$curl https://stòradh.googleapis.com/download.tensorflow.org/models/ mobilenet_v1_1.0_224_frozen.tgz | tar xzv -C /data mobilenet_v1_1.0_224/ labels.txt
$ mv /data/mobilenet_v1_1.0_224/labels.txt /data/Labels/
Às deidh dhut ceangal a dhèanamh ri inneal docker Qualcomm TFLite SDK, gheibhear an ìomhaigh aig:
“/mnt/tflite/src/tensorflow/tensorflow/lite/examples/label_image/testdata/grace_hopper.bmp”
a. Brùth seo file gu/dàta/Labels/
b. Ruith an òrdugh:
$ adb slige “label_image -l /data/Labels/labels.txt -i /data/Labels/ grace_hopper.bmp -m /data/Models/mobilenet_v1_1.0_224.tflite -c 10 -j 1 -p 1”
Slat-tomhais
Tha an Qualcomm TFLite SDK a’ toirt seachad an inneal slat-tomhais gus coileanadh diofar amannan ruith obrachadh a-mach.
Bidh na h-innealan slat-tomhais seo an-dràsta a’ tomhas agus a’ tomhas staitistig airson na meatrach coileanaidh cudromach a leanas:
- Ùine tòiseachaidh
- Ùine co-dhùnaidh de staid blàthachaidh
- Ùine co-dhùnaidh de staid sheasmhach
- Cleachdadh cuimhne aig àm tòiseachaidh
- Cleachdadh cuimhne iomlan
Ro-ghoireasan
Brùth na modailean airson deuchainn bho TFLite Model Zoo (https: //tfhub.dev/) gu/dàta/Modail/. Ruith an na sgriobtaichean a leanas:
- Pasgan XNN
$ adb slige “benchmark_model –graph=/data/Models/ — enable_op_profiling= fìor –use_xnnpack= fìor –num_threads=4 –max_secs=300 –profiling_output_csv_file=/data/profiling/” - Riochdaire GPU
$ adb slige “benchmark_model –graph=/data/Models/ — enable_op_profiling=true –use_gpu= fìor –num_runs=100 –warmup_runs=10 — max_secs=300 –profiling_output_csv_file=/data/profiling/” - Riochdaire bhon taobh a-muigh
GPU Riochdaire Taobh a-muigh QNN:
Ruith co-dhùnadh le modail puing fleòdraidh:
$ adb shell-command “benchmark_model –graph=/data/Models/ .tflite –external_delegate_path=libQnnTFLiteDelegate.so — external_delegate_options='backend_type: gpu;library_path:/usr/lib/libQnnGpu.so;skel_library/ /adsp'”
QNN Riochdaire Taobh a-muigh HTP:
Ruith co-dhùnadh le modail meud:
$ adb shell-command “benchmark_model –graph=/data/Models/ .tflite –external_delegate_path=libQnnTFLiteDelegate.so — external_delegate_options='backend_type:htp;library_path:/usr/lib/libQnnHtp.solar; /adsp'”
Inneal cruinneas
Tha an Qualcomm TFLite SDK a’ toirt seachad inneal cruinneas gus obrachadh a-mach cruinneas mhodalan le diofar amannan ruith.
- Seòrsachadh le riochdaire GPU
Ceumannan gus na tha riatanach a luchdachadh sìos files gu deuchainn a lorg aig: “/mnt/tflite/src/tensorflow/tensorflow/lite/tools/evaluation/tasks/ imagenet_image_classificatio/README.md”
Tha am binary airson an inneal seo a ruith mar phàirt den SDK mar-thà, agus mar sin chan fheum an leasaiche a thogail a-rithist.
Slige $ adb “image_classify_run_eval — model_file=/data/Models/ –ground_truth_images_path=/data/ — ground_truth_labels=/data/ –model_output_labels=/ data/ –delegate=gpu” - Lorg stuth le pasgan XNN
$ adb slige “inf_diff_run_eval –model_file=/data/Modail/ –delegate=xnnpac
FIOSRACHADH DLEACH
Do chothrom air agus cleachdadh na sgrìobhainn seo, còmhla ri mion-chomharrachadh sam bith, bòrd fiosrachaidh files, dealbhan, diagnosachd agus fiosrachadh eile a tha an seo (còmhla seo “Sgrìobhainn”), a tha fo ùmhlachd do (a’ gabhail a-steach a’ bhuidheann corporra no buidheann laghail eile a tha thu a’ riochdachadh, còmhla “Thu” neo “Do”) gabhail ri teirmichean is cumhaichean (“Cumhachan Cleachdaidh”) air a chur an cèill gu h-ìosal. Mura h-eil thu ag aontachadh ris na Cumhachan Cleachdaidh seo, chan fhaod thu an Sgrìobhainn seo a chleachdadh agus sgriosaidh tu leth-bhreac sam bith dhiubh sa bhad.
- Sanas laghail.
Bithear a’ toirt na Sgrìobhainnean seo dhutsa a-mhàin airson do chleachdadh a-staigh leis na toraidhean agus na tairgsean seirbheis sin aig Qualcomm Technologies, Inc. (“Qualcomm Technologies”) agus a chompanaich a tha air am mìneachadh anns an Sgrìobhainn seo, agus cha tèid a chleachdadh airson adhbharan sam bith eile. Chan fhaodar an Sgrìobhainn seo atharrachadh, a dheasachadh no atharrachadh ann an dòigh sam bith às aonais cead sgrìobhte ro-làimh Qualcomm Technologies. Cleachdadh neo fhoillseachadh gun chead seo
Thathas a’ toirmeasg teann air sgrìobhainnean no am fiosrachadh a tha an seo, agus tha Tha thu ag aontachadh a bhith a’ dìon Qualcomm Technologies, a chuid chleamhnaichean agus luchd-ceadachaidh airson milleadh no call sam bith a dh’ fhuiling Qualcomm Technologies, a chompanaich agus a luchd-ceadachaidh airson cleachdadh neo-ùghdarraichte sam bith den Sgrìobhainn seo, gu h-iomlan no pàirt. Bidh Qualcomm Technologies, a chuid chleamhnaichean agus luchd-ceadachaidh a’ cumail a h-uile còir agus seilbh anns agus ris an Sgrìobhainn seo. Chan eil cead sam bith airson comharra-malairt, peutant, dlighe-sgrìobhaidh, còir dìon obair masg no còir seilbh inntleachdail sam bith eile air a thoirt seachad no air a thuigsinn leis an Sgrìobhainn seo no fiosrachadh sam bith a thèid fhoillseachadh an-seo, a’ gabhail a-steach, ach gun a bhith cuibhrichte gu, cead sam bith airson a dhèanamh, a chleachdadh, a thoirt a-steach no a thoirt a-steach. reic toradh, seirbheis no teicneòlas sam bith a tha a’ toirt a-steach fiosrachadh sam bith anns an Sgrìobhainn seo.
THA AN SEACHDAIN SEO AIR A THABHAIRT “MAR A THA” GUN BARANTAS DE sheòrsa sam bith, ge bith co-dhiù a tha e air a chuir an cèill, gu co-fhaireachdainn, reachdail no eile. GU SHÒNRAICHTE A THA EADAR-GHNÌOMHACHD AIRSON AN lagha, TEICNEOLAIDHEAN QUALCOMM, A CHUIDICHEAN AGUS A luchd-ceadachaidh SÒNRAICHTE gu h-àraidh a h-uile barantas mu thiotal, marsantachd, neo-bhriseadh, freagarrachd airson adhbhar sònraichte, ion-roghnachd, sòghalachd AG ÈIRIGH A-mach à CLEACHDADH TRADE NO A-mach à CÙRSA DE DHÈANAMH NO CÙRSA FIOSRACHAIDH. A bharrachd air an sin, cha bhi NO TEICNEOLAIDHEAN QUALCOMM, NO A GHABHAIL no A luchd-ceadachaidh, buailteach dhut fhèin no treas pàrtaidh sam bith airson cosgaisean, call, cleachdadh, no gnìomhan a chaidh a dhèanamh A-riamh no a chaidh a dhèanamh leis an òigridh a tha an urra riutha.
Faodaidh cuid de dh’ innealan toraidh, innealan agus stuthan air a bheil iomradh anns an Sgrìobhainn seo iarraidh ort gabhail ri teirmichean is cumhaichean a bharrachd mus faigh thu cothrom air no mus cleachd thu na nithean sin.
Faodaidh dàta teignigeach a tha air a shònrachadh anns an Sgrìobhainn seo a bhith fo smachd laghan smachd às-mhalairt na SA agus eile. Tha casg teann air tar-chuir an aghaidh na SA agus lagh iomchaidh sam bith eile.
Chan eil dad anns an Sgrìobhainn seo na thairgse airson gin de na pàirtean no na h-innealan air a bheil iomradh an seo a reic.
Faodaidh an Sgrìobhainn seo atharrachadh gun fhios a bharrachd. Ma tha còmhstri eadar na Cumhachan Cleachdaidh seo agus an Webteirmichean cleachdaidh na làraich air www.qualcomm.com no Poileasaidh Dìomhaireachd Qualcomm air an deach iomradh a thoirt www.qualcomm.com, bidh smachd aig na Cumhachan Cleachdaidh seo. Ma tha còmhstri eadar na Cumhachan Cleachdaidh seo agus aonta sam bith eile (sgrìobhte no cliog-troimhe) air a chuir gu bàs le Thu fhèin agus Qualcomm Technologies no neach-dàimh Qualcomm Technologies a thaobh do chothrom air agus cleachdadh na Sgrìobhainnean seo, bidh smachd aig an aonta eile .
Bidh na Cumhachan Cleachdaidh seo air an riaghladh le agus air am mìneachadh agus air an cur an gnìomh a rèir laghan Stàite California, às aonais Cùmhnant na DA air Reic Bathar Eadar-nàiseanta, gun aire a thoirt do phrionnsapalan còmhstri laghan. Bidh connspaid, tagradh no connspaid sam bith ag èirigh bho no co-cheangailte ris na Cumhachan Cleachdaidh seo, no a’ bhriseadh no a dhligheachd an seo, air a bhreithneachadh le cùirt le uachdranas iomchaidh ann an siorrachd San Diego, Stàit California, a-mhàin agus tha thu leis an seo a’ ceadachadh. uachdranas pearsanta nan cùirtean sin airson an adhbhair sin. - Comharran-malairt agus Aithris Buaidh Bathar.
Tha Qualcomm na chomharra-malairt no na chomharra-malairt clàraichte de Qualcomm Incorporated. Tha Arm na chomharra-malairt clàraichte de Arm Limited (no na fo-chompanaidhean aige) anns na SA agus / no ann an àiteachan eile. Tha an comharra-facail Bluetooth® na chomharra-malairt clàraichte le seilbh Bluetooth SIG, Inc. Faodaidh ainmean toraidh is brannd eile air a bheil iomradh anns an Sgrìobhainn seo a bhith nan comharran-malairt no nan comharran-malairt clàraichte aig an luchd-seilbh aca.
Tha toraidhean le suaicheantas Snapdragon agus Qualcomm air an deach iomradh a thoirt anns an Sgrìobhainn seo mar thoraidhean bho Qualcomm Technologies, Inc. agus / no na fo-chompanaidhean aige. Tha teicneòlasan peutant Qualcomm air an ceadachadh le Qualcomm Incorporated.
Sgrìobhainnean/Goireasan
 |
Bathar-bog Qualcomm TensorFlow Lite SDK [pdfStiùireadh Cleachdaiche Bathar-bog SDK TensorFlow Lite, Bathar-bog Lite SDK, Bathar-bog SDK, Bathar-bog |
