Treoir Úsáideora Bogearraí Qualcomm TensorFlow SDK
Stair athbhreithnithe
Athbhreithniú | Dáta | Cur síos |
AA | Meán Fómhair 2023 | Eisiúint tosaigh |
AB | Deireadh Fómhair 2023 |
|
Réamhrá le huirlisí Qualcomm TFLite SDK
Soláthraíonn uirlisí forbartha bogearraí Qualcomm TensorFlow Lite (Qualcomm TFLite SDK) creat TensorFlow Lite le haghaidh tátail hintleachta saorga (AI) ar an ngléas, a éascaíonn d’fhorbróirí feidhmchlár feidhmchláir AI oiriúnacha a fhorbairt nó a rith.
Soláthraíonn an doiciméad seo treoracha céim ar chéim chun Qualcomm TFLite SDK neamhspleách a thiomsú agus an timpeallacht forbartha a bhunú. Ligeann sé seo sreabhadh oibre an fhorbróra, lena n-áirítear:
- an timpeallacht tógála a bhunú inar féidir leis an bhforbróir an Qualcomm TFLite SDK a thiomsú
- feidhmchláir neamhspleácha Qualcomm TFLite SDK a fhorbairt
Le haghaidh tacaíochta, féach https://www.qualcomm.com/tacaíocht. Tugann an figiúr seo a leanas achoimre ar shreabhadh oibre Qualcomm TFLite SDK: ”
Fíor 1-1 Sreabhadh oibre Qualcomm TFLite SDK
Éilíonn an uirlis ardán SDK agus cumraíocht file (formáid JSON) chun na déantáin Qualcomm TFLite SDK a ghiniúint.
Chun feidhmchlár deireadh le deireadh a thógáil ag baint úsáide as fochórais ilmheán, AI, agus fís ríomhaire (CV), féach Treoir Thapa Tosaithe Qualcomm Intelligent Multimedia SDK (QIM SDK) (80-50450-51).
Taispeánann an tábla mapáil leagan Qualcomm TFLite SDK le scaoileadh CodeLinaro tag:
Tábla 1-1 Faisnéis maidir le heisiúint
Leagan Qualcomm TFLite SDK | CodeLinaro scaoileadh tag |
v1.0 | Qualcomm TFLITE.SDK.1.0.r1-00200-TFLITE.0 |
Tábla 1-2 Leaganacha Qualcomm TFLite SDK tacaithe
Qualcomm Leagan TFLite SDK | Táirge bogearraí tacaithe | Leagan TFLite tacaithe |
v1.0 | QCS8550.LE.1.0 |
|
|
||
|
||
|
||
|
||
|
Tagairtí
Tábla 1-3 Doiciméid ghaolmhara
Teideal | Uimhir |
Qualcomm | |
00067.1 Nóta Eisiúna do QCS8550.LE.1.0 | RNO-230830225415 |
Qualcomm Intelligent Ilmheáin SDK (QIM SDK) Treoir Tosaigh Tapa | 80-50450-51 |
Tagairt Qualcomm Ilmheáin Chliste SDK (QIM SDK). | 80-50450-50 |
Acmhainní | |
https://source.android.com/docs/setup/start/initializing | – |
Tábla 1-4 Acrainmneacha agus sainmhínithe
Acrainm nó téarma | Sainmhíniú |
AI | Intleacht shaorga |
BIOS | Córas bunúsach ionchuir/aschuir |
CV | Fís ríomhaire |
IPK | A pacáiste file |
QIM SDK | Qualcomm trealamh forbartha bogearraí ilmheán Chliste |
SDK | Trealamh forbartha bogearraí |
TFLite | Cluiche ar líne TensorFlow Lite |
XNN | Xth comharsa is gaire |
Timpeallacht tógála a bhunú le haghaidh uirlisí Qualcomm TFLite SDK
Scaoiltear na huirlisí Qualcomm TFLite SDK i bhfoirm foinse; mar sin, is socrú éigeantach ach aonuaire é bunú na timpeallachta tógála chun é a thiomsú.
Réamhriachtanais
- Cinntigh go bhfuil rochtain sudo agat ar an meaisín óstach Linux.
- A chinntiú go bhfuil an leagan óstach Linux Ubuntu 18.04 nó Ubuntu 20.04.
- Méadú ar an uasmhéid uaireadóirí úsáideora agus cásanna uasta úsáideora ar an gcóras óstach.
- Cuir na línte ordaithe seo a leanas le/etc/sysctl.confand atosaigh an t-óstach: fs.inotify.max_user_instances=8192 fs.inotify.max_user_watches=542288
Suiteáil pacáistí óstaigh riachtanacha
Tá na pacáistí óstach suiteáilte ar an meaisín óstach Linux.
Rith na horduithe chun na pacáistí óstaigh a shuiteáil: $ sudo apt install -y jq $ sudo apt install -y texinfo chrpath libxml-simple-perl openjdk-8-jdkheadless
Le haghaidh Ubuntu 18.04 agus níos airde:
$ sudo apt-get install git-core gnupg flex bíosún zip-riachtanach a thógáil curl zlib1g-dev gcc-multilib g++ -multilib libc6-dev-i386 libncurses5 lib32ncurses5- dev x11proto-core-dev libx11-dev lib32z1-dev libgl1-mesa-dev libxml2-utils unzip
Le haghaidh tuilleadh eolais, féach https://source.android.com/docs/setup/tús/tús a chur le.
Socraigh timpeallacht docker
Is ardán é docker a úsáidtear chun bogearraí a thógáil, a fhorbairt, a thástáil agus a sheachadadh. Chun an SDK a thiomsú, ní mór an docker a chumrú ar an meaisín óstach Linux.
Cinntigh go bhfuil fíorúlú LAP cumasaithe ar an meaisín óstach Linux. Mura bhfuil sé cumasaithe, déan an méid seo a leanas chun é a chumasú ó shocruithe cumraíochta an chórais ionchuir/aschuir bhunúsach (BIOS):
- Cumasaigh fíorúlú ó BIOS:
a. Brúigh F1 nó F2 nuair a bheidh an córas ag tosú le dul isteach sa BIOS. Taispeántar an fhuinneog BIOS.
b. Téigh go dtí an cluaisín Advanced.
c. Sa chuid Cumraíocht LAP, socraigh Teicneolaíocht Fíorúilithe go Cumasaithe.
a. Brúigh F12 a shábháil agus scoir, agus ansin atosú ar an gcóras.
Mura n-oibríonn na céimeanna seo, lean na treoracha sonracha ó sholáthraí an chórais chun an fíorúlú a chumasú - Bain aon sean-ócáidí den docker:
$ sudo apt bain an docker-desktop
$ rm -r $HOME/.docker/desktop
$ sudo rm /usr/local/bin/com.docker.cli
$ sudo apt purge docker-deisce - Cumraigh an cian-stór docker:
$sudo apt-get nuashonrú $ sudo apt-get install ca-certificates curl gnupg lsb-release $ sudo mkdir -p /etc/apt/keyrings $ curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg - daor -o /etc/apt/keyrings/docker.gpg $ macalla “deb [arch=$(dpkg –print-architecture) signed-by=/etc/apt/ keyrings/ docker.gpg] https:// download.docker.com/linux/ubuntu $ (lsb_release -cs) cobhsaí" | sudo tee /etc/apt/sources.list.d/ docker.list > /dev/null - Suiteáil inneall docker:
$sudo apt-get nuashonrú $ sudo apt-get install docker-ce docker-ce-cli - Cuir úsáideoir leis an ngrúpa docker:
$ sudo groupadd docker $ sudo usermod -aG docker $USER - Atosaigh an córas.
Gin ardán SDK
Is ceanglas éigeantach é an t-ardán SDK uirlisí Qualcomm TFLite SDK a thiomsú. Soláthraíonn sé na spleáchais ardáin riachtanacha go léir a theastaíonn ón Qualcomm TFLite SDK.
Déan an méid seo a leanas chun an ardán SDK a ghiniúint:
- Cruthaigh tógáil don táirge bogearraí is fearr leat.
Soláthraítear na treoracha chun an QCS8550.LE.1.0release a thógáil sna nótaí scaoileadh. Chun rochtain a fháil ar na nótaí eisiúna, féach Tagairtí.
Má tógadh na híomhánna roimhe seo, déan céim 2 a fhorghníomhú, agus ansin tógáil glan a chruthú. - Rith an t-ordú seo a leanas chun na híomhánna spáis úsáideora agus an t-ardán SDK a thógáil:
Le haghaidh QCS8550.LE.1.0, cuir an ghné meaisín qti-tflite-delegate i MACHINE_FEATURES sa kalama.conf file agus an timpeallacht tógála a aimsiú de réir treoracha ó na nótaí scaoilte.
Tar éis duit íomhánna spáis úsáideora a ghiniúint ó thógáil, reáchtáil an t-ordú seo a leanas chun an SDK ardán a ghiniúint.
$ bitbake -fc populate_sdk qti-robotics-image
Tóg uirlisí Qualcomm TFLite SDK - sreabhadh oibre an fhorbróra
Éilíonn sreabhadh oibre uirlisí Qualcomm TFLite SDK ar an bhforbróir an chumraíocht a sholáthar file le hiontrálacha bailí ionchuir. Soláthraíonn na scripteanna bhlaosc cúnta ón tionscadal tflite-tools (i láthair i gcrann foinse Qualcomm TFLite SDK) feidhmeanna fóntais chúntóra chun an timpeallacht bhlaosc a shocrú, ar féidir iad a úsáid le haghaidh sreabhadh oibre Qualcomm TFLite SDK.
Tógann an forbróir tionscadail Qualcomm TFLite SDK laistigh den choimeádán agus gineann sé na déantáin ag baint úsáide as na fóntais a sholáthraíonn tflite-tools.
Tar éis coimeádán Qualcomm TFLite SDK a thógáil, is féidir leis an bhforbróir gabháil leis an gcoimeádán agus úsáid a bhaint as na fóntais chúntóra i dtimpeallacht bhlaosc an choimeádáin le haghaidh forbairt leanúnach.
- Tá foráil ann chun na déantáin Qualcomm TFLite SDK a shuiteáil ar ghléas Qualcomm atá ceangailte leis an óstach Linux trí USB/adb.
- Tá foráil ann freisin na déantáin Qualcomm TFLite SDK a chóipeáil ón gcoimeádán chuig meaisín óstach difriúil ina bhfuil an gléas Qualcomm ceangailte.
Liostaíonn an figiúr seo a leanas an sraith fóntais atá ar fáil tar éis an timpeallacht tógála coimeádán a bhunú ag baint úsáide as na scripteanna cabhrach chun an Qualcomm TFLite SDK a thógáil.
Taispeánann an figiúr seicheamh forghníomhaithe na bhfóntas:
Fíor 4-3 Seicheamh na bhfóntas ar an óstaigh
Sioncronaigh agus tóg Qualcomm TFLite SDK
Cuirtear an Qualcomm TFLite SDK le chéile nuair a chruthaítear íomhá an docker. Chun an Qualcomm TFLite SDK a shioncronú agus a thógáil, déan an méid seo a leanas:
- Cruthaigh eolaire ar an ósta file córas chun spás oibre Qualcomm TFLite SDK a shioncronú. Le haghaidh
example: $mkdir $cd - Faigh cód foinse Qualcomm TFLite SDK ó CodeLinaro:
$ repo init -u https://git.codelinaro.org/clo/le/sdktflite/tflite/ manifest.git –repo-branch=qc/stable –repo-url=git://git.quicinc.com/ tools/repo.git -m TFLITE.SDK.1.0.r1-00200-TFLITE.0.xml -b scaoileadh && repo sync -qc –no-tags -j - Cruthaigh eolaire ar an ósta file córas is féidir a chur isteach i docker. Le haghaidh example: mkdir-p / Is féidir an t-eolaire seo a chruthú áit ar bith ar an meaisín óstach Linux, agus níl sé ag brath ar an áit a bhfuil an tionscadal Qualcomm TFLite SDK sioncronaithe. Tar éis don sreabhadh oibre laistigh den choimeádán a bheith críochnaithe, is féidir na déantáin Qualcomm TFLite SDK a fháil ag an eolaire a cruthaíodh sa chéim seo.
- Cuir cumraíocht JSON in eagar file i láthair in /tflite-tools/targets/le-tflite-tools-builder.json leis na hiontrálacha seo a leanas:
“Íomhá”: “tflite-tools-builder”, “Device_OS”: “le”, “Additional_tag” : “”, “TFLite_Version”: “2.11.1”, “Toscaire”: { “Hexagon_delegate”: “Off”, “Gpu_delegate”: “SEAL”, “Xnnpack_delegate”: “AR” }, “TFLite_rsync_destination”: “ /”, “SDK_path”: “/build-qti-distro-fullstack-perf/tmpglibc/deploy/sdk>”, “SDK_shell_file” : “”, “Base_Dir_Location”: “” }
Chun tuilleadh eolais a fháil ar na hiontrálacha a luaitear sa chumraíocht json file, féach an Docker.md readme file ag /tflite-tools/.
NÓTA Maidir le QCS8550, ní thacaítear le toscaire Qualcomm® Hexagon™ DSP. - Foinse an script chun an timpeallacht a shocrú:
$cd /tflite-tools $ source ./scripts/host/docker_env_setup.sh - Tóg an íomhá docker Qualcomm TFLite SDK: $ tflite-tools-host-build-image ./targets/le-tflite-tools-builder.json Má theipeann ar an socrú tógála, féach socrú docker Troubleshoot. Tar éis críochnú rathúil, taispeántar an teachtaireacht seo a leanas: “Stádas: Tógáil íomhá críochnaithe go rathúil !!” Tógann an chéim seo Qualcomm TFLite SDK freisin.
- Rith an coimeádán docker Qualcomm TFLite SDK. Tosaíonn sé seo an coimeádán leis an tags curtha ar fáil i gcumraíocht JSON file. $tflite-tools-host-run-container ./targets/le-tflite-tools-builder.json
- Ceangail leis an gcoimeádán a thosaigh ón gcéim roimhe sin.
$ docker gabháil
Tá an Qualcomm TFLite SDK tiomsaithe, agus tá na déantáin réidh le himscaradh nó is féidir iad a úsáid tuilleadh
a úsáidtear chun an breiseán QIM SDK TFLite a ghiniúint.
Ceangail gléas le déantáin a óstáil agus a imscaradh]
Tar éis a thiomsú, tá dhá mheicníocht ann chun an gléas a nascadh le hóstach agus an
Déantáin Qualcomm TFLite SDK.
- Gléas atá nasctha le hóstach Linux áitiúil:
Ceanglaíonn forbróir an gléas le stáisiún oibre agus suiteálann sé na déantáin Qualcomm TFLite SDK ón gcoimeádán go díreach ar an bhfeiste (QCS8550). - Gléas atá nasctha le hóstach cianda:
Ceanglaíonn forbróir an gléas le cianstáisiún oibre, agus is féidir leo orduithe suiteálaí an bhainisteora pacáiste a úsáid ar ardáin Windows agus Linux chun na déantáin Qualcomm TFLite SDK a shuiteáil ar an ngléas (QCS8550)
Fíor 4-4 Clár feiste a nascadh leis an bhforbróir agus le stáisiún oibre iargúlta
Ceangail gléas le stáisiún oibre
Tá an gléas ceangailte leis an stáisiún oibre agus is féidir leis an gcoimeádán forbartha an gléas a rochtain thar USB/adb.
Taispeánann an figiúr an stags i seicheamh sreabhadh oibre Qualcomm TFLite SDK:
- Rith na horduithe seo a leanas chun na déantáin a shuiteáil ar an bhfeiste:
$ tflite-uirlisí-gléas-ullmhú
$ tflite-tools-device-deploy - Chun na déantáin a dhíshuiteáil, rith an t-ordú seo a leanas:
$ tflite-tools-device-packages-bain
Ceangail gléas le meaisín cianda
Tá an gléas ceangailte le cianmheaisín, agus ní féidir le coimeádán Qualcomm TFLite SDK rochtain a fháil ar an bhfeiste trí USB/ad b.
Taispeánann an figiúr an stags i seicheamh sreabhadh oibre Qualcomm TFLite SDK:
Rith na horduithe seo a leanas sa choimeádán tflite-tools chun na déantáin a chóipeáil chuig cianmheaisín
ag brath ar an mbainisteoir pacáiste ar an bhfeiste:
$tflite-tools-iargúlta-sync-ipk-rel-pkg
NÓTA Soláthraítear faisnéis an mheaisín chianda i gcumraíocht JSON file.
Suiteáil artifacts le haghaidh ardán Windows
Is féidir na artifacts Qualcomm TFLite SDK a shuiteáil ar an bhfeiste bunaithe ar chóras oibriúcháin an mheaisín iargúlta.
Le haghaidh ardán Windows, déan na rudaí seo a leanas:
Ar PowerShell, bain úsáid as an script seo a leanas: PS C:
> adb root PS C:> adb disable-verity PS C:> adb atosaigh PS C:> adb fanacht-do-gléas PS C:> adb root PS C:> adb remount PS C:> adb shell mount -o remount, rw / PS C:> bhlaosc adb “mkdir -p /tmp” PS C:> adb push /tmp Más ipk an pacáiste (le haghaidh QCS8550.LE.1.0), bain úsáid as na horduithe seo a leanas: PS C:> adb shell “ opkg –force-depends –force-reinstall –force-overwrite install /tmp/”
Suiteáil artifacts le haghaidh ardán Linux
Úsáid na horduithe seo a leanas:
$ adb root $ adb díchumasaigh-verity $ adb atosaigh $ adb feithimh le haghaidh gléas $ adb root $ adb remount $ adb shell mount -o remount,rw / $ adb shell “mkdir -p /tmp” $ adb bhrú /tmp If Is ipk é an pacáiste (le haghaidh QCS8550.LE.1.0): $ adb shell “opkg –force-depends –force-reinstall –force-overwrite install /tmp/”
Glan suas íomhá docker
Tar éis sreabhadh oibre an fhorbróra a chríochnú, ba cheart an timpeallacht docker a ghlanadh chun an stóráil ar an diosca a shaoradh. Baintear na coimeádáin agus na híomhánna nár úsáideadh as an docker a ghlanadh, rud a shaorann an spás diosca.
Bain úsáid as na horduithe seo a leanas chun an íomhá docker a ghlanadh:
- Rith an t-ordú seo a leanas ar an stáisiún oibre Linux:
$cd /tflite-uirlisí - Stop an coimeádán:
$ tflite-tools-host-stop-container ./targets/ le-tflite-tools-builder.json - Bain an coimeádán:
$ tflite-tools-host-rm-container ./targets/ le-tflite-tools-builder.json - Bain na híomhánna docker níos sine:
$ tflite-tools-host-images-cleanup
Fabhtcheartaigh socrú docker
Má thugann an t-ordú tflite-tools-host-build-image teachtaireacht Nospace fágtha ar an ngléas ar ais, ansin bog an t-eolaire docker go/local/mnt. Déan na rudaí seo a leanas chun fabhtcheartú a dhéanamh ar an socrú:
- Cúltaca an docker atá ann cheana féin files:
$ tar -zcC /var/lib docker> /mnt/pd0/var_lib_docker-backup-$(dáta + %s).tar.gz - Stop an docker:
$ stad seirbhíse docker - Deimhnigh nach bhfuil aon phróiseas docker ar siúl:
$ ps faux | docker grep - Seiceáil struchtúr eolaire an docker:
$ sudo ls /var/lib/docker/ - Bog an t-eolaire docker chuig críochdheighilt nua:
$ mv /var/lib/docker / local/mnt/docker - Déan nasc nasc chuig an eolaire docker sa deighilt nua:
$ ln -s / local/mnt/docker /var/lib/docker - Cinntigh go bhfanann struchtúr eolaire na ndugairí gan athrú:
$ sudo ls /var/lib/docker/ - Docker tosaithe:
tosaithe $ service docker - Atosaigh na coimeádáin go léir tar éis an t-eolaire docker a bhogadh.
Gin TFLite SDK le stáisiún oibre Linux
Is féidir sreabhadh oibre TFLite SDK a chumasú gan coimeádáin ag baint úsáide as stáisiún oibre Linux. Is rogha eile é an nós imeachta seo seachas coimeádáin a úsáid.
Chun an Qualcomm TFLite SDK a shioncronú agus a thógáil, déan an méid seo a leanas:
- Cruthaigh eolaire ar an ósta file córas chun spás oibre Qualcomm TFLite SDK a shioncronú. Le haghaidh example:
$mkdir
$cd - Faigh cód foinse Qualcomm TFLite SDK ó CodeLinaro:
$ repo init -u https://git.codelinaro.org/clo/le/sdktflite/tflite/ manifest.git –repo-branch=qc/stable –repo-url=git://git.quicinc.com/ tools/repo.git -m TFLITE.SDK.1.0.r1-00200-TFLITE.0.xml -b scaoileadh && repo sync -qc –no-tags -j8 && sioncrónú repo -qc –níl-tags -j8 - 3. Cuir cumraíocht JSON in eagar file i láthair i /tflite-tools/targets/le-tflite-tools-builder.json leis na hiontrálacha seo a leanas
“Íomhá”: “tflite-tools-builder”, “Device_OS”: “le”, “Additional_tag” : “”, “TFLite_Version”: “2.11.1”, “Toscaire”: { “Hexagon_delegate”: “Off”, “Gpu_delegate”: “SEAL”, “Xnnpack_delegate”: “AR” }, “TFLite_rsync_destination”: “ ”, “SDK_path”: “/build-qti-distro-fullstack-perf/tmpglibc/deploy/sdk>”, “SDK_shell_file” : “”, “Base_Dir_Location”: “”
Chun tuilleadh eolais a fháil ar na hiontrálacha a luaitear sa chumraíocht json file, féach an Docker.md readme file ag /tflite-uirlisí/.
NÓTA Maidir le QCS8550, ní thacaítear le toscaire Heicseagán DSP - Foinse an script chun an timpeallacht a shocrú:
$cd /tflite-uirlisí
$ foinse ./scripts/host/host_env_setup.sh - Tóg an Qualcomm TFLite SDK.
$ tflite-tools-spriocanna socraithe/le-tflite-tools-builder.json - Rith na horduithe fóntais seo a leanas sa bhlaosc Linux céanna chun na déantáin TFLite SDK a bhailiú ó
TFLite_rsync_ceann scríbe.
$ tflite-tools-host-get-rel-package target/le-tflite-tools-builder.json
$ tflite-tools-host-get-dev-package target/le-tflite-tools-builder.json - Suiteáil artifacts bunaithe ar an gcóras oibriúcháin
- Maidir leis an ardán Windows, ar PowerShell, bain úsáid as an script seo a leanas
PS C:> adb root PS C:> adb disable-verity PS C:> adb atosaigh PS C:> adb fanacht-do-gléas PS C:> adb root PS C:> adb remount PS C:> adb shell mount - o remount,rw / PS C:> adb bhlaosc “mkdir -p /tmp” PS C:> adb bhrú /tmp
Más ipk an pacáiste (le haghaidh QCS8550.LE.1.0), bain úsáid as na horduithe seo a leanas:
PS C:> bhlaosc adb “opkg –force-depends –force-reinstall –forceoverwrite install /tmp/
Maidir leis an ardán Linux, bain úsáid as an script seo a leanas:
$ adb root $ adb díchumasaigh-verity $ adb atosaigh $ adb feithimh le haghaidh gléas $ adb root $ adb remount $ adb bhlaosc mount -o remount,rw / $ adb bhlaosc "mkdir -p / tmp" $ adb bhrú /tmp Más ipk an pacáiste (le haghaidh QCS8550.LE.1.0):
$ adb shell “opkg –force-depends –force-reinstall –force-overwrite install /tmp/”
- Maidir leis an ardán Windows, ar PowerShell, bain úsáid as an script seo a leanas
Gin déantáin Qualcomm TFLite SDK le haghaidh tógáil QIM SDK
Chun na déantáin a ghintear a úsáid chun breiseán Qualcomm TFLite SDK GStreamer i QIM SDK a chumasú, déan an méid seo a leanas:
- Críochnaigh an nós imeachta i Sync agus tóg Qualcomm TFLite SDK, agus ansin reáchtáil an t-ordú seo a leanas: $ tflite-tools-host-get-dev-tar-package ./targets/le-tflite-toolsbuilder.json
A tarra file gintear. Tá an Qualcomm TFLite SDK ann ag an gcosán a sholáthraítear ag “TFLite_rsync_destination” - Chun an breiseán Qualcomm TFLite SDK GStreamer a chumasú, bain úsáid as an tarra file mar argóint i gcumraíocht JSON file le haghaidh tógáil QIM SDK.
Le haghaidh faisnéise faoi QIM SDK a thiomsú, féach Treoir Thapa Tosaithe Qualcomm Intelligent Multimedia SDK (QIM SDK) (80-50450-51).
Tóg Qualcomm TFLite SDK go hincriminteach
Má tá tú ag tógáil an Qualcomm TFLite SDK den chéad uair, féach Uirlisí Build Qualcomm TFLite SDK - sreabhadh oibre an fhorbróra. Is féidir an timpeallacht tógála céanna a athúsáid le haghaidh forbairt incriminteach.
Tá na fóntais chúntóra (laistigh den choimeádán) a luaitear san fhigiúr ar fáil d'fhorbróirí chun feidhmchláir mhodhnaithe agus breiseán a thiomsú.
Fíor 5-1 Sreabhadh oibre i gcoimeádán
Tar éis na hathruithe cód a bheith críochnaithe sa eolaire cód, déan an méid seo a leanas:
- Cuir cód modhnaithe le chéile:
$ tflite-tools-incrimental-build-install - Cód tiomsaithe an phacáiste:
$ tflite-tools-ipk-rel-pkg nó $ tflite-tools-deb-rel-pkg - Sync pacáistí scaoileadh leis an ósta file córas:
$tflite-tools-iargúlta-sync-ipk-rel-pkg
Or
$tflite-tools-iargúlta-sync-deb-rel-pkg - Ullmhaigh pacáiste dev:
$ tflite-tools-ipk-dev-pkg
Tá na déantáin tiomsaithe le fáil san fhillteán TFLite_rsync_destination luaite sa JSON file, ar féidir é a chóipeáil chuig aon eolaire.
Oibriú le Toscaire seachtrach QNN TFLite
Ligeann Toscaire Seachtrach TFLite duit do mhúnlaí (páirt nó iomlán) a rith ar sheiceadóir eile ag baint úsáide as leabharlanna a sholáthraíonn tríú páirtí iontaofa ar nós QNN ag Qualcomm. Is féidir leis an meicníocht seo éagsúlacht de luasairí ar an ngléas a ghiaráil, mar shampla an GPU nó an Próiseálaí Teannas Heicseagán (HTP) le haghaidh tátail. Soláthraíonn sé seo modh solúbtha agus díchúpláilte d’fhorbróirí ón TFLite réamhshocraithe chun tátal a bhrostú.
Réamhriachtanais:
- Cinntigh go n-úsáideann tú stáisiún oibre Ubuntu chun cruach QNN AI a bhaint as.
- Cinntigh go n-úsáideann tú leagan QNN 2.14 le bheith i gcomhar le Qualcomm TFLite SDK
Tá an Qualcomm TFLite SDK in ann tátail a rith ar roinnt cúlchríocha QNN trí Toscaire seachtrach TFLite do QNN. Is féidir na samhlacha TFLite a bhfuil ionadaíocht choiteann flatbuffer acu a reáchtáil ar GPU agus HTP.
Tar éis na pacáistí Qualcomm TFLite SDK a shuiteáil ar an bhfeiste, déan an méid seo a leanas chun na leabharlanna QNN a shuiteáil ar an bhfeiste.
- Íoslódáil Bainisteoir Pacáiste Qualcomm 3 do Ubuntu.
a. Cliceáil https://qpm.qualcomm.com/, agus cliceáil Uirlisí.
b. Sa phána ar chlé, sa réimse Uirlisí Cuardaigh, cineál QPM. Ón liosta System OS, roghnaigh Linux.
Taispeánann na torthaí cuardaigh liosta de Bhainisteoirí Pacáiste Qualcomm.
c. Roghnaigh Bainisteoir Pacáiste Qualcomm 3 agus íoslódáil an pacáiste debian Linux. - Suiteáil Bainisteoir Pacáiste Qualcomm 3 le haghaidh Linux. Úsáid an t-ordú seo a leanas:
$ dpkg -i – forscríobh-forscríobh / cosán/go/
QualcommPackageManager3.3.0.83.1.Linux-x86.deb - Íosluchtaigh Qualcomm ®
AI Engine Direct SDK ar stáisiún oibre Ubuntu.
a. Cliceáil https://qpm.qualcomm.com/ agus cliceáil Uirlisí.
b. Sa phána ar chlé, sa réimse Uirlisí Cuardaigh, cineál AI stack. Ón liosta System OS, roghnaigh Linux.
A Taispeántar liosta anuas ina bhfuil innill chruach AI éagsúla.
c. Cliceáil Qualcomm® AI Engine Direct SDK agus íoslódáil an pacáiste Linux v2.14.0. - Suiteáil Qualcomm® AI Engine Direct SDK ar stáisiún oibre Ubuntu.
a. Gníomhachtaigh an ceadúnas:
qpm-cli – ceadúnas-gníomhachtaigh qualcomm_ai_engine_direct
b Suiteáil AI Engine Direct SDK:
$ qpm-cli – sliocht /path/to/ qualcomm_ai_engine_direct.2.14.0.230828.Linux-AnyCPU.qik - Brúigh leabharlanna chuig an bhfeiste ó stáisiún oibre Ubuntu le adb push.
$ cd /opt/qcom/aistack/qnn/2.14.0.230828 $ adb bhrú ./lib/aarch64-oe-linux-gcc11.2/ libQnnDsp.so /usr/lib/ $ adb bhrú ./lib/aarch64-oe- linux-gcc11.2/ libQnnDspV66Stub.so /usr/lib/ $ adb bhrú ./lib/aarch64-oe-linux-gcc11.2/ libQnnGpu.so /usr/lib/ $ adb bhrú ./lib/aarch64-oe- linux-gcc11.2/ libQnnHtpPrepare.so /usr/lib/ $ adb bhrú ./lib/aarch64-oe-linux-gcc11.2/ libQnnHtp.so /usr/lib/ $ adb bhrú ./lib/aarch64-oe- linux-gcc11.2/ libQnnHtpV68Stub.so /usr/lib/ $ adb bhrú ./lib/aarch64-oe-linux-gcc11.2/ libQnnSaver.so /usr/lib/ $ adb bhrú ./lib/aarch64-oe- linux-gcc11.2/ libQnnSystem.so /usr/lib/ $ adb bhrú ./lib/aarch64-oe-linux-gcc11.2/ libQnnTFLiteDelegate.so /usr/lib/ $ adb bhrú ./lib/hexagon-v65/ gan síniú/ libQnnDspV65Skel.so /usr/lib/rfsa/adsp $ brú adb ./lib/hexagon-v66/unsigned/ libQnnDspV66Skel.so /usr/lib/rfsa/adsp $ adb bhrú ./lib/hexagon-v68/unsigned libQnnHtpV68Skel.so /usr/lib/rfsa/adsp $ adb bhrú ./lib/hexagon-v69/unsigned/ libQnnHtpV69Skel.so /usr/lib/rfsa/adsp $ adb bhrú ./lib/hexagon-v73/V73Skel.so /usr/lib/rfsa/adsp mar sin /usr/lib/rfsa/adsp
Tástáil Qualcomm TFLite SDK
Soláthraíonn an Qualcomm TFLite SDK example feidhmchláir, ar féidir iad a úsáid chun na samhlacha is mian le forbróir a mheasúnú a bhailíochtú, a thagarmharcáil agus a fháil.
Tar éis na pacáistí Qualcomm TFLite SDK a bheith suiteáilte ar an ngléas, tá an t-am rite ar fáil ar an ngléas chun iad seo a rith example hiarratais.
Réamhriachtanas
Cruthaigh na heolairí seo a leanas ar an ngléas:
blaosc $ adb “mkdir / data/Models”
blaosc $ adb “mkdir / data/Lables”
blaosc $ adb “mkdir /data/profiling”
Íomhá lipéad
Is éard atá in íomhá lipéad ná áirgiúlacht a sholáthraíonn an Qualcomm TFLite SDK a thaispeánann conas is féidir leat samhail TensorFlow Lite réamhthraenáilte agus tiontaithe a luchtú agus é a úsáid chun réada in íomhánna a aithint. Réamhriachtanais:
Íosluchtaigh sample samhail agus íomhá:
Is féidir leat aon mhúnla comhoiriúnach a úsáid, ach tugann an tsamhail MobileNet v1 seo a leanas léiriú maith ar shamhail atá oilte chun 1000 réad difriúil a aithint.
- Faigh múnla
$curl https://stóráil.googleapis.com/download.tensorflow.org/models/ mobilenet_v1_2018_02_22/mobilenet_v1_1.0_224.tgz | tar xzv -C / sonraí $ mv /data/mobilenet_v1_1.0_224.tflite /data/Models/ - Faigh lipéid
$curl https://stóráil.googleapis.com/download.tensorflow.org/models/ mobilenet_v1_1.0_224_frozen.tgz | tar xzv -C /data mobilenet_v1_1.0_224/ labels.txt
$ mv /data/mobilenet_v1_1.0_224/labels.txt /data/Labels/
Tar éis duit ceangal le coimeádán docker Qualcomm TFLite SDK, is féidir an íomhá a fháil ag:
“/mnt/tflite/src/tensorflow/tensorflow/lite/examples/label_image/ testdata/grace_hopper.bmp”
a. Brúigh seo file chuig/sonraí/Lipéid/
b. Rith an t-ordú:
$ adb bhlaosc “label_image -l /data/Labels/labels.txt -i /data/Labels/ grace_hopper.bmp -m /data/Models/mobilenet_v1_1.0_224.tflite -c 10 -j 1 -p 1”
Tagarmharc
Soláthraíonn an Qualcomm TFLite SDK an uirlis tagarmharcála chun feidhmíocht amanna rite éagsúla a ríomh.
Faoi láthair déanann na huirlisí tagarmharcála seo staidreamh a thomhas agus a ríomh maidir leis na méadrachtaí tábhachtacha feidhmíochta seo a leanas:
- Am tionscanta
- Am tátal a bhaineann le staid an téimh suas
- Am tátal de staid sheasmhaigh
- Úsáid cuimhne le linn am tosaithe
- Úsáid iomlán cuimhne
Réamhriachtanais
Brúigh na múnlaí atá le tástáil ó TFLite Model Zoo ( https://tfhub.dev/) chuig/sonraí/Samhail/. Rith an na scripteanna seo a leanas:
- Pacáiste XNN
$blaosc adb “tagarmharc_model –graph=/data/Models/ — enable_op_profiling= fíor –use_xnnpack= fíor –num_threads=4 –max_secs=300 –profiling_output_csv_file=/sonraí/próifíliú/” - Toscaire GPU
$ adb shell “tagarmharc_model –graph=/data/Models/ — enable_op_profiling= fíor –use_gpu= fíor –num_runs=100 –warmup_runs=10 — max_secs=300 –profiling_output_csv_file=/sonraí/próifíliú/” - Toscaire Seachtrach
GPU Toscaire Seachtrach QNN:
Rith tátal le samhail snámhphointe:
$ adb shell-command “tagarmharc_model –graph=/data/Models/ .tflite –external_delegate_path=libQnnTFLiteDelegate.so — external_delegate_options='backend_type:gpu;library_path:/usr/lib/ libQnnGpu.so;libQnnGpu.so;libQnnGpu.so;libQnnGpu.so;libQnnGpu.so;library/library /adsp'”
HTP Toscaire Seachtrach QNN:
Rith tátal le samhail chainníochta:
$ adb shell-command “tagarmharc_model –graph=/data/Models/ .tflite –external_delegate_path=libQnnTFLiteDelegate.so — external_delegate_options='backend_type:htp;library_path:/usr/lib/ libQnnHtp.solar/librskelf:/library /adsp'”
Uirlis cruinnis
Soláthraíonn an Qualcomm TFLite SDK uirlis chruinneas chun cruinneas samhlacha a ríomh le hamanna rite éagsúla.
- Aicmiú le toscaire GPU
Na céimeanna is gá a íoslódáil files le tástáil a fháil ag: “/mnt/tflite/src/tensorflow/tensorflow/lite/tools/evaluation/tasks/ imagenet_image_classificatio/README.md”
Tá an dénártha chun an uirlis seo a rith mar chuid den SDK cheana féin, mar sin ní gá don fhorbróir é a thógáil arís.
blaosc $ adb “image_classify_run_eval — model_file=/data/Models/ –ground_truth_images_path=/data/ — ground_truth_labels=/data/ –model_output_labels=/ data/ –delegate=gpu” - Brath réad le pacáiste XNN
$ adb bhlaosc “inf_diff_run_eval –model_file=/data/Samhail/ –delegate=xnnpac
EOLAS DLÍTHIÚIL
Do rochtain ar an doiciméad seo agus d’úsáid a bhaint as, mar aon le haon sonraíochtaí, bord tagartha files, líníochtaí, diagnóisic agus faisnéis eile atá anseo (le chéile seo “Doiciméadú”), atá faoi réir do chuid (lena n-áirítear an chorparáid nó aonán dlíthiúil eile a ndéanann tú ionadaíocht dó, i dteannta a chéile “Tusa” nó “Do”) glacadh leis na téarmaí agus coinníollacha (“Téarmaí Úsáide”) leagtha amach thíos. Mura n-aontaíonn Tú leis na Téarmaí Úsáide seo, ní fhéadfaidh tú an Doiciméadúchán seo a úsáid agus scriosfaidh tú aon chóip díobh láithreach.
- Fógra Dlíthiúil.
Tá an Doiciméadúchán seo á chur ar fáil Duit le haghaidh D’úsáide inmheánaí amháin leis na táirgí agus na tairiscintí seirbhíse sin de chuid Qualcomm Technologies, Inc. (“Qualcomm Technologies”) agus a chleamhnaithe a bhfuil cur síos orthu sa Doiciméadúchán seo, agus ní úsáidfear é chun críocha ar bith eile. Ní féidir an Doiciméadúchán seo a athrú, a chur in eagar ná a mhodhnú ar bhealach ar bith gan cead scríofa a fháil roimh ré ó Qualcomm Technologies. Úsáid nó nochtadh neamhúdaraithe seo
Tá cosc dian ar dhoiciméadú nó ar an bhfaisnéis atá anseo, agus Aontaíonn Tú Qualcomm Technologies, a chleamhnaithe agus a cheadúnóirí a shlánú as aon damáiste nó caillteanas a d’fhulaing Qualcomm Technologies, a chleamhnaithe agus a cheadúnaithe as aon úsáidí neamhúdaraithe nó nochtadh neamhúdaraithe den Doiciméadú seo, go hiomlán nó chuid. Coinníonn Qualcomm Technologies, a chleamhnaithe agus a cheadúnóirí gach ceart agus úinéireacht sa Doiciméadúchán seo agus a ghabhann leis. Ní dheonaítear nó ní intuigthe leis an gCáipéis seo ná le haon fhaisnéis a nochtar anseo, lena n-áirítear, ach gan a bheith teoranta do, aon cheadúnas chun aon cheadúnas a dhéanamh, a úsáid, a allmhairiú nó a allmhairiú ceadúnas a cheadú maidir le trádmharc, paitinn, cóipcheart, ceart cosanta saothar masc nó aon cheart maoine intleachtúla eile. aon táirge, seirbhís nó tairiscint teicneolaíochta a dhíol a chuimsíonn aon chuid den fhaisnéis sa Doiciméadúchán seo.
TÁ AN DOICIMÉADÚ SEO Á SHOLÁTHAR “MAR A BHFUIL” GAN BARÁNTA D'AON CHINEÁL, CUIR ISTEACH, INTUIGTHE, REACHTÚIL NÓ EILE. DÉANAMH SÉANAMH GO SONRACH GACH BARÁNTAÍ TEIDIL, INFHEISTÍOCHTA, NEAMHSHÁRÚ, OIRIÚNACHT CHUN CUSPÓIR SONRAITHE, IONCHINNTÍ, IONCHINNTÍ, IONCHINNTÍ, IONCAIM AG eascairt AS ÚSÁID TRÁDÁLA NÓ AS CÚRSA DÉILEÁIL NÓ CÚRSA FEIDHMÍOCHTA. Thairis sin, NÍ BHÍONN NÍ TEICNEOLAÍOCHTAÍ QUALCOMM, NÍ CHEANN AR AON A GHABHÁLACHA NÓ A CEADÚNAITHEOIRÍ, DHÍOBHÁID FAOI CHOSTAIS, CAILLTEANAS, ÚSÁID, NÓ GNÍOMHAÍOCHTAÍ FAOI DLITEANAS ÓGA NÓ AON TRÍÚ PÁIRTITHE.
Féadfaidh feisteáin táirgí, uirlisí agus ábhair áirithe dá dtagraítear sa Doiciméadúchán seo a cheangal ort glacadh le téarmaí agus coinníollacha breise roimh rochtain a fháil ar na hearraí sin nó roimh úsáid a bhaint astu.
Féadfaidh sonraí teicniúla a shonraítear sa Doiciméadúchán seo a bheith faoi réir dhlíthe SAM agus dlíthe rialaithe onnmhairí infheidhme eile. Tá toirmeasc dian ar tharchur contrártha le SAM agus le haon dlí eile is infheidhme.
Níl aon rud sa Doiciméadúchán seo ina thairiscint chun aon cheann de na comhpháirteanna nó feistí dá dtagraítear anseo a dhíol.
Is féidir an Doiciméadúchán seo a athrú gan a thuilleadh fógra a thabhairt. I gcás coimhlinte idir na Téarmaí Úsáide seo agus an WebTéarmaí Úsáide an tsuímh ar www.qualcomm.com nó Beartas Príobháideachta Qualcomm dá dtagraítear ar www.qualcomm.com, rialóidh na Téarmaí Úsáide seo. I gcás coimhlinte idir na Téarmaí Úsáide seo agus aon chomhaontú eile (scríofa nó cliceáil tríd) arna fhorghníomhú ag Tú féin agus Qualcomm Technologies nó ag cleamhnaithe Qualcomm Technologies maidir le Do rochtain ar an Doiciméadúchán seo agus úsáid a bhaint as, rialóidh an comhaontú eile .
Déanfar na Téarmaí Úsáide seo a rialú agus a fhorléiriú agus a fhorghníomhú de réir dhlíthe Stát California, gan Coinbhinsiún na NA ar Dhíol Idirnáisiúnta Earraí a áireamh, gan aird ar phrionsabail easaontachta dlíthe. Is í cúirt dlínse inniúla i gcontae San Diego, Stát California, amháin a bhreithneoidh aon díospóid, éileamh nó conspóid a eascróidh as na Téarmaí Úsáide seo nó a bhaineann leo, nó an sárú nó an bailíocht a ghabhann leo, agus toiliúíonn Tú leis seo leis seo. dlínse phearsanta na gcúirteanna sin chun na críche sin. - Ráitis Trádmharcanna agus Leithdháiltí Táirge.
Is trádmharc nó trádmharc cláraithe de chuid Qualcomm Incorporated é Qualcomm. Trádmharc cláraithe de chuid Arm Limited (nó a fhochuideachtaí) sna SA agus/nó in áiteanna eile is ea Arm. Is trádmharc cláraithe é an focalmharc Bluetooth® atá faoi úinéireacht Bluetooth SIG, Inc. Féadfaidh ainmneacha táirgí agus branda eile dá dtagraítear sa Doiciméadúchán seo a bheith ina dtrádmharcanna nó ina dtrádmharcanna cláraithe dá n-úinéirí faoi seach.
Is táirgí de chuid Qualcomm Technologies, Inc. agus/nó a fhochuideachtaí iad táirgí brandáilte Snapdragon agus Qualcomm dá dtagraítear sa Doiciméadúchán seo. Tá teicneolaíochtaí paitinnithe Qualcomm ceadúnaithe ag Qualcomm Incorporated.
Doiciméid / Acmhainní
![]() |
Bogearraí SDK Qualcomm TensorFlow Lite [pdfTreoir Úsáideora Bogearraí SDK TensorFlow Lite, Bogearraí SDK Lite, Bogearraí SDK, Bogearraí |