Treoir Úsáideora Bogearraí Qualcomm TensorFlow SDK
Lógó Cuideachta

Stair athbhreithnithe

Athbhreithniú Dáta Cur síos
AA Meán Fómhair 2023 Eisiúint tosaigh
AB Deireadh Fómhair 2023

Réamhrá le huirlisí Qualcomm TFLite SDK

Soláthraíonn uirlisí forbartha bogearraí Qualcomm TensorFlow Lite (Qualcomm TFLite SDK) creat TensorFlow Lite le haghaidh tátail hintleachta saorga (AI) ar an ngléas, a éascaíonn d’fhorbróirí feidhmchlár feidhmchláir AI oiriúnacha a fhorbairt nó a rith.
Soláthraíonn an doiciméad seo treoracha céim ar chéim chun Qualcomm TFLite SDK neamhspleách a thiomsú agus an timpeallacht forbartha a bhunú. Ligeann sé seo sreabhadh oibre an fhorbróra, lena n-áirítear:

  • an timpeallacht tógála a bhunú inar féidir leis an bhforbróir an Qualcomm TFLite SDK a thiomsú
  • feidhmchláir neamhspleácha Qualcomm TFLite SDK a fhorbairt

Le haghaidh tacaíochta, féach https://www.qualcomm.com/tacaíocht. Tugann an figiúr seo a leanas achoimre ar shreabhadh oibre Qualcomm TFLite SDK: ”
Fíor 1-1 Sreabhadh oibre Qualcomm TFLite SDK
Éilíonn an uirlis ardán SDK agus cumraíocht file (formáid JSON) chun na déantáin Qualcomm TFLite SDK a ghiniúint.

Chun feidhmchlár deireadh le deireadh a thógáil ag baint úsáide as fochórais ilmheán, AI, agus fís ríomhaire (CV), féach Treoir Thapa Tosaithe Qualcomm Intelligent Multimedia SDK (QIM SDK) (80-50450-51).
Taispeánann an tábla mapáil leagan Qualcomm TFLite SDK le scaoileadh CodeLinaro tag:
Tábla 1-1 Faisnéis maidir le heisiúint
Ceangal

Leagan Qualcomm TFLite SDK CodeLinaro scaoileadh tag
v1.0 Qualcomm TFLITE.SDK.1.0.r1-00200-TFLITE.0

Tábla 1-2 Leaganacha Qualcomm TFLite SDK tacaithe

Qualcomm Leagan TFLite SDK Táirge bogearraí tacaithe Leagan TFLite tacaithe
v1.0 QCS8550.LE.1.0
  • 2.6.0
  • 2.8.0
  • 2.10.1
  • 2.11.1
  • 2.12.1
  • 2.13.0

Tagairtí
Tábla 1-3 Doiciméid ghaolmhara

Teideal Uimhir
Qualcomm
00067.1 Nóta Eisiúna do QCS8550.LE.1.0 RNO-230830225415
Qualcomm Intelligent Ilmheáin SDK (QIM SDK) Treoir Tosaigh Tapa 80-50450-51
Tagairt Qualcomm Ilmheáin Chliste SDK (QIM SDK). 80-50450-50
Acmhainní
https://source.android.com/docs/setup/start/initializing

Tábla 1-4 Acrainmneacha agus sainmhínithe

Acrainm nó téarma Sainmhíniú
AI Intleacht shaorga
BIOS Córas bunúsach ionchuir/aschuir
CV Fís ríomhaire
IPK A pacáiste file
QIM SDK Qualcomm trealamh forbartha bogearraí ilmheán Chliste
SDK Trealamh forbartha bogearraí
TFLite Cluiche ar líne TensorFlow Lite
XNN Xth comharsa is gaire

Timpeallacht tógála a bhunú le haghaidh uirlisí Qualcomm TFLite SDK

Scaoiltear na huirlisí Qualcomm TFLite SDK i bhfoirm foinse; mar sin, is socrú éigeantach ach aonuaire é bunú na timpeallachta tógála chun é a thiomsú.

Réamhriachtanais

  • Cinntigh go bhfuil rochtain sudo agat ar an meaisín óstach Linux.
  • A chinntiú go bhfuil an leagan óstach Linux Ubuntu 18.04 nó Ubuntu 20.04.
  • Méadú ar an uasmhéid uaireadóirí úsáideora agus cásanna uasta úsáideora ar an gcóras óstach.
  • Cuir na línte ordaithe seo a leanas le/etc/sysctl.confand atosaigh an t-óstach: fs.inotify.max_user_instances=8192 fs.inotify.max_user_watches=542288

Suiteáil pacáistí óstaigh riachtanacha

Tá na pacáistí óstach suiteáilte ar an meaisín óstach Linux.
Rith na horduithe chun na pacáistí óstaigh a shuiteáil: $ sudo apt install -y jq $ sudo apt install -y texinfo chrpath libxml-simple-perl openjdk-8-jdkheadless
Le haghaidh Ubuntu 18.04 agus níos airde:
$ sudo apt-get install git-core gnupg flex bíosún zip-riachtanach a thógáil curl zlib1g-dev gcc-multilib g++ -multilib libc6-dev-i386 libncurses5 lib32ncurses5- dev x11proto-core-dev libx11-dev lib32z1-dev libgl1-mesa-dev libxml2-utils unzip
Le haghaidh tuilleadh eolais, féach https://source.android.com/docs/setup/tús/tús a chur le.

Socraigh timpeallacht docker

Is ardán é docker a úsáidtear chun bogearraí a thógáil, a fhorbairt, a thástáil agus a sheachadadh. Chun an SDK a thiomsú, ní mór an docker a chumrú ar an meaisín óstach Linux.
Cinntigh go bhfuil fíorúlú LAP cumasaithe ar an meaisín óstach Linux. Mura bhfuil sé cumasaithe, déan an méid seo a leanas chun é a chumasú ó shocruithe cumraíochta an chórais ionchuir/aschuir bhunúsach (BIOS):

  1. Cumasaigh fíorúlú ó BIOS:
    a. Brúigh F1 nó F2 nuair a bheidh an córas ag tosú le dul isteach sa BIOS. Taispeántar an fhuinneog BIOS.
    b. Téigh go dtí an cluaisín Advanced.
    c. Sa chuid Cumraíocht LAP, socraigh Teicneolaíocht Fíorúilithe go Cumasaithe.
    a. Brúigh F12 a shábháil agus scoir, agus ansin atosú ar an gcóras.
    Mura n-oibríonn na céimeanna seo, lean na treoracha sonracha ó sholáthraí an chórais chun an fíorúlú a chumasú
  2. Bain aon sean-ócáidí den docker:
    $ sudo apt bain an docker-desktop
    $ rm -r $HOME/.docker/desktop
    $ sudo rm /usr/local/bin/com.docker.cli
    $ sudo apt purge docker-deisce
  3.  Cumraigh an cian-stór docker:
    $sudo apt-get nuashonrú $ sudo apt-get install ca-certificates curl gnupg lsb-release $ sudo mkdir -p /etc/apt/keyrings $ curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg - daor -o /etc/apt/keyrings/docker.gpg $ macalla “deb [arch=$(dpkg –print-architecture) signed-by=/etc/apt/ keyrings/ docker.gpg] https:// download.docker.com/linux/ubuntu $ (lsb_release -cs) cobhsaí" | sudo tee /etc/apt/sources.list.d/ docker.list > /dev/null
  4.  Suiteáil inneall docker:
    $sudo apt-get nuashonrú $ sudo apt-get install docker-ce docker-ce-cli
  5.  Cuir úsáideoir leis an ngrúpa docker:
    $ sudo groupadd docker $ sudo usermod -aG docker $USER
  6.  Atosaigh an córas.

Gin ardán SDK

Is ceanglas éigeantach é an t-ardán SDK uirlisí Qualcomm TFLite SDK a thiomsú. Soláthraíonn sé na spleáchais ardáin riachtanacha go léir a theastaíonn ón Qualcomm TFLite SDK.
Déan an méid seo a leanas chun an ardán SDK a ghiniúint:

  1. Cruthaigh tógáil don táirge bogearraí is fearr leat.
    Soláthraítear na treoracha chun an QCS8550.LE.1.0release a thógáil sna nótaí scaoileadh. Chun rochtain a fháil ar na nótaí eisiúna, féach Tagairtí.
    Má tógadh na híomhánna roimhe seo, déan céim 2 a fhorghníomhú, agus ansin tógáil glan a chruthú.
  2. Rith an t-ordú seo a leanas chun na híomhánna spáis úsáideora agus an t-ardán SDK a thógáil:
    Le haghaidh QCS8550.LE.1.0, cuir an ghné meaisín qti-tflite-delegate i MACHINE_FEATURES sa kalama.conf file agus an timpeallacht tógála a aimsiú de réir treoracha ó na nótaí scaoilte.
    Tar éis duit íomhánna spáis úsáideora a ghiniúint ó thógáil, reáchtáil an t-ordú seo a leanas chun an SDK ardán a ghiniúint.
    $ bitbake -fc populate_sdk qti-robotics-image

Tóg uirlisí Qualcomm TFLite SDK - sreabhadh oibre an fhorbróra

Éilíonn sreabhadh oibre uirlisí Qualcomm TFLite SDK ar an bhforbróir an chumraíocht a sholáthar file le hiontrálacha bailí ionchuir. Soláthraíonn na scripteanna bhlaosc cúnta ón tionscadal tflite-tools (i láthair i gcrann foinse Qualcomm TFLite SDK) feidhmeanna fóntais chúntóra chun an timpeallacht bhlaosc a shocrú, ar féidir iad a úsáid le haghaidh sreabhadh oibre Qualcomm TFLite SDK.
Tógann an forbróir tionscadail Qualcomm TFLite SDK laistigh den choimeádán agus gineann sé na déantáin ag baint úsáide as na fóntais a sholáthraíonn tflite-tools.
Tar éis coimeádán Qualcomm TFLite SDK a thógáil, is féidir leis an bhforbróir gabháil leis an gcoimeádán agus úsáid a bhaint as na fóntais chúntóra i dtimpeallacht bhlaosc an choimeádáin le haghaidh forbairt leanúnach.

  • Tá foráil ann chun na déantáin Qualcomm TFLite SDK a shuiteáil ar ghléas Qualcomm atá ceangailte leis an óstach Linux trí USB/adb.
  • Tá foráil ann freisin na déantáin Qualcomm TFLite SDK a chóipeáil ón gcoimeádán chuig meaisín óstach difriúil ina bhfuil an gléas Qualcomm ceangailte.
    Ceangal

Liostaíonn an figiúr seo a leanas an sraith fóntais atá ar fáil tar éis an timpeallacht tógála coimeádán a bhunú ag baint úsáide as na scripteanna cabhrach chun an Qualcomm TFLite SDK a thógáil.
Ceangal

Taispeánann an figiúr seicheamh forghníomhaithe na bhfóntas:
Fíor 4-3 Seicheamh na bhfóntas ar an óstaigh
Ceangal

Sioncronaigh agus tóg Qualcomm TFLite SDK
Cuirtear an Qualcomm TFLite SDK le chéile nuair a chruthaítear íomhá an docker. Chun an Qualcomm TFLite SDK a shioncronú agus a thógáil, déan an méid seo a leanas:

  1. Cruthaigh eolaire ar an ósta file córas chun spás oibre Qualcomm TFLite SDK a shioncronú. Le haghaidh
    example: $mkdir $cd
  2. Faigh cód foinse Qualcomm TFLite SDK ó CodeLinaro:
    $ repo init -u https://git.codelinaro.org/clo/le/sdktflite/tflite/ manifest.git –repo-branch=qc/stable –repo-url=git://git.quicinc.com/ tools/repo.git -m TFLITE.SDK.1.0.r1-00200-TFLITE.0.xml -b scaoileadh && repo sync -qc –no-tags -j
  3. Cruthaigh eolaire ar an ósta file córas is féidir a chur isteach i docker. Le haghaidh example: mkdir-p / Is féidir an t-eolaire seo a chruthú áit ar bith ar an meaisín óstach Linux, agus níl sé ag brath ar an áit a bhfuil an tionscadal Qualcomm TFLite SDK sioncronaithe. Tar éis don sreabhadh oibre laistigh den choimeádán a bheith críochnaithe, is féidir na déantáin Qualcomm TFLite SDK a fháil ag an eolaire a cruthaíodh sa chéim seo.
  4. Cuir cumraíocht JSON in eagar file i láthair in /tflite-tools/targets/le-tflite-tools-builder.json leis na hiontrálacha seo a leanas:
    “Íomhá”: “tflite-tools-builder”, “Device_OS”: “le”, “Additional_tag” : “”, “TFLite_Version”: “2.11.1”, “Toscaire”: { “Hexagon_delegate”: “Off”, “Gpu_delegate”: “SEAL”, “Xnnpack_delegate”: “AR” }, “TFLite_rsync_destination”: “ /”, “SDK_path”: “/build-qti-distro-fullstack-perf/tmpglibc/deploy/sdk>”, “SDK_shell_file” : “”, “Base_Dir_Location”: “” }
    Chun tuilleadh eolais a fháil ar na hiontrálacha a luaitear sa chumraíocht json file, féach an Docker.md readme file ag /tflite-tools/.
    NÓTA Maidir le QCS8550, ní thacaítear le toscaire Qualcomm® Hexagon™ DSP.
  5. Foinse an script chun an timpeallacht a shocrú:
    $cd /tflite-tools $ source ./scripts/host/docker_env_setup.sh
  6.  Tóg an íomhá docker Qualcomm TFLite SDK: $ tflite-tools-host-build-image ./targets/le-tflite-tools-builder.json Má theipeann ar an socrú tógála, féach socrú docker Troubleshoot. Tar éis críochnú rathúil, taispeántar an teachtaireacht seo a leanas: “Stádas: Tógáil íomhá críochnaithe go rathúil !!” Tógann an chéim seo Qualcomm TFLite SDK freisin.
  7.  Rith an coimeádán docker Qualcomm TFLite SDK. Tosaíonn sé seo an coimeádán leis an tags curtha ar fáil i gcumraíocht JSON file. $tflite-tools-host-run-container ./targets/le-tflite-tools-builder.json
  8. Ceangail leis an gcoimeádán a thosaigh ón gcéim roimhe sin.
    $ docker gabháil

Tá an Qualcomm TFLite SDK tiomsaithe, agus tá na déantáin réidh le himscaradh nó is féidir iad a úsáid tuilleadh
a úsáidtear chun an breiseán QIM SDK TFLite a ghiniúint.

Ceangail gléas le déantáin a óstáil agus a imscaradh]

Tar éis a thiomsú, tá dhá mheicníocht ann chun an gléas a nascadh le hóstach agus an
Déantáin Qualcomm TFLite SDK.

  • Gléas atá nasctha le hóstach Linux áitiúil:
    Ceanglaíonn forbróir an gléas le stáisiún oibre agus suiteálann sé na déantáin Qualcomm TFLite SDK ón gcoimeádán go díreach ar an bhfeiste (QCS8550).
  • Gléas atá nasctha le hóstach cianda:
    Ceanglaíonn forbróir an gléas le cianstáisiún oibre, agus is féidir leo orduithe suiteálaí an bhainisteora pacáiste a úsáid ar ardáin Windows agus Linux chun na déantáin Qualcomm TFLite SDK a shuiteáil ar an ngléas (QCS8550)

Fíor 4-4 Clár feiste a nascadh leis an bhforbróir agus le stáisiún oibre iargúlta
Ceangal

Ceangail gléas le stáisiún oibre

Tá an gléas ceangailte leis an stáisiún oibre agus is féidir leis an gcoimeádán forbartha an gléas a rochtain thar USB/adb.
Taispeánann an figiúr an stags i seicheamh sreabhadh oibre Qualcomm TFLite SDK:
Ceangal

  1. Rith na horduithe seo a leanas chun na déantáin a shuiteáil ar an bhfeiste:
    $ tflite-uirlisí-gléas-ullmhú
    $ tflite-tools-device-deploy
  2. Chun na déantáin a dhíshuiteáil, rith an t-ordú seo a leanas:
    $ tflite-tools-device-packages-bain

Ceangail gléas le meaisín cianda

Tá an gléas ceangailte le cianmheaisín, agus ní féidir le coimeádán Qualcomm TFLite SDK rochtain a fháil ar an bhfeiste trí USB/ad b.
Taispeánann an figiúr an stags i seicheamh sreabhadh oibre Qualcomm TFLite SDK:
Ceangal

Rith na horduithe seo a leanas sa choimeádán tflite-tools chun na déantáin a chóipeáil chuig cianmheaisín
ag brath ar an mbainisteoir pacáiste ar an bhfeiste:
$tflite-tools-iargúlta-sync-ipk-rel-pkg
NÓTA Soláthraítear faisnéis an mheaisín chianda i gcumraíocht JSON file.
Suiteáil artifacts le haghaidh ardán Windows
Is féidir na artifacts Qualcomm TFLite SDK a shuiteáil ar an bhfeiste bunaithe ar chóras oibriúcháin an mheaisín iargúlta.

Le haghaidh ardán Windows, déan na rudaí seo a leanas:
Ar PowerShell, bain úsáid as an script seo a leanas: PS C:
> adb root PS C:> adb disable-verity PS C:> adb atosaigh PS C:> adb fanacht-do-gléas PS C:> adb root PS C:> adb remount PS C:> adb shell mount -o remount, rw / PS C:> bhlaosc adb “mkdir -p /tmp” PS C:> adb push /tmp Más ipk an pacáiste (le haghaidh QCS8550.LE.1.0), bain úsáid as na horduithe seo a leanas: PS C:> adb shell “ opkg –force-depends –force-reinstall –force-overwrite install /tmp/”

Suiteáil artifacts le haghaidh ardán Linux
Úsáid na horduithe seo a leanas:
$ adb root $ adb díchumasaigh-verity $ adb atosaigh $ adb feithimh le haghaidh gléas $ adb root $ adb remount $ adb shell mount -o remount,rw / $ adb shell “mkdir -p /tmp” $ adb bhrú /tmp If Is ipk é an pacáiste (le haghaidh QCS8550.LE.1.0): $ adb shell “opkg –force-depends –force-reinstall –force-overwrite install /tmp/”

Glan suas íomhá docker
Tar éis sreabhadh oibre an fhorbróra a chríochnú, ba cheart an timpeallacht docker a ghlanadh chun an stóráil ar an diosca a shaoradh. Baintear na coimeádáin agus na híomhánna nár úsáideadh as an docker a ghlanadh, rud a shaorann an spás diosca.
Bain úsáid as na horduithe seo a leanas chun an íomhá docker a ghlanadh:

  1. Rith an t-ordú seo a leanas ar an stáisiún oibre Linux:
    $cd /tflite-uirlisí
  2. Stop an coimeádán:
    $ tflite-tools-host-stop-container ./targets/ le-tflite-tools-builder.json
  3. Bain an coimeádán:
    $ tflite-tools-host-rm-container ./targets/ le-tflite-tools-builder.json
  4. Bain na híomhánna docker níos sine:
    $ tflite-tools-host-images-cleanup

Fabhtcheartaigh socrú docker

Má thugann an t-ordú tflite-tools-host-build-image teachtaireacht Nospace fágtha ar an ngléas ar ais, ansin bog an t-eolaire docker go/local/mnt. Déan na rudaí seo a leanas chun fabhtcheartú a dhéanamh ar an socrú:

  1. Cúltaca an docker atá ann cheana féin files:
    $ tar -zcC /var/lib docker> /mnt/pd0/var_lib_docker-backup-$(dáta + %s).tar.gz
  2. Stop an docker:
    $ stad seirbhíse docker
  3. Deimhnigh nach bhfuil aon phróiseas docker ar siúl:
    $ ps faux | docker grep
  4. Seiceáil struchtúr eolaire an docker:
    $ sudo ls /var/lib/docker/
  5. Bog an t-eolaire docker chuig críochdheighilt nua:
    $ mv /var/lib/docker / local/mnt/docker
  6. Déan nasc nasc chuig an eolaire docker sa deighilt nua:
    $ ln -s / local/mnt/docker /var/lib/docker
  7. Cinntigh go bhfanann struchtúr eolaire na ndugairí gan athrú:
    $ sudo ls /var/lib/docker/
  8. Docker tosaithe:
    tosaithe $ service docker
  9. Atosaigh na coimeádáin go léir tar éis an t-eolaire docker a bhogadh.

Gin TFLite SDK le stáisiún oibre Linux

Is féidir sreabhadh oibre TFLite SDK a chumasú gan coimeádáin ag baint úsáide as stáisiún oibre Linux. Is rogha eile é an nós imeachta seo seachas coimeádáin a úsáid.
Chun an Qualcomm TFLite SDK a shioncronú agus a thógáil, déan an méid seo a leanas:

  1. Cruthaigh eolaire ar an ósta file córas chun spás oibre Qualcomm TFLite SDK a shioncronú. Le haghaidh example:
    $mkdir
    $cd
  2. Faigh cód foinse Qualcomm TFLite SDK ó CodeLinaro:
    $ repo init -u https://git.codelinaro.org/clo/le/sdktflite/tflite/ manifest.git –repo-branch=qc/stable –repo-url=git://git.quicinc.com/ tools/repo.git -m TFLITE.SDK.1.0.r1-00200-TFLITE.0.xml -b scaoileadh && repo sync -qc –no-tags -j8 && sioncrónú repo -qc –níl-tags -j8
  3. 3. Cuir cumraíocht JSON in eagar file i láthair i /tflite-tools/targets/le-tflite-tools-builder.json leis na hiontrálacha seo a leanas
    “Íomhá”: “tflite-tools-builder”, “Device_OS”: “le”, “Additional_tag” : “”, “TFLite_Version”: “2.11.1”, “Toscaire”: { “Hexagon_delegate”: “Off”, “Gpu_delegate”: “SEAL”, “Xnnpack_delegate”: “AR” }, “TFLite_rsync_destination”: “ ”, “SDK_path”: “/build-qti-distro-fullstack-perf/tmpglibc/deploy/sdk>”, “SDK_shell_file” : “”, “Base_Dir_Location”: “”
    Chun tuilleadh eolais a fháil ar na hiontrálacha a luaitear sa chumraíocht json file, féach an Docker.md readme file ag /tflite-uirlisí/.
    NÓTA Maidir le QCS8550, ní thacaítear le toscaire Heicseagán DSP
  4. Foinse an script chun an timpeallacht a shocrú:
    $cd /tflite-uirlisí
    $ foinse ./scripts/host/host_env_setup.sh
  5. Tóg an Qualcomm TFLite SDK.
    $ tflite-tools-spriocanna socraithe/le-tflite-tools-builder.json
  6.  Rith na horduithe fóntais seo a leanas sa bhlaosc Linux céanna chun na déantáin TFLite SDK a bhailiú ó 
    TFLite_rsync_ceann scríbe.
    $ tflite-tools-host-get-rel-package target/le-tflite-tools-builder.json
    $ tflite-tools-host-get-dev-package target/le-tflite-tools-builder.json
  7. Suiteáil artifacts bunaithe ar an gcóras oibriúcháin
    • Maidir leis an ardán Windows, ar PowerShell, bain úsáid as an script seo a leanas
      PS C:> adb root PS C:> adb disable-verity PS C:> adb atosaigh PS C:> adb fanacht-do-gléas PS C:> adb root PS C:> adb remount PS C:> adb shell mount - o remount,rw / PS C:> adb bhlaosc “mkdir -p /tmp” PS C:> adb bhrú /tmp
      Más ipk an pacáiste (le haghaidh QCS8550.LE.1.0), bain úsáid as na horduithe seo a leanas:
      PS C:> bhlaosc adb “opkg –force-depends –force-reinstall –forceoverwrite install /tmp/
      Maidir leis an ardán Linux, bain úsáid as an script seo a leanas:
      $ adb root $ adb díchumasaigh-verity $ adb atosaigh $ adb feithimh le haghaidh gléas $ adb root $ adb remount $ adb bhlaosc mount -o remount,rw / $ adb bhlaosc "mkdir -p / tmp" $ adb bhrú /tmp Más ipk an pacáiste (le haghaidh QCS8550.LE.1.0):
      $ adb shell “opkg –force-depends –force-reinstall –force-overwrite install /tmp/”

Gin déantáin Qualcomm TFLite SDK le haghaidh tógáil QIM SDK

Chun na déantáin a ghintear a úsáid chun breiseán Qualcomm TFLite SDK GStreamer i QIM SDK a chumasú, déan an méid seo a leanas:

  1. Críochnaigh an nós imeachta i Sync agus tóg Qualcomm TFLite SDK, agus ansin reáchtáil an t-ordú seo a leanas: $ tflite-tools-host-get-dev-tar-package ./targets/le-tflite-toolsbuilder.json
    A tarra file gintear. Tá an Qualcomm TFLite SDK ann ag an gcosán a sholáthraítear ag “TFLite_rsync_destination”
  2. Chun an breiseán Qualcomm TFLite SDK GStreamer a chumasú, bain úsáid as an tarra file mar argóint i gcumraíocht JSON file le haghaidh tógáil QIM SDK.
    Le haghaidh faisnéise faoi QIM SDK a thiomsú, féach Treoir Thapa Tosaithe Qualcomm Intelligent Multimedia SDK (QIM SDK) (80-50450-51).

Tóg Qualcomm TFLite SDK go hincriminteach

Má tá tú ag tógáil an Qualcomm TFLite SDK den chéad uair, féach Uirlisí Build Qualcomm TFLite SDK - sreabhadh oibre an fhorbróra. Is féidir an timpeallacht tógála céanna a athúsáid le haghaidh forbairt incriminteach.
Tá na fóntais chúntóra (laistigh den choimeádán) a luaitear san fhigiúr ar fáil d'fhorbróirí chun feidhmchláir mhodhnaithe agus breiseán a thiomsú.
Fíor 5-1 Sreabhadh oibre i gcoimeádán

Ceangal

Tar éis na hathruithe cód a bheith críochnaithe sa eolaire cód, déan an méid seo a leanas:

  1. Cuir cód modhnaithe le chéile:
    $ tflite-tools-incrimental-build-install
  2. Cód tiomsaithe an phacáiste:
    $ tflite-tools-ipk-rel-pkg nó $ tflite-tools-deb-rel-pkg
  3. Sync pacáistí scaoileadh leis an ósta file córas:
    $tflite-tools-iargúlta-sync-ipk-rel-pkg
    Or
    $tflite-tools-iargúlta-sync-deb-rel-pkg
  4. Ullmhaigh pacáiste dev:
    $ tflite-tools-ipk-dev-pkg
    Tá na déantáin tiomsaithe le fáil san fhillteán TFLite_rsync_destination luaite sa JSON file, ar féidir é a chóipeáil chuig aon eolaire.

Oibriú le Toscaire seachtrach QNN TFLite

Ligeann Toscaire Seachtrach TFLite duit do mhúnlaí (páirt nó iomlán) a rith ar sheiceadóir eile ag baint úsáide as leabharlanna a sholáthraíonn tríú páirtí iontaofa ar nós QNN ag Qualcomm. Is féidir leis an meicníocht seo éagsúlacht de luasairí ar an ngléas a ghiaráil, mar shampla an GPU nó an Próiseálaí Teannas Heicseagán (HTP) le haghaidh tátail. Soláthraíonn sé seo modh solúbtha agus díchúpláilte d’fhorbróirí ón TFLite réamhshocraithe chun tátal a bhrostú.

Réamhriachtanais:

  • Cinntigh go n-úsáideann tú stáisiún oibre Ubuntu chun cruach QNN AI a bhaint as.
  • Cinntigh go n-úsáideann tú leagan QNN 2.14 le bheith i gcomhar le Qualcomm TFLite SDK

Tá an Qualcomm TFLite SDK in ann tátail a rith ar roinnt cúlchríocha QNN trí Toscaire seachtrach TFLite do QNN. Is féidir na samhlacha TFLite a bhfuil ionadaíocht choiteann flatbuffer acu a reáchtáil ar GPU agus HTP.
Tar éis na pacáistí Qualcomm TFLite SDK a shuiteáil ar an bhfeiste, déan an méid seo a leanas chun na leabharlanna QNN a shuiteáil ar an bhfeiste.

  1. Íoslódáil Bainisteoir Pacáiste Qualcomm 3 do Ubuntu.
    a. Cliceáil https://qpm.qualcomm.com/, agus cliceáil Uirlisí.
    b. Sa phána ar chlé, sa réimse Uirlisí Cuardaigh, cineál QPM. Ón liosta System OS, roghnaigh Linux.
    Taispeánann na torthaí cuardaigh liosta de Bhainisteoirí Pacáiste Qualcomm.
    c. Roghnaigh Bainisteoir Pacáiste Qualcomm 3 agus íoslódáil an pacáiste debian Linux.
  2. Suiteáil Bainisteoir Pacáiste Qualcomm 3 le haghaidh Linux. Úsáid an t-ordú seo a leanas:
    $ dpkg -i – forscríobh-forscríobh / cosán/go/
    QualcommPackageManager3.3.0.83.1.Linux-x86.deb
  3. Íosluchtaigh Qualcomm ®
    AI Engine Direct SDK ar stáisiún oibre Ubuntu.
    a. Cliceáil https://qpm.qualcomm.com/ agus cliceáil Uirlisí.
    b. Sa phána ar chlé, sa réimse Uirlisí Cuardaigh, cineál AI stack. Ón liosta System OS, roghnaigh Linux.
    A Taispeántar liosta anuas ina bhfuil innill chruach AI éagsúla.
    c. Cliceáil Qualcomm® AI Engine Direct SDK agus íoslódáil an pacáiste Linux v2.14.0.
  4. Suiteáil Qualcomm® AI Engine Direct SDK ar stáisiún oibre Ubuntu.
    a. Gníomhachtaigh an ceadúnas:
    qpm-cli – ceadúnas-gníomhachtaigh qualcomm_ai_engine_direct
    b Suiteáil AI Engine Direct SDK:
    $ qpm-cli – sliocht /path/to/ qualcomm_ai_engine_direct.2.14.0.230828.Linux-AnyCPU.qik
  5. Brúigh leabharlanna chuig an bhfeiste ó stáisiún oibre Ubuntu le adb push.
    $ cd /opt/qcom/aistack/qnn/2.14.0.230828 $ adb bhrú ./lib/aarch64-oe-linux-gcc11.2/ libQnnDsp.so /usr/lib/ $ adb bhrú ./lib/aarch64-oe- linux-gcc11.2/ libQnnDspV66Stub.so /usr/lib/ $ adb bhrú ./lib/aarch64-oe-linux-gcc11.2/ libQnnGpu.so /usr/lib/ $ adb bhrú ./lib/aarch64-oe- linux-gcc11.2/ libQnnHtpPrepare.so /usr/lib/ $ adb bhrú ./lib/aarch64-oe-linux-gcc11.2/ libQnnHtp.so /usr/lib/ $ adb bhrú ./lib/aarch64-oe- linux-gcc11.2/ libQnnHtpV68Stub.so /usr/lib/ $ adb bhrú ./lib/aarch64-oe-linux-gcc11.2/ libQnnSaver.so /usr/lib/ $ adb bhrú ./lib/aarch64-oe- linux-gcc11.2/ libQnnSystem.so /usr/lib/ $ adb bhrú ./lib/aarch64-oe-linux-gcc11.2/ libQnnTFLiteDelegate.so /usr/lib/ $ adb bhrú ./lib/hexagon-v65/ gan síniú/ libQnnDspV65Skel.so /usr/lib/rfsa/adsp $ brú adb ./lib/hexagon-v66/unsigned/ libQnnDspV66Skel.so /usr/lib/rfsa/adsp $ adb bhrú ./lib/hexagon-v68/unsigned libQnnHtpV68Skel.so /usr/lib/rfsa/adsp $ adb bhrú ./lib/hexagon-v69/unsigned/ libQnnHtpV69Skel.so /usr/lib/rfsa/adsp $ adb bhrú ./lib/hexagon-v73/V73Skel.so /usr/lib/rfsa/adsp mar sin /usr/lib/rfsa/adsp

Tástáil Qualcomm TFLite SDK

Soláthraíonn an Qualcomm TFLite SDK example feidhmchláir, ar féidir iad a úsáid chun na samhlacha is mian le forbróir a mheasúnú a bhailíochtú, a thagarmharcáil agus a fháil.
Tar éis na pacáistí Qualcomm TFLite SDK a bheith suiteáilte ar an ngléas, tá an t-am rite ar fáil ar an ngléas chun iad seo a rith example hiarratais.
Réamhriachtanas
Cruthaigh na heolairí seo a leanas ar an ngléas:
blaosc $ adb “mkdir / data/Models”
blaosc $ adb “mkdir / data/Lables”
blaosc $ adb “mkdir /data/profiling”

Íomhá lipéad

Is éard atá in íomhá lipéad ná áirgiúlacht a sholáthraíonn an Qualcomm TFLite SDK a thaispeánann conas is féidir leat samhail TensorFlow Lite réamhthraenáilte agus tiontaithe a luchtú agus é a úsáid chun réada in íomhánna a aithint. Réamhriachtanais:
Íosluchtaigh sample samhail agus íomhá:
Is féidir leat aon mhúnla comhoiriúnach a úsáid, ach tugann an tsamhail MobileNet v1 seo a leanas léiriú maith ar shamhail atá oilte chun 1000 réad difriúil a aithint.

  • Faigh múnla
    $curl https://stóráil.googleapis.com/download.tensorflow.org/models/ mobilenet_v1_2018_02_22/mobilenet_v1_1.0_224.tgz | tar xzv -C / sonraí $ mv /data/mobilenet_v1_1.0_224.tflite /data/Models/
  • Faigh lipéid
    $curl https://stóráil.googleapis.com/download.tensorflow.org/models/ mobilenet_v1_1.0_224_frozen.tgz | tar xzv -C /data mobilenet_v1_1.0_224/ labels.txt
    $ mv /data/mobilenet_v1_1.0_224/labels.txt /data/Labels/
    Tar éis duit ceangal le coimeádán docker Qualcomm TFLite SDK, is féidir an íomhá a fháil ag:
    “/mnt/tflite/src/tensorflow/tensorflow/lite/examples/label_image/ testdata/grace_hopper.bmp”
    a. Brúigh seo file chuig/sonraí/Lipéid/
    b. Rith an t-ordú:
    $ adb bhlaosc “label_image -l /data/Labels/labels.txt -i /data/Labels/ grace_hopper.bmp -m /data/Models/mobilenet_v1_1.0_224.tflite -c 10 -j 1 -p 1”

Tagarmharc

Soláthraíonn an Qualcomm TFLite SDK an uirlis tagarmharcála chun feidhmíocht amanna rite éagsúla a ríomh.
Faoi láthair déanann na huirlisí tagarmharcála seo staidreamh a thomhas agus a ríomh maidir leis na méadrachtaí tábhachtacha feidhmíochta seo a leanas:

  • Am tionscanta
  • Am tátal a bhaineann le staid an téimh suas
  • Am tátal de staid sheasmhaigh
  • Úsáid cuimhne le linn am tosaithe
  • Úsáid iomlán cuimhne

Réamhriachtanais

Brúigh na múnlaí atá le tástáil ó TFLite Model Zoo ( https://tfhub.dev/) chuig/sonraí/Samhail/. Rith an na scripteanna seo a leanas:  

  • Pacáiste XNN
    $blaosc adb “tagarmharc_model –graph=/data/Models/ — enable_op_profiling= fíor –use_xnnpack= fíor –num_threads=4 –max_secs=300 –profiling_output_csv_file=/sonraí/próifíliú/”
  • Toscaire GPU
    $ adb shell “tagarmharc_model –graph=/data/Models/ — enable_op_profiling= fíor –use_gpu= fíor –num_runs=100 –warmup_runs=10 — max_secs=300 –profiling_output_csv_file=/sonraí/próifíliú/”
  • Toscaire Seachtrach
    GPU Toscaire Seachtrach QNN:
    Rith tátal le samhail snámhphointe:
    $ adb shell-command “tagarmharc_model –graph=/data/Models/ .tflite –external_delegate_path=libQnnTFLiteDelegate.so — external_delegate_options='backend_type:gpu;library_path:/usr/lib/ libQnnGpu.so;libQnnGpu.so;libQnnGpu.so;libQnnGpu.so;libQnnGpu.so;library/library /adsp'”
    HTP Toscaire Seachtrach QNN:
    Rith tátal le samhail chainníochta:
    $ adb shell-command “tagarmharc_model –graph=/data/Models/ .tflite –external_delegate_path=libQnnTFLiteDelegate.so — external_delegate_options='backend_type:htp;library_path:/usr/lib/ libQnnHtp.solar/librskelf:/library /adsp'”

Uirlis cruinnis

Soláthraíonn an Qualcomm TFLite SDK uirlis chruinneas chun cruinneas samhlacha a ríomh le hamanna rite éagsúla.

  • Aicmiú le toscaire GPU
    Na céimeanna is gá a íoslódáil files le tástáil a fháil ag: “/mnt/tflite/src/tensorflow/tensorflow/lite/tools/evaluation/tasks/ imagenet_image_classificatio/README.md”
    Tá an dénártha chun an uirlis seo a rith mar chuid den SDK cheana féin, mar sin ní gá don fhorbróir é a thógáil arís.
    blaosc $ adb “image_classify_run_eval — model_file=/data/Models/ –ground_truth_images_path=/data/ — ground_truth_labels=/data/ –model_output_labels=/ data/ –delegate=gpu”
  • Brath réad le pacáiste XNN
    $ adb bhlaosc “inf_diff_run_eval –model_file=/data/Samhail/ –delegate=xnnpac

EOLAS DLÍTHIÚIL

Do rochtain ar an doiciméad seo agus d’úsáid a bhaint as, mar aon le haon sonraíochtaí, bord tagartha files, líníochtaí, diagnóisic agus faisnéis eile atá anseo (le chéile seo “Doiciméadú”), atá faoi réir do chuid (lena n-áirítear an chorparáid nó aonán dlíthiúil eile a ndéanann tú ionadaíocht dó, i dteannta a chéile “Tusa” nó “Do”) glacadh leis na téarmaí agus coinníollacha (“Téarmaí Úsáide”) leagtha amach thíos. Mura n-aontaíonn Tú leis na Téarmaí Úsáide seo, ní fhéadfaidh tú an Doiciméadúchán seo a úsáid agus scriosfaidh tú aon chóip díobh láithreach.

  1. Fógra Dlíthiúil.
    Tá an Doiciméadúchán seo á chur ar fáil Duit le haghaidh D’úsáide inmheánaí amháin leis na táirgí agus na tairiscintí seirbhíse sin de chuid Qualcomm Technologies, Inc. (“Qualcomm Technologies”) agus a chleamhnaithe a bhfuil cur síos orthu sa Doiciméadúchán seo, agus ní úsáidfear é chun críocha ar bith eile. Ní féidir an Doiciméadúchán seo a athrú, a chur in eagar ná a mhodhnú ar bhealach ar bith gan cead scríofa a fháil roimh ré ó Qualcomm Technologies. Úsáid nó nochtadh neamhúdaraithe seo
    Tá cosc ​​dian ar dhoiciméadú nó ar an bhfaisnéis atá anseo, agus Aontaíonn Tú Qualcomm Technologies, a chleamhnaithe agus a cheadúnóirí a shlánú as aon damáiste nó caillteanas a d’fhulaing Qualcomm Technologies, a chleamhnaithe agus a cheadúnaithe as aon úsáidí neamhúdaraithe nó nochtadh neamhúdaraithe den Doiciméadú seo, go hiomlán nó chuid. Coinníonn Qualcomm Technologies, a chleamhnaithe agus a cheadúnóirí gach ceart agus úinéireacht sa Doiciméadúchán seo agus a ghabhann leis. Ní dheonaítear nó ní intuigthe leis an gCáipéis seo ná le haon fhaisnéis a nochtar anseo, lena n-áirítear, ach gan a bheith teoranta do, aon cheadúnas chun aon cheadúnas a dhéanamh, a úsáid, a allmhairiú nó a allmhairiú ceadúnas a cheadú maidir le trádmharc, paitinn, cóipcheart, ceart cosanta saothar masc nó aon cheart maoine intleachtúla eile. aon táirge, seirbhís nó tairiscint teicneolaíochta a dhíol a chuimsíonn aon chuid den fhaisnéis sa Doiciméadúchán seo.
    TÁ AN DOICIMÉADÚ SEO Á SHOLÁTHAR “MAR A BHFUIL” GAN BARÁNTA D'AON CHINEÁL, CUIR ISTEACH, INTUIGTHE, REACHTÚIL NÓ EILE. DÉANAMH SÉANAMH GO SONRACH GACH BARÁNTAÍ TEIDIL, INFHEISTÍOCHTA, NEAMHSHÁRÚ, OIRIÚNACHT CHUN CUSPÓIR SONRAITHE, IONCHINNTÍ, IONCHINNTÍ, IONCHINNTÍ, IONCAIM AG eascairt AS ÚSÁID TRÁDÁLA NÓ AS CÚRSA DÉILEÁIL NÓ CÚRSA FEIDHMÍOCHTA. Thairis sin, NÍ BHÍONN NÍ TEICNEOLAÍOCHTAÍ QUALCOMM, NÍ CHEANN AR AON A GHABHÁLACHA NÓ A CEADÚNAITHEOIRÍ, DHÍOBHÁID FAOI CHOSTAIS, CAILLTEANAS, ÚSÁID, NÓ GNÍOMHAÍOCHTAÍ FAOI DLITEANAS ÓGA NÓ AON TRÍÚ PÁIRTITHE.
    Féadfaidh feisteáin táirgí, uirlisí agus ábhair áirithe dá dtagraítear sa Doiciméadúchán seo a cheangal ort glacadh le téarmaí agus coinníollacha breise roimh rochtain a fháil ar na hearraí sin nó roimh úsáid a bhaint astu.
    Féadfaidh sonraí teicniúla a shonraítear sa Doiciméadúchán seo a bheith faoi réir dhlíthe SAM agus dlíthe rialaithe onnmhairí infheidhme eile. Tá toirmeasc dian ar tharchur contrártha le SAM agus le haon dlí eile is infheidhme.
    Níl aon rud sa Doiciméadúchán seo ina thairiscint chun aon cheann de na comhpháirteanna nó feistí dá dtagraítear anseo a dhíol.
    Is féidir an Doiciméadúchán seo a athrú gan a thuilleadh fógra a thabhairt. I gcás coimhlinte idir na Téarmaí Úsáide seo agus an WebTéarmaí Úsáide an tsuímh ar www.qualcomm.com nó Beartas Príobháideachta Qualcomm dá dtagraítear ar www.qualcomm.com, rialóidh na Téarmaí Úsáide seo. I gcás coimhlinte idir na Téarmaí Úsáide seo agus aon chomhaontú eile (scríofa nó cliceáil tríd) arna fhorghníomhú ag Tú féin agus Qualcomm Technologies nó ag cleamhnaithe Qualcomm Technologies maidir le Do rochtain ar an Doiciméadúchán seo agus úsáid a bhaint as, rialóidh an comhaontú eile .
    Déanfar na Téarmaí Úsáide seo a rialú agus a fhorléiriú agus a fhorghníomhú de réir dhlíthe Stát California, gan Coinbhinsiún na NA ar Dhíol Idirnáisiúnta Earraí a áireamh, gan aird ar phrionsabail easaontachta dlíthe. Is í cúirt dlínse inniúla i gcontae San Diego, Stát California, amháin a bhreithneoidh aon díospóid, éileamh nó conspóid a eascróidh as na Téarmaí Úsáide seo nó a bhaineann leo, nó an sárú nó an bailíocht a ghabhann leo, agus toiliúíonn Tú leis seo leis seo. dlínse phearsanta na gcúirteanna sin chun na críche sin.
  2. Ráitis Trádmharcanna agus Leithdháiltí Táirge.
    Is trádmharc nó trádmharc cláraithe de chuid Qualcomm Incorporated é Qualcomm. Trádmharc cláraithe de chuid Arm Limited (nó a fhochuideachtaí) sna SA agus/nó in áiteanna eile is ea Arm. Is trádmharc cláraithe é an focalmharc Bluetooth® atá faoi úinéireacht Bluetooth SIG, Inc. Féadfaidh ainmneacha táirgí agus branda eile dá dtagraítear sa Doiciméadúchán seo a bheith ina dtrádmharcanna nó ina dtrádmharcanna cláraithe dá n-úinéirí faoi seach.
    Is táirgí de chuid Qualcomm Technologies, Inc. agus/nó a fhochuideachtaí iad táirgí brandáilte Snapdragon agus Qualcomm dá dtagraítear sa Doiciméadúchán seo. Tá teicneolaíochtaí paitinnithe Qualcomm ceadúnaithe ag Qualcomm Incorporated.

Lógó Cuideachta

Doiciméid / Acmhainní

Bogearraí SDK Qualcomm TensorFlow Lite [pdfTreoir Úsáideora
Bogearraí SDK TensorFlow Lite, Bogearraí SDK Lite, Bogearraí SDK, Bogearraí

Tagairtí

Fág trácht

Ní fhoilseofar do sheoladh ríomhphoist. Tá réimsí riachtanacha marcáilte *