Qualcomm TensorFlow Lite SDK సాఫ్ట్‌వేర్ యూజర్ గైడ్

పునర్విమర్శ చరిత్ర

పునర్విమర్శ	తేదీ	వివరణ
AA	సెప్టెంబర్ 2023	ప్రారంభ విడుదల
AB	అక్టోబర్ 2023	In ప్లాట్‌ఫారమ్ SDKని రూపొందించండి, యూజర్ స్పేస్ ఇమేజ్‌లు మరియు ప్లాట్‌ఫారమ్ SDKని రూపొందించడానికి ఆదేశాలను నవీకరించింది చేర్చబడింది Linux వర్క్‌స్టేషన్‌తో TFLite SDKని రూపొందించండి చేర్చబడింది QNN బాహ్య TFLite ప్రతినిధితో పని చేయండి In బెంచ్ మార్క్, బాహ్య ప్రతినిధి కోసం స్క్రిప్ట్‌లు నవీకరించబడ్డాయి

Qualcomm TFLite SDK సాధనాలకు పరిచయం

Qualcomm TensorFlow Lite సాఫ్ట్‌వేర్ డెవలప్‌మెంట్ కిట్ (Qualcomm TFLite SDK) సాధనాలు ఆన్-డివైస్ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) ఇన్ఫరెన్సింగ్ కోసం TensorFlow లైట్ ఫ్రేమ్‌వర్క్‌ను అందిస్తాయి, ఇది అప్లికేషన్ డెవలపర్‌లకు తగిన AI అప్లికేషన్‌లను డెవలప్ చేయడానికి లేదా అమలు చేయడానికి వీలు కల్పిస్తుంది.
ఈ పత్రం స్వతంత్ర Qualcomm TFLite SDKని కంపైల్ చేయడానికి మరియు అభివృద్ధి వాతావరణాన్ని సెటప్ చేయడానికి దశల వారీ సూచనలను అందిస్తుంది. ఇది డెవలపర్ వర్క్‌ఫ్లోను ప్రారంభిస్తుంది, ఇందులో ఇవి ఉంటాయి:

• డెవలపర్ Qualcomm TFLite SDKని కంపైల్ చేయగల బిల్డ్ ఎన్విరాన్మెంట్‌ని సెటప్ చేయడం
• స్వతంత్ర Qualcomm TFLite SDK అప్లికేషన్‌లను అభివృద్ధి చేస్తోంది

మద్దతు కోసం, https:// చూడండిwww.qualcomm.com/మద్దతు. కింది బొమ్మ Qualcomm TFLite SDK వర్క్‌ఫ్లో సారాంశాన్ని అందిస్తుంది: ”
మూర్తి 1-1 Qualcomm TFLite SDK వర్క్‌ఫ్లో
సాధనానికి ప్లాట్‌ఫారమ్ SDK మరియు కాన్ఫిగరేషన్ అవసరం file (JSON ఫార్మాట్) Qualcomm TFLite SDK కళాఖండాలను రూపొందించడానికి.

మల్టీమీడియా, AI మరియు కంప్యూటర్ విజన్ (CV) సబ్‌సిస్టమ్‌లను ఉపయోగించి ఎండ్-టు-ఎండ్ అప్లికేషన్‌ను రూపొందించడానికి, Qualcomm ఇంటెలిజెంట్ మల్టీమీడియా SDK (QIM SDK) క్విక్ స్టార్ట్ గైడ్ (80-50450-51) చూడండి.
CodeLinaro విడుదలతో Qualcomm TFLite SDK వెర్షన్ మ్యాపింగ్‌ను పట్టిక చూపుతుంది tag:
పట్టిక 1-1 విడుదల సమాచారం

Qualcomm TFLite SDK వెర్షన్	కోడ్లినారో విడుదల tag
V1.0	Qualcomm TFLITE.SDK.1.0.r1-00200-TFLITE.0
	TFLITE.SDK.1.0.r1-00500-TFLITE.0.xml

టేబుల్ 1-2 Qualcomm TFLite SDK వెర్షన్‌లకు మద్దతు ఉంది

Qualcomm TFLite SDK వెర్షన్	మద్దతు ఉన్న సాఫ్ట్‌వేర్ ఉత్పత్తి	మద్దతు TFLite వెర్షన్
V1.0	QCS8550.LE.1.0	2.6.0
		2.8.0
		2.10.1
		2.11.1
		2.12.1
		2.13.0

సూచనలు
టేబుల్ 1-3 సంబంధిత పత్రాలు

శీర్షిక	సంఖ్య
Qualcomm
00067.1 QCS8550.LE.1.0 కోసం విడుదల గమనిక	RNO-230830225415
Qualcomm ఇంటిలిజెంట్ మల్టీమీడియా SDK (QIM SDK) త్వరిత ప్రారంభ గైడ్	80-50450-51
క్వాల్కమ్ ఇంటెలిజెంట్ మల్టీమీడియా SDK (QIM SDK) సూచన	80-50450-50
వనరులు
https://source.android.com/docs/setup/start/initializing	–

టేబుల్ 1-4 ఎక్రోనింస్ మరియు డెఫినిషన్స్

ఎక్రోనిం లేదా పదం	నిర్వచనం
AI	కృత్రిమ మేధస్సు
BIOS	ప్రాథమిక ఇన్‌పుట్/అవుట్‌పుట్ సిస్టమ్
CV	కంప్యూటర్ దృష్టి
IPK	ఇట్సీ ప్యాకేజీ file
QIM SDK	క్వాల్కమ్ ఇంటెలిజెంట్ మల్టీమీడియా సాఫ్ట్‌వేర్ డెవలప్‌మెంట్ కిట్
SDK	సాఫ్ట్‌వేర్ డెవలప్‌మెంట్ కిట్
TFLite	టెన్సర్‌ఫ్లో లైట్
XNN	Xth సమీప పొరుగు

Qualcomm TFLite SDK సాధనాల కోసం నిర్మాణ వాతావరణాన్ని సెటప్ చేయండి

Qualcomm TFLite SDK సాధనాలు మూలం రూపంలో విడుదల చేయబడ్డాయి; కాబట్టి, దానిని కంపైల్ చేయడానికి బిల్డ్ ఎన్విరాన్‌మెంట్‌ను ఏర్పాటు చేయడం తప్పనిసరి అయితే ఒక-పర్యాయ సెటప్.

ముందస్తు అవసరాలు

• మీరు Linux హోస్ట్ మెషీన్‌కు సుడోయాక్సెస్‌ని కలిగి ఉన్నారని నిర్ధారించుకోండి.
• Linux హోస్ట్ వెర్షన్ ఉబుంటు 18.04 లేదా ఉబుంటు 20.04 అని నిర్ధారించుకోండి.
• హోస్ట్ సిస్టమ్‌లో గరిష్ట వినియోగదారు గడియారాలు మరియు గరిష్ట వినియోగదారు ఉదాహరణలను పెంచండి.
• కింది కమాండ్ లైన్‌లను/etc/sysctl.conf మరియు హోస్ట్‌ని రీబూట్ చేయడానికి జోడించండి: fs.inotify.max_user_instances=8192 fs.inotify.max_user_watches=542288

అవసరమైన హోస్ట్ ప్యాకేజీలను ఇన్‌స్టాల్ చేయండి

హోస్ట్ ప్యాకేజీలు Linux హోస్ట్ మెషీన్‌లో ఇన్‌స్టాల్ చేయబడ్డాయి.
హోస్ట్ ప్యాకేజీలను ఇన్‌స్టాల్ చేయడానికి ఆదేశాలను అమలు చేయండి: $ sudo apt install -y jq $ sudo apt install -y texinfo chrpath libxml-simple-perl openjdk-8-jdkheadless
ఉబుంటు 18.04 మరియు అంతకంటే ఎక్కువ కోసం:
$ sudo apt-get install git-core gnupg flex bison build-essential zip curl zlib1g-dev gcc-multilib g++-multilib libc6-dev-i386 libncurses5 lib32ncurses5- dev x11proto-core-dev libx11-dev lib32z1-dev libgl1-mesa-dev libxml2-utilc unconfipsltproigs
మరింత సమాచారం కోసం, https://s చూడండిource.android.com/docs/setup/start/initializing.

డాకర్ వాతావరణాన్ని సెటప్ చేయండి

డాకర్ అనేది సాఫ్ట్‌వేర్‌ను రూపొందించడానికి, అభివృద్ధి చేయడానికి, పరీక్షించడానికి మరియు పంపిణీ చేయడానికి ఉపయోగించే ప్లాట్‌ఫారమ్. SDKని కంపైల్ చేయడానికి, డాకర్ తప్పనిసరిగా Linux హోస్ట్ మెషీన్‌లో కాన్ఫిగర్ చేయబడాలి.
Linux హోస్ట్ మెషీన్‌లో CPU వర్చువలైజేషన్ ప్రారంభించబడిందని నిర్ధారించుకోండి. ఇది ప్రారంభించబడకపోతే, ప్రాథమిక ఇన్‌పుట్/అవుట్‌పుట్ సిస్టమ్ (BIOS) కాన్ఫిగరేషన్ సెట్టింగ్‌ల నుండి దీన్ని ప్రారంభించడానికి క్రింది వాటిని చేయండి:

1. BIOS నుండి వర్చువలైజేషన్‌ని ప్రారంభించండి:
   a. BIOSలోకి అడుగు పెట్టడానికి సిస్టమ్ బూట్ అవుతున్నప్పుడు F1 లేదా F2 నొక్కండి. BIOS విండో ప్రదర్శించబడుతుంది.
   b. అధునాతన ట్యాబ్‌కు మారండి.
   c. CPU కాన్ఫిగరేషన్ విభాగంలో, వర్చువలైజేషన్ టెక్నాలజీని ప్రారంభించినట్లు సెట్ చేయండి.
   a. సేవ్ చేయడానికి మరియు నిష్క్రమించడానికి F12 నొక్కండి, ఆపై సిస్టమ్‌ను పునఃప్రారంభించండి.
   ఈ దశలు పని చేయకపోతే, వర్చువలైజేషన్‌ను ప్రారంభించడానికి సిస్టమ్ ప్రొవైడర్ నుండి నిర్దిష్ట సూచనలను అనుసరించండి
2. డాకర్ యొక్క ఏవైనా పాత సందర్భాలను తీసివేయండి:
   $ sudo apt తొలగించు డాకర్-డెస్క్‌టాప్
   $ rm -r $హోమ్/.డాకర్/డెస్క్‌టాప్
   $ sudo rm /usr/local/bin/com.docker.cli
   $ sudo apt purge docker-desktop
3.  డాకర్ రిమోట్ రిపోజిటరీని సెటప్ చేయండి:
   $ sudo apt-get update $ sudo apt-get install ca-certificates curl gnupg lsb-release $ sudo mkdir -p /etc/apt/keyrings $ curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg — dearmor -o /etc/apt/keyrings/docker.gpg $ echo “deb [arch=$(dpkg –print-architecture) signed-by=/etc/apt/ keyrings/ docker.gpg] https:// download.docker.com/linux/ubuntu $ (lsb_release -cs) స్టేబుల్” | sudo tee /etc/apt/sources.list.d/ docker.list > /dev/null
4.  డాకర్ ఇంజిన్‌ను ఇన్‌స్టాల్ చేయండి:
   $ sudo apt-get update $ sudo apt-get install docker-ce docker-ce-cli
5.  డాకర్ సమూహానికి వినియోగదారుని జోడించండి:
   $ sudo groupadd docker $ sudo usermod -aG డాకర్ $USER
6.  సిస్టమ్‌ను రీబూట్ చేయండి.

ప్లాట్‌ఫారమ్ SDKని రూపొందించండి

Qualcomm TFLite SDK సాధనాలను కంపైల్ చేయడానికి ప్లాట్‌ఫారమ్ SDK తప్పనిసరి అవసరం. ఇది Qualcomm TFLite SDKకి అవసరమైన అన్ని ప్లాట్‌ఫారమ్ డిపెండెన్సీలను అందిస్తుంది.
ప్లాట్‌ఫారమ్ SDKని రూపొందించడానికి క్రింది వాటిని చేయండి:

1. ప్రాధాన్య సాఫ్ట్‌వేర్ ఉత్పత్తి కోసం బిల్డ్‌ను సృష్టించండి.
   QCS8550.LE.1.0releaseని రూపొందించడానికి సూచనలు విడుదల నోట్స్‌లో అందించబడ్డాయి. విడుదల గమనికలను యాక్సెస్ చేయడానికి, సూచనలను చూడండి.
   చిత్రాలు మునుపు నిర్మించబడి ఉంటే, 2వ దశను అమలు చేసి, ఆపై క్లీన్ బిల్డ్‌ను సృష్టించండి.
2. యూజర్ స్పేస్ ఇమేజ్‌లు మరియు ప్లాట్‌ఫారమ్ SDKని రూపొందించడానికి కింది ఆదేశాన్ని అమలు చేయండి:
   QCS8550.LE.1.0 కోసం, kalam.confలో MACHINE_FEATURESలో qti-tflite-deligate మెషీన్ ఫీచర్‌ని జోడించండి file మరియు విడుదల నోట్స్ నుండి సూచనల ప్రకారం బిల్డ్ ఎన్విరాన్‌మెంట్‌ను మూలం చేయండి.
   బిల్డ్ నుండి యూజర్ స్పేస్ ఇమేజ్‌లను రూపొందించిన తర్వాత, ప్లాట్‌ఫారమ్ SDKని రూపొందించడానికి కింది ఆదేశాన్ని అమలు చేయండి.
   $ bitbake -fc populate_sdk qti-robotics-image

Qualcomm TFLite SDK సాధనాలను రూపొందించండి - డెవలపర్ వర్క్‌ఫ్లో

Qualcomm TFLite SDK సాధనాల వర్క్‌ఫ్లో డెవలపర్ కాన్ఫిగరేషన్‌ను అందించడం అవసరం file చెల్లుబాటు అయ్యే ఇన్‌పుట్ ఎంట్రీలతో. tflite-టూల్స్ ప్రాజెక్ట్ నుండి హెల్పర్ షెల్ స్క్రిప్ట్‌లు (క్వాల్కమ్ TFLite SDK సోర్స్ ట్రీలో ఉన్నాయి) షెల్ ఎన్విరాన్‌మెంట్‌ను సెటప్ చేయడానికి హెల్పర్ యుటిలిటీ ఫంక్షన్‌లను అందిస్తాయి, వీటిని Qualcomm TFLite SDK వర్క్‌ఫ్లో కోసం ఉపయోగించవచ్చు.
డెవలపర్ కంటైనర్‌లో Qualcomm TFLite SDK ప్రాజెక్ట్‌లను నిర్మిస్తారు మరియు tflite-టూల్స్ అందించిన యుటిలిటీలను ఉపయోగించి కళాఖండాలను రూపొందిస్తారు.
Qualcomm TFLite SDK కంటైనర్‌ను రూపొందించిన తర్వాత, డెవలపర్ కంటైనర్‌కు జోడించవచ్చు మరియు నిరంతర అభివృద్ధి కోసం కంటైనర్ షెల్ వాతావరణంలో సహాయక వినియోగాలను ఉపయోగించవచ్చు.

• USB/adb ద్వారా Linux హోస్ట్‌కు కనెక్ట్ చేయబడిన Qualcomm పరికరానికి Qualcomm TFLite SDK కళాఖండాలను ఇన్‌స్టాల్ చేయడానికి ఒక నిబంధన ఉంది.
• Qualcomm TFLite SDK కళాఖండాలను కంటైనర్ నుండి Qualcomm పరికరం కనెక్ట్ చేయబడిన వేరొక హోస్ట్ మెషీన్‌కు కాపీ చేయడానికి కూడా ఒక నిబంధన ఉంది.
  

Qualcomm TFLite SDKని నిర్మించడానికి సహాయక స్క్రిప్ట్‌లను ఉపయోగించి కంటైనర్ బిల్డ్ ఎన్విరాన్‌మెంట్‌ను సెటప్ చేసిన తర్వాత అందుబాటులో ఉన్న యుటిలిటీల సెట్‌ను క్రింది బొమ్మ జాబితా చేస్తుంది.

ఫిగర్ యుటిలిటీల అమలు క్రమాన్ని చూపుతుంది:
మూర్తి 4-3 హోస్ట్‌లోని యుటిలిటీల క్రమం

Qualcomm TFLite SDKని సమకాలీకరించండి మరియు నిర్మించండి
డాకర్ ఇమేజ్ సృష్టించబడినప్పుడు Qualcomm TFLite SDK కంపైల్ చేయబడుతుంది. Qualcomm TFLite SDKని సమకాలీకరించడానికి మరియు నిర్మించడానికి, ఈ క్రింది వాటిని చేయండి:

1. హోస్ట్‌లో డైరెక్టరీని సృష్టించండి file Qualcomm TFLite SDK కార్యస్థలాన్ని సమకాలీకరించడానికి సిస్టమ్. కోసం
   exampలే: $mkdir $cd
2. CodeLinaro నుండి Qualcomm TFLite SDK సోర్స్ కోడ్‌ని పొందండి:
   $ repo init -u https://git.codelinaro.org/clo/le/sdktflite/tflite/ manifest.git –repo-branch=qc/stable –repo-url=git://git.quicinc.com/ tools/repo.git -m TFLITE.SDK.1.0.r1-00200-TFLITE.0.xml -b విడుదల && రెపో సమకాలీకరణ -qc –no-tags -j
3. హోస్ట్‌లో డైరెక్టరీని సృష్టించండి file డాకర్‌లో అమర్చగల వ్యవస్థ. ఉదాహరణకుample: mkdir-p / ఈ డైరెక్టరీని Linux హోస్ట్ మెషీన్‌లో ఎక్కడైనా సృష్టించవచ్చు మరియు ఇది Qualcomm TFLite SDK ప్రాజెక్ట్ ఎక్కడ సమకాలీకరించబడిందనే దానిపై ఆధారపడి ఉండదు. కంటైనర్‌లో వర్క్‌ఫ్లో పూర్తయిన తర్వాత, Qualcomm TFLite SDK కళాఖండాలను ఈ దశలో సృష్టించిన డైరెక్టరీలో కనుగొనవచ్చు.
4. JSON కాన్ఫిగరేషన్‌ను సవరించండి file కింది ఎంట్రీలతో /tflite-tools/ targets/le-tflite-tools-builder.jsonలో ఉన్నాయి:
   “చిత్రం”: “tflite-tools-builder”, “Device_OS”: “le”, “Additional_tag”: “”, “TFLite_Version”: “2.11.1”, “ప్రతినిధులు”: { “Hexagon_delegate”: “OFF”, “Gpu_delegate”: “ON”, “Xnnpack_delegate”: “ON” }, “TFLite_rsync_destination”: “ /", "SDK_path": "/build-qti-distro-fullstack-perf/tmpglibc/deploy/sdk>", "SDK_shell_file”: “”, “Base_Dir_Location”: “”}
   json కాన్ఫిగరేషన్‌లో పేర్కొన్న ఎంట్రీలపై మరింత సమాచారం కోసం file, Docker.md readme చూడండి file వద్ద /tflite-tools/.
   గమనిక QCS8550 కోసం, Qualcomm® Hexagon™ DSP ప్రతినిధికి మద్దతు లేదు.
5. పర్యావరణాన్ని సెటప్ చేయడానికి స్క్రిప్ట్‌ను సోర్స్ చేయండి:
   $ cd /tflite-tools $ source ./scripts/host/docker_env_setup.sh
6.  Qualcomm TFLite SDK డాకర్ చిత్రాన్ని రూపొందించండి: $ tflite-tools-host-build-image ./targets/le-tflite-tools-builder.json బిల్డ్ సెటప్ విఫలమైతే, ట్రబుల్షూట్ డాకర్ సెటప్ చూడండి. విజయవంతంగా పూర్తయిన తర్వాత, కింది సందేశం ప్రదర్శించబడుతుంది: “స్థితి: చిత్రాన్ని నిర్మించడం విజయవంతంగా పూర్తయింది!!” ఈ దశను అమలు చేయడం Qualcomm TFLite SDKని కూడా నిర్మిస్తుంది.
7.  Qualcomm TFLite SDK డాకర్ కంటైనర్‌ను అమలు చేయండి. ఇది కంటైనర్‌ను దీనితో ప్రారంభిస్తుంది tags JSON కాన్ఫిగరేషన్‌లో అందించబడింది file. $tflite-tools-host-run-container ./targets/le-tflite-tools-builder.json
8. మునుపటి దశ నుండి ప్రారంభించిన కంటైనర్‌కు అటాచ్ చేయండి.
   $ డాకర్ అటాచ్

Qualcomm TFLite SDK సంకలనం చేయబడింది మరియు కళాఖండాలు అమలు చేయడానికి సిద్ధంగా ఉన్నాయి లేదా మరిన్ని చేయవచ్చు
QIM SDK TFLite ప్లగ్-ఇన్‌ను రూపొందించడానికి ఉపయోగించబడుతుంది.

కళాఖండాలను హోస్ట్ చేయడానికి మరియు అమర్చడానికి పరికరాన్ని కనెక్ట్ చేయండి]

సంకలనం తర్వాత, పరికరాన్ని హోస్ట్‌కి కనెక్ట్ చేయడానికి మరియు అమలు చేయడానికి రెండు మెకానిజమ్‌లు ఉన్నాయి
Qualcomm TFLite SDK కళాఖండాలు.

• పరికరం స్థానిక Linux హోస్ట్‌కి కనెక్ట్ చేయబడింది:
  డెవలపర్ పరికరాన్ని వర్క్‌స్టేషన్‌కి కనెక్ట్ చేస్తాడు మరియు కంటైనర్ నుండి నేరుగా పరికరంలో (QCS8550) Qualcomm TFLite SDK కళాఖండాలను ఇన్‌స్టాల్ చేస్తాడు.
• పరికరం రిమోట్ హోస్ట్‌కి కనెక్ట్ చేయబడింది:
  డెవలపర్ పరికరాన్ని రిమోట్ వర్క్‌స్టేషన్‌కు కనెక్ట్ చేస్తాడు మరియు వారు పరికరానికి Qualcomm TFLite SDK కళాఖండాలను ఇన్‌స్టాల్ చేయడానికి Windows మరియు Linux ప్లాట్‌ఫారమ్‌లలో ప్యాక్ మేనేజర్ ఇన్‌స్టాలర్ ఆదేశాలను ఉపయోగించవచ్చు (QCS8550)

మూర్తి 4-4 డెవలపర్ మరియు రిమోట్ వర్క్‌స్టేషన్‌కు పరికర బోర్డు యొక్క కనెక్షన్

పరికరాన్ని వర్క్‌స్టేషన్‌కి కనెక్ట్ చేయండి

పరికరం వర్క్‌స్టేషన్‌కు కనెక్ట్ చేయబడింది మరియు డెవలప్‌మెంట్ కంటైనర్ USB/adb ద్వారా పరికరాన్ని యాక్సెస్ చేయగలదు.
ఫిగర్ చూపిస్తుంది stages Qualcomm TFLite SDK వర్క్‌ఫ్లో క్రమంలో:

1. పరికరానికి కళాఖండాలను ఇన్‌స్టాల్ చేయడానికి కింది ఆదేశాలను అమలు చేయండి:
   $ tflite-tools-device-prepare
   $ tflite-టూల్స్-డివైస్-డిప్లాయ్
2. కళాఖండాలను అన్‌ఇన్‌స్టాల్ చేయడానికి, కింది ఆదేశాన్ని అమలు చేయండి:
   $ tflite-tools-device-packages-remove

పరికరాన్ని రిమోట్ మెషీన్‌కు కనెక్ట్ చేయండి

పరికరం రిమోట్ మెషీన్‌కు కనెక్ట్ చేయబడింది మరియు Qualcomm TFLite SDK కంటైనర్ USB/ad b ద్వారా పరికరాన్ని యాక్సెస్ చేయదు.
ఫిగర్ చూపిస్తుంది stages Qualcomm TFLite SDK వర్క్‌ఫ్లో క్రమంలో:

కళాఖండాలను రిమోట్ మెషీన్‌కు కాపీ చేయడానికి tflite-టూల్స్ కంటైనర్‌లో కింది ఆదేశాలను అమలు చేయండి
పరికరంలోని ప్యాకేజీ నిర్వాహికిని బట్టి:
$ tflite-tools-remote-sync-ipk-rel-pkg
గమనిక రిమోట్ మెషిన్ సమాచారం JSON కాన్ఫిగరేషన్‌లో అందించబడింది file.
Windows ప్లాట్‌ఫారమ్ కోసం కళాఖండాలను ఇన్‌స్టాల్ చేయండి
Qualcomm TFLite SDK కళాఖండాలను రిమోట్ మెషీన్ యొక్క ఆపరేటింగ్ సిస్టమ్ ఆధారంగా పరికరంలో ఇన్‌స్టాల్ చేయవచ్చు.

విండోస్ ప్లాట్‌ఫారమ్ కోసం, ఈ క్రింది వాటిని చేయండి:
PowerShellలో, కింది స్క్రిప్ట్‌ని ఉపయోగించండి: PS C:
> adb రూట్ PS C:> adb డిసేబుల్-వెరిటీ PS C:> adb రీబూట్ PS C:> adb వెయిట్-ఫర్ డివైస్ PS C:> adb రూట్ PS C:> adb రీమౌంట్ PS C:> adb షెల్ మౌంట్ -o రీమౌంట్, rw / PS C:> adb షెల్ “mkdir -p /tmp” PS C:> adb push /tmp ప్యాకేజీ ipk అయితే (QCS8550.LE.1.0 కోసం), కింది ఆదేశాలను ఉపయోగించండి: PS C:> adb షెల్ “ opkg –force-depends –force-reinstall –force-overwrite install /tmp/”

Linux ప్లాట్‌ఫారమ్ కోసం కళాఖండాలను ఇన్‌స్టాల్ చేయండి
కింది ఆదేశాలను ఉపయోగించండి:
$ adb రూట్ $ adb disable-verity $ adb రీబూట్ $ adb వెయిట్-ఫర్-డివైస్ $ adb రూట్ $ adb రీమౌంట్ $ adb షెల్ మౌంట్ -o రీమౌంట్,rw / $ adb షెల్ “mkdir -p /tmp” $ adb పుష్ /tmp అయితే ప్యాకేజీ ఒక ipk (QCS8550.LE.1.0 కోసం): $ adb షెల్ “opkg –force-depends –force-reinstall –force-overwrite install /tmp/”

డాకర్ చిత్రాన్ని క్లీన్ అప్ చేయండి
డెవలపర్ వర్క్‌ఫ్లోను పూర్తి చేసిన తర్వాత, డిస్క్‌లో నిల్వను ఖాళీ చేయడానికి డాకర్ వాతావరణాన్ని శుభ్రం చేయాలి. డాకర్‌ను శుభ్రపరచడం వలన ఉపయోగించని కంటైనర్‌లు మరియు ఇమేజ్‌లు తొలగిపోతాయి, తద్వారా డిస్క్ స్థలం ఖాళీ అవుతుంది.
డాకర్ చిత్రాన్ని శుభ్రం చేయడానికి క్రింది ఆదేశాలను ఉపయోగించండి:

1. Linux వర్క్‌స్టేషన్‌లో కింది ఆదేశాన్ని అమలు చేయండి:
   $ cd /tflite-టూల్స్
2. కంటైనర్ను ఆపు:
   $ tflite-tools-host-stop-container ./targets/ le-tflite-tools-builder.json
3. కంటైనర్ తొలగించండి:
   $ tflite-tools-host-rm-container ./targets/ le-tflite-tools-builder.json
4. పాత డాకర్ చిత్రాలను తీసివేయండి:
   $ tflite-టూల్స్-హోస్ట్-ఇమేజెస్-క్లీనప్

డాకర్ సెటప్‌ని పరిష్కరించండి

tflite-tools-host-build-image ఆదేశం పరికరం సందేశంలో మిగిలి ఉన్న Nospaceని తిరిగి ఇస్తే, డాకర్ డైరెక్టరీని/local/mntకి తరలించండి. సెటప్‌ను పరిష్కరించడానికి ఈ క్రింది వాటిని చేయండి:

1. ఇప్పటికే ఉన్న డాకర్‌ని బ్యాకప్ చేయండి files:
   $ tar -zcC /var/lib docker > /mnt/pd0/var_lib_docker-backup-$(తేదీ + %s).tar.gz
2. డాకర్‌ను ఆపు:
   $ సర్వీస్ డాకర్ స్టాప్
3. డాకర్ ప్రాసెస్ ఏదీ అమలులో లేదని ధృవీకరించండి:
   $ ps ఫాక్స్ | grep డాకర్
4. డాకర్ డైరెక్టరీ నిర్మాణాన్ని తనిఖీ చేయండి:
   $ sudo ls /var/lib/docker/
5. డాకర్ డైరెక్టరీని కొత్త విభజనకు తరలించండి:
   $ mv /var/lib/docker /local/mnt/docker
6. కొత్త విభజనలో డాకర్ డైరెక్టరీకి సిమ్‌లింక్ చేయండి:
   $ ln -s /local/mnt/docker /var/lib/docker
7. డాకర్ డైరెక్టరీ నిర్మాణం మారకుండా ఉందని నిర్ధారించుకోండి:
   $ sudo ls /var/lib/docker/
8. డాకర్‌ని ప్రారంభించండి:
   $ సర్వీస్ డాకర్ ప్రారంభం
9. డాకర్ డైరెక్టరీని తరలించిన తర్వాత అన్ని కంటైనర్‌లను పునఃప్రారంభించండి.

Linux వర్క్‌స్టేషన్‌తో TFLite SDKని రూపొందించండి

Linux వర్క్‌స్టేషన్‌ని ఉపయోగించి కంటైనర్‌లు లేకుండా TFLite SDK వర్క్‌ఫ్లో ప్రారంభించబడుతుంది. ఈ విధానం కంటైనర్లను ఉపయోగించటానికి ప్రత్యామ్నాయం.
Qualcomm TFLite SDKని సమకాలీకరించడానికి మరియు నిర్మించడానికి, ఈ క్రింది వాటిని చేయండి:

1. హోస్ట్‌లో డైరెక్టరీని సృష్టించండి file Qualcomm TFLite SDK కార్యస్థలాన్ని సమకాలీకరించడానికి సిస్టమ్. ఉదాహరణకుampలే:
   $mkdir
   $cd
2. CodeLinaro నుండి Qualcomm TFLite SDK సోర్స్ కోడ్‌ని పొందండి:
   $ repo init -u https://git.codelinaro.org/clo/le/sdktflite/tflite/ manifest.git –repo-branch=qc/stable –repo-url=git://git.quicinc.com/ tools/repo.git -m TFLITE.SDK.1.0.r1-00200-TFLITE.0.xml -b విడుదల && రెపో సమకాలీకరణ -qc –no-tags -j8 && రెపో సమకాలీకరణ -qc –no-tags -j8
3. 3. JSON కాన్ఫిగరేషన్‌ను సవరించండి file ప్రస్తుతం కింది ఎంట్రీలతో /tflite-tools/ targets/le-tflite-tools-builder.json
   “చిత్రం”: “tflite-tools-builder”, “Device_OS”: “le”, “Additional_tag”: “”, “TFLite_Version”: “2.11.1”, “ప్రతినిధులు”: { “Hexagon_delegate”: “OFF”, “Gpu_delegate”: “ON”, “Xnnpack_delegate”: “ON” }, “TFLite_rsync_destination”: “ ”, “SDK_path”: “/build-qti-distro-fullstack-perf/tmpglibc/deploy/sdk>”, “SDK_shell_file”: “”, “Base_Dir_Location”: “”
   json కాన్ఫిగరేషన్‌లో పేర్కొన్న ఎంట్రీలపై మరింత సమాచారం కోసం file, Docker.md readme చూడండి file వద్ద /tflite-టూల్స్/.
   గమనిక QCS8550 కోసం, షడ్భుజి DSP ప్రతినిధికి మద్దతు లేదు
4. పర్యావరణాన్ని సెటప్ చేయడానికి స్క్రిప్ట్‌ను సోర్స్ చేయండి:
   $ cd /tflite-టూల్స్
   $ source ./scripts/host/host_env_setup.sh
5. Qualcomm TFLite SDKని రూపొందించండి.
   $ tflite-టూల్స్-సెటప్ టార్గెట్స్/le-tflite-tools-builder.json
6.  TFLite SDK కళాఖండాలను సేకరించడానికి క్రింది యుటిలిటీ ఆదేశాలను అదే Linux షెల్‌లో అమలు చేయండి 
   TFLite_rsync_destination.
   $ tflite-tools-host-get-rel-package targets/le-tflite-tools-builder.json
   $ tflite-tools-host-get-dev-package targets/le-tflite-tools-builder.json
7. ఆపరేటింగ్ సిస్టమ్ ఆధారంగా కళాఖండాలను ఇన్‌స్టాల్ చేయండి
   • Windows ప్లాట్‌ఫారమ్ కోసం, PowerShellలో, కింది స్క్రిప్ట్‌ని ఉపయోగించండి
     PS C:> adb రూట్ PS C:> adb disable-verity PS C:> adb రీబూట్ PS C:> adb వెయిట్-ఫర్ డివైస్ PS C:> adb root PS C:> adb రీమౌంట్ PS C:> adb షెల్ మౌంట్ - o రీమౌంట్, rw / PS C:> adb షెల్ “mkdir -p /tmp” PS C:> adb పుష్ /tmp
     ప్యాకేజీ ipk అయితే (QCS8550.LE.1.0 కోసం), కింది ఆదేశాలను ఉపయోగించండి:
     PS C:> adb షెల్ “opkg –force-depends –force-reinstall –forceoverwrite install /tmp/
     Linux ప్లాట్‌ఫారమ్ కోసం, కింది స్క్రిప్ట్‌ని ఉపయోగించండి:
     $ adb రూట్ $ adb disable-verity $ adb రీబూట్ $ adb వెయిట్-ఫర్-డివైస్ $ adb రూట్ $ adb రీమౌంట్ $ adb షెల్ మౌంట్ -o రీమౌంట్,rw / $ adb షెల్ "mkdir -p /tmp" $ adb పుష్ /tmp ప్యాకేజీ ipk అయితే (QCS8550.LE.1.0 కోసం):
     $ adb షెల్ “opkg –force-depends –force-reinstall –force-overwrite install /tmp/”

QIM SDK బిల్డ్ కోసం Qualcomm TFLite SDK కళాఖండాలను రూపొందించండి

QIM SDKలో Qualcomm TFLite SDK GStreamer ప్లగ్-ఇన్‌ను ప్రారంభించడానికి రూపొందించిన కళాఖండాలను ఉపయోగించడానికి, ఈ క్రింది వాటిని చేయండి:

1. సమకాలీకరణలో ప్రక్రియను పూర్తి చేయండి మరియు Qualcomm TFLite SDKని రూపొందించండి, ఆపై కింది ఆదేశాన్ని అమలు చేయండి: $ tflite-tools-host-get-dev-tar-package ./targets/le-tflite-toolsbuilder.json
   ఒక తారు file ఉత్పత్తి అవుతుంది. ఇది అందించిన మార్గంలో Qualcomm TFLite SDKని కలిగి ఉంది “TFLite_rsync_destination”
2. Qualcomm TFLite SDK GStreamer ప్లగ్-ఇన్‌ని ప్రారంభించడానికి, తారుని ఉపయోగించండి file JSON కాన్ఫిగరేషన్‌లో ఆర్గ్యుమెంట్‌గా file QIM SDK బిల్డ్ కోసం.
   QIM SDKని కంపైల్ చేయడంపై సమాచారం కోసం, Qualcomm ఇంటిలిజెంట్ మల్టీమీడియా SDK (QIM SDK) క్విక్ స్టార్ట్ గైడ్ (80-50450-51) చూడండి.

Qualcomm TFLite SDKని క్రమంగా రూపొందించండి

మీరు మొదటిసారిగా Qualcomm TFLite SDKని రూపొందిస్తున్నట్లయితే, Build Qualcomm TFLite SDK సాధనాలను చూడండి – డెవలపర్ వర్క్‌ఫ్లో. అదే బిల్డ్ ఎన్విరాన్మెంట్ ఇంక్రిమెంటల్ డెవలప్‌మెంట్ కోసం తిరిగి ఉపయోగించుకోవచ్చు.
సవరించిన అప్లికేషన్‌లు మరియు ప్లగ్-ఇన్‌లను కంపైల్ చేయడానికి డెవలపర్‌లకు చిత్రంలో పేర్కొన్న సహాయక వినియోగాలు (కంటైనర్‌లో) అందుబాటులో ఉన్నాయి.
మూర్తి 5-1 కంటైనర్‌లో వర్క్‌ఫ్లో

కోడ్ డైరెక్టరీలో కోడ్ మార్పులు పూర్తయిన తర్వాత, ఈ క్రింది వాటిని చేయండి:

1. సవరించిన కోడ్‌ని కంపైల్ చేయండి:
   $ tflite-టూల్స్-ఇంక్రిమెంటల్-బిల్డ్-ఇన్‌స్టాల్
2. ప్యాకేజీ సంకలనం కోడ్:
   $ tflite-tools-ipk-rel-pkg లేదా $ tflite-tools-deb-rel-pkg
3. విడుదల ప్యాకేజీలను హోస్ట్‌తో సమకాలీకరించండి file వ్యవస్థ:
   $ tflite-tools-remote-sync-ipk-rel-pkg
   Or
   $ tflite-tools-remote-sync-deb-rel-pkg
4. దేవ్ ప్యాకేజీని సిద్ధం చేయండి:
   $ tflite-tools-ipk-dev-pkg
   సంకలనం చేయబడిన కళాఖండాలు JSONలో పేర్కొన్న TFLite_rsync_destination ఫోల్డర్‌లో కనుగొనబడ్డాయి file, ఇది ఏదైనా డైరెక్టరీకి కాపీ చేయబడుతుంది.

QNN బాహ్య TFLite ప్రతినిధితో పని చేయండి

Qualcomm ద్వారా QNN వంటి విశ్వసనీయ మూడవ పక్షం అందించిన లైబ్రరీలను ఉపయోగించి మరొక ఎగ్జిక్యూటర్‌లో మీ మోడల్‌లను (భాగం లేదా మొత్తం) అమలు చేయడానికి TFLite బాహ్య ప్రతినిధి మిమ్మల్ని అనుమతిస్తుంది. ఈ మెకానిజం అనుమితి కోసం GPU లేదా షడ్భుజి టెన్సర్ ప్రాసెసర్ (HTP) వంటి వివిధ రకాల ఆన్-డివైస్ యాక్సిలరేటర్‌లను ప్రభావితం చేయగలదు. ఇది డెవలపర్‌లకు అనుమితిని వేగవంతం చేయడానికి డిఫాల్ట్ TFLite నుండి అనువైన మరియు విడదీయబడిన పద్ధతిని అందిస్తుంది.

ముందస్తు అవసరాలు:

• QNN AI స్టాక్‌ను సంగ్రహించడానికి మీరు ఉబుంటు వర్క్‌స్టేషన్‌ని ఉపయోగిస్తున్నారని నిర్ధారించుకోండి.
• Qualcomm TFLite SDKతో కలిసి ఉండటానికి మీరు QNN వెర్షన్ 2.14ని ఉపయోగిస్తున్నారని నిర్ధారించుకోండి

QNN కోసం TFLite ఎక్స్‌టర్నల్ డెలిగేట్ ద్వారా అనేక QNN బ్యాక్-ఎండ్‌లపై అనుమతులను అమలు చేయడానికి Qualcomm TFLite SDK ప్రారంభించబడింది. సాధారణ ఫ్లాట్‌బఫర్ ప్రాతినిధ్యంతో TFLite మోడల్‌లను GPU మరియు HTPలో అమలు చేయవచ్చు.
Qualcomm TFLite SDK ప్యాకేజీలు పరికరంలో ఇన్‌స్టాల్ చేయబడిన తర్వాత, పరికరంలో QNN లైబ్రరీలను ఇన్‌స్టాల్ చేయడానికి క్రింది వాటిని చేయండి.

1. ఉబుంటు కోసం Qualcomm Package Manager 3ని డౌన్‌లోడ్ చేయండి.
   a. క్లిక్ చేయండిhttps://qpm.qualcomm.com/, మరియు టూల్స్ క్లిక్ చేయండి.
   b. ఎడమ పేన్‌లో, శోధన సాధనాల ఫీల్డ్‌లో, QPM అని టైప్ చేయండి. సిస్టమ్ OS జాబితా నుండి, Linux ఎంచుకోండి.
   శోధన ఫలితాలు Qualcomm ప్యాకేజీ నిర్వాహకుల జాబితాను ప్రదర్శిస్తాయి.
   c. Qualcomm Package Manager 3ని ఎంచుకుని, Linux debian ప్యాకేజీని డౌన్‌లోడ్ చేయండి.
2. Linux కోసం Qualcomm Package Manager 3ని ఇన్‌స్టాల్ చేయండి. కింది ఆదేశాన్ని ఉపయోగించండి:
   $ dpkg -i –force-overwrite /path/to/
   QualcommPackageManager3.3.0.83.1.Linux-x86.deb
3. Qualcomm®ని డౌన్‌లోడ్ చేయండి
   ఉబుంటు వర్క్‌స్టేషన్‌లో AI ఇంజిన్ డైరెక్ట్ SDK.
   a. క్లిక్ చేయండి https://qpm.qualcomm.com/ మరియు సాధనాలను క్లిక్ చేయండి.
   b. ఎడమ పేన్‌లో, శోధన సాధనాల ఫీల్డ్‌లో, AI స్టాక్ అని టైప్ చేయండి. సిస్టమ్ OS జాబితా నుండి, Linux ఎంచుకోండి.
   A వివిధ AI స్టాక్ ఇంజిన్‌లను కలిగి ఉన్న డ్రాప్-డౌన్ జాబితా ప్రదర్శించబడుతుంది.
   c. Qualcomm® AI ఇంజిన్ డైరెక్ట్ SDKని క్లిక్ చేసి, Linux v2.14.0 ప్యాకేజీని డౌన్‌లోడ్ చేయండి.
4. ఉబుంటు వర్క్‌స్టేషన్‌లో Qualcomm® AI ఇంజిన్ డైరెక్ట్ SDKని ఇన్‌స్టాల్ చేయండి.
   a. లైసెన్స్‌ని యాక్టివేట్ చేయండి:
   qpm-cli –license-activate qualcomm_ai_engine_direct
   b AI ఇంజిన్ డైరెక్ట్ SDKని ఇన్‌స్టాల్ చేయండి:
   $ qpm-cli –extract /path/to/ qualcomm_ai_engine_direct.2.14.0.230828.Linux-AnyCPU.qik
5. adb పుష్‌తో ఉబుంటు వర్క్‌స్టేషన్ నుండి పరికరానికి లైబ్రరీలను పుష్ చేయండి.
   $ cd /opt/qcom/aistack/qnn/2.14.0.230828 $ adb పుష్ ./lib/aarch64-oe-linux-gcc11.2/ libQnnDsp.so /usr/lib/ $ adb పుష్ ./lib/aarch64-oe- linux-gcc11.2/ libQnnDspV66Stub.so /usr/lib/ $ adb పుష్ ./lib/aarch64-oe-linux-gcc11.2/ libQnnGpu.so /usr/lib/ $ adb పుష్ ./lib/aarch64-oe- linux-gcc11.2/ libQnnHtpPrepare.so /usr/lib/ $ adb పుష్ ./lib/aarch64-oe-linux-gcc11.2/ libQnnHtp.so /usr/lib/ $ adb పుష్ ./lib/aarch64-oe- linux-gcc11.2/ libQnnHtpV68Stub.so /usr/lib/ $ adb పుష్ ./lib/aarch64-oe-linux-gcc11.2/ libQnnSaver.so /usr/lib/ $ adb పుష్ ./lib/aarch64-oe- linux-gcc11.2/ libQnnSystem.so /usr/lib/ $ adb పుష్ ./lib/aarch64-oe-linux-gcc11.2/ libQnnTFLiteDelegate.so /usr/lib/ $ adb పుష్ ./lib/hexagon-v65/ unsigned/ libQnnDspV65Skel.so /usr/lib/rfsa/adsp $ adb పుష్ ./lib/hexagon-v66/unsigned/ libQnnDspV66Skel.so /usr/lib/rfsa/adsp $ adb పుష్ ./lib/hexagons- libQnnHtpV68Skel.so /usr/lib/rfsa/adsp $ adb పుష్ ./lib/hexagon-v68/unsigned/ libQnnHtpV69Skel.so /usr/lib/rfsa/adsp $ adb పుష్ ./lib/hexagon-vt69 కాబట్టి /usr/lib/rfsa/adsp

Qualcomm TFLite SDKని పరీక్షించండి

Qualcomm TFLite SDK నిర్దిష్ట మాజీని అందిస్తుందిample అప్లికేషన్లు, డెవలపర్ అంచనా వేయాలనుకునే మోడల్‌లను ధృవీకరించడానికి, బెంచ్‌మార్క్ చేయడానికి మరియు ఖచ్చితత్వాన్ని పొందడానికి ఉపయోగించవచ్చు.
Qualcomm TFLite SDK ప్యాకేజీలను పరికరంలో ఇన్‌స్టాల్ చేసిన తర్వాత, వీటిని అమలు చేయడానికి పరికరంలో రన్‌టైమ్ అందుబాటులో ఉంటుందిample అప్లికేషన్లు.
ముందస్తు అవసరం
పరికరంలో కింది డైరెక్టరీలను సృష్టించండి:
$ adb షెల్ “mkdir /data/Models”
$ adb షెల్ “mkdir /data/Lables”
$ adb షెల్ “mkdir /data/profiling”

లేబుల్ చిత్రం

లేబుల్ ఇమేజ్ అనేది Qualcomm TFLite SDK అందించిన యుటిలిటీ, ఇది మీరు ముందుగా శిక్షణ పొందిన మరియు మార్చబడిన TensorFlow లైట్ మోడల్‌ను ఎలా లోడ్ చేయవచ్చో చూపిస్తుంది మరియు ఇమేజ్‌లలోని వస్తువులను గుర్తించడానికి దాన్ని ఎలా ఉపయోగించవచ్చో చూపుతుంది. ముందస్తు అవసరాలు:
డౌన్‌లోడ్ లుample మోడల్ మరియు చిత్రం:
మీరు ఏదైనా అనుకూలమైన మోడల్‌ని ఉపయోగించవచ్చు, కానీ క్రింది MobileNet v1 మోడల్ 1000 విభిన్న వస్తువులను గుర్తించడానికి శిక్షణ పొందిన మోడల్‌కు మంచి ప్రదర్శనను అందిస్తుంది.

• మోడల్ పొందండి
  $ సిurl https://store.googleapis.com/download.tensorflow.org/models/ mobilenet_v1_2018_02_22/mobilenet_v1_1.0_224.tgz | tar xzv -C /data $ mv /data/mobilenet_v1_1.0_224.tflite /data/Models/
• లేబుల్‌లను పొందండి
  $ సిurl https://store.googleapis.com/download.tensorflow.org/models/ mobilenet_v1_1.0_224_frozen.tgz | tar xzv -C /data mobilenet_v1_1.0_224/ labels.txt
  $ mv /data/mobilenet_v1_1.0_224/labels.txt /data/Labels/
  మీరు Qualcomm TFLite SDK డాకర్ కంటైనర్‌కు కనెక్ట్ చేసిన తర్వాత, చిత్రాన్ని ఇక్కడ కనుగొనవచ్చు:
  “/mnt/tflite/src/tensorflow/tensorflow/lite/examples/label_image/ testdata/grace_hopper.bmp”
  a. దీన్ని నెట్టండి file కు/డేటా/లేబుల్స్/
  b. ఆదేశాన్ని అమలు చేయండి:
  $ adb షెల్ “label_image -l /data/Labels/labels.txt -i /data/Labels/ grace_hopper.bmp -m /data/Models/mobilenet_v1_1.0_224.tflite -c 10 -j 1 -p 1”

బెంచ్ మార్క్

Qualcomm TFLite SDK వివిధ రన్ టైమ్‌ల పనితీరును లెక్కించడానికి బెంచ్‌మార్కింగ్ సాధనాన్ని అందిస్తుంది.
ఈ బెంచ్‌మార్క్ సాధనాలు ప్రస్తుతం కింది ముఖ్యమైన పనితీరు కొలమానాల కోసం గణాంకాలను కొలుస్తాయి మరియు గణించాయి:

• ప్రారంభ సమయం
• సన్నాహక స్థితి యొక్క అనుమితి సమయం
• స్థిరమైన స్థితి యొక్క అనుమితి సమయం
• ప్రారంభ సమయంలో మెమరీ వినియోగం
• మొత్తం మెమరీ వినియోగం

ముందస్తు అవసరాలు

TFLite మోడల్ జూ (https://) నుండి పరీక్షించాల్సిన మోడల్‌లను పుష్ చేయండిtfhub.dev/) నుండి/డేటా/మోడల్స్/. అమలు చేయండి క్రింది స్క్రిప్ట్‌లు:  

• XNN ప్యాక్
  $ adb షెల్ “benchmark_model –graph=/data/Models/ — enable_op_profiling=true –use_xnnpack=true –num_threads=4 –max_secs=300 –profiling_output_csv_file=/డేటా/ప్రొఫైలింగ్/”
• GPU ప్రతినిధి
  $ adb షెల్ “benchmark_model –graph=/data/Models/ — enable_op_profiling=true –use_gpu=true –num_runs=100 –warmup_runs=10 — max_secs=300 –profiling_output_csv_file=/డేటా/ప్రొఫైలింగ్/”
• బాహ్య ప్రతినిధి
  QNN బాహ్య ప్రతినిధి GPU:
  ఫ్లోటింగ్ పాయింట్ మోడల్‌తో అనుమితిని అమలు చేయండి:
  $ ADB షెల్-కమాండ్ “బెంచ్మార్క్_మోడెల్ –graph =/data/model/models/.tflite –external_delegate_path = libqnntflitedelegate.so-extryle_delegate_options = 'backend_type: gpu; /adsp'"
  QNN బాహ్య ప్రతినిధి HTP:
  క్వాంట్ మోడల్‌తో అనుమితిని అమలు చేయండి:
  $ adb shell-command “benchmark_model –graph=/data/Models/ .tflite –external_delegate_path=libQnnTFLiteDelegate.so — external_delegate_options='backend_type:htp;library_path:/usr/lib.so;tlib fsa /adsp'"

ఖచ్చితత్వ సాధనం

Qualcomm TFLite SDK వివిధ రన్-టైమ్‌లతో మోడల్‌ల ఖచ్చితత్వాన్ని లెక్కించడానికి ఖచ్చితత్వ సాధనాన్ని అందిస్తుంది.

• GPU ప్రతినిధితో వర్గీకరణ
  అవసరమైన వాటిని డౌన్‌లోడ్ చేయడానికి దశలు fileపరీక్షించడానికి లు ఇక్కడ చూడవచ్చు: “/mnt/tflite/src/tensorflow/tensorflow/lite/tools/evaluation/tasks/ imagenet_image_classificatio/README.md”
  ఈ సాధనాన్ని అమలు చేయడానికి బైనరీ ఇప్పటికే SDKలో భాగం, కాబట్టి డెవలపర్ దీన్ని మళ్లీ నిర్మించాల్సిన అవసరం లేదు.
  $ adb షెల్ “image_classify_run_eval — model_file=/data/Models/ –ground_truth_images_path=/data/ — ground_truth_labels=/data/ –model_output_labels=/ data/ –delegate=gpu”
• XNN ప్యాక్‌తో ఆబ్జెక్ట్ డిటెక్షన్
  $ adb షెల్ “inf_diff_run_eval –model_file=/డేటా/మోడల్స్/ –డెలిగేట్=xnnpac

చట్టపరమైన సమాచారం

ఏదైనా స్పెసిఫికేషన్‌లతో పాటుగా ఈ పత్రానికి మీ యాక్సెస్ మరియు ఉపయోగం, సూచన బోర్డు fileలు, డ్రాయింగ్‌లు, డయాగ్నస్టిక్‌లు మరియు ఇందులో ఉన్న ఇతర సమాచారం (సమిష్టిగా ఇది "డాక్యుమెంటేషన్"), మీ (కార్పొరేషన్ లేదా మీరు ప్రాతినిధ్యం వహించే ఇతర చట్టపరమైన సంస్థతో సహా, సమిష్టిగా) లోబడి ఉంటుంది "మీరు" లేదా "మీ") నిబంధనలు మరియు షరతుల ఆమోదం ("ఉపయోగ నిబంధనలు") క్రింద నిర్దేశించబడింది. మీరు ఈ ఉపయోగ నిబంధనలను అంగీకరించకపోతే, మీరు ఈ డాక్యుమెంటేషన్‌ని ఉపయోగించలేరు మరియు దాని కాపీని వెంటనే నాశనం చేయాలి.

1. లీగల్ నోటీసు.
   Qualcomm Technologies, Inc. (“Qualcomm Technologies”) మరియు ఈ డాక్యుమెంటేషన్‌లో వివరించిన దాని అనుబంధ సంస్థల ఉత్పత్తులు మరియు సేవా సమర్పణలతో మీ అంతర్గత ఉపయోగం కోసం మాత్రమే ఈ డాక్యుమెంటేషన్ మీకు అందుబాటులో ఉంచబడింది మరియు ఏ ఇతర ప్రయోజనాల కోసం ఉపయోగించబడదు. Qualcomm Technologies యొక్క ముందస్తు వ్రాతపూర్వక అనుమతి లేకుండా ఈ డాక్యుమెంటేషన్ ఏ విధంగానూ మార్చబడదు, సవరించబడదు లేదా సవరించబడదు. దీని యొక్క అనధికారిక ఉపయోగం లేదా బహిర్గతం
   డాక్యుమెంటేషన్ లేదా ఇక్కడ ఉన్న సమాచారం ఖచ్చితంగా నిషేధించబడింది మరియు క్వాల్‌కామ్ టెక్నాలజీస్, దాని అనుబంధ సంస్థలు మరియు లైసెన్సర్‌లకు క్వాల్‌కామ్ టెక్నాలజీస్, దాని అనుబంధ సంస్థలు మరియు లైసెన్సర్‌లు ఈ మొత్తం పత్రంలో అనధికారిక ఉపయోగాలు లేదా బహిర్గతం చేసిన ఏవైనా నష్టాలు లేదా నష్టాలకు పరిహారం చెల్లించడానికి అంగీకరిస్తున్నారు. భాగం. Qualcomm Technologies, దాని అనుబంధ సంస్థలు మరియు లైసెన్సర్‌లు ఈ డాక్యుమెంటేషన్‌లో మరియు దానికి సంబంధించిన అన్ని హక్కులు మరియు యాజమాన్యాన్ని కలిగి ఉంటారు. ఏదైనా ట్రేడ్‌మార్క్, పేటెంట్, కాపీరైట్, మాస్క్ వర్క్ ప్రొటెక్షన్ హక్కు లేదా ఏదైనా ఇతర మేధో సంపత్తి హక్కు ఈ డాక్యుమెంటేషన్ ద్వారా మంజూరు చేయబడదు లేదా సూచించబడదు లేదా తయారు చేయడానికి, ఉపయోగించడానికి, దిగుమతి చేయడానికి ఏదైనా లైసెన్స్‌తో సహా, వీటికే పరిమితం కాకుండా, ఇక్కడ వెల్లడించిన ఏదైనా సమాచారం ఈ డాక్యుమెంటేషన్‌లోని ఏదైనా సమాచారాన్ని పొందుపరిచే ఏదైనా ఉత్పత్తి, సేవ లేదా సాంకేతికతను అందించే ఏదైనా అమ్మకం.
   ఈ డాక్యుమెంటేషన్ వ్యక్తీకరించబడినా, సూచించబడినా, చట్టబద్ధమైనా లేదా మరేదైనా ఎలాంటి వారెంటీ లేకుండా "ఉన్నట్లుగా" అందించబడుతోంది. చట్టం, క్వాల్కమ్ టెక్నాలజీలు, దాని అనుబంధ సంస్థలు మరియు లైసెన్సర్‌ల ద్వారా అనుమతించబడిన గరిష్ట స్థాయికి ప్రత్యేకించి శీర్షిక, వాణిజ్యం, నాన్-ఇన్‌ఫ్రైనింగ్, సంస్థ యొక్క అన్ని వారెంటీలను తిరస్కరించండి నాణ్యత, సంపూర్ణత లేదా ఖచ్చితత్వం మరియు వాణిజ్య వినియోగం నుండి ఉత్పన్నమయ్యే అన్ని వారెంటీలు లేదా డీల్ చేసే కోర్సు లేదా పనితీరు యొక్క కోర్సు. అంతేకాకుండా, క్వాల్కమ్ టెక్నాలజీలు, లేదా దాని అనుబంధ సంస్థలు లేదా లైసెన్సర్లు, మీకు లేదా ఏదైనా మూడవ పక్షానికి ఏదైనా ఖర్చులు, నష్టాలు, వినియోగానికి బాధ్యత వహించవు మీరు ఈ డాక్యుమెంటేషన్‌పై ఆధారపడతారు.
   ఈ డాక్యుమెంటేషన్‌లో సూచించబడిన నిర్దిష్ట ఉత్పత్తి కిట్‌లు, సాధనాలు మరియు మెటీరియల్‌లను యాక్సెస్ చేయడానికి లేదా వాటిని ఉపయోగించే ముందు మీరు అదనపు నిబంధనలు మరియు షరతులను ఆమోదించవలసి ఉంటుంది.
   ఈ డాక్యుమెంటేషన్‌లో పేర్కొన్న సాంకేతిక డేటా US మరియు ఇతర వర్తించే ఎగుమతి నియంత్రణ చట్టాలకు లోబడి ఉండవచ్చు. US మరియు ఏదైనా ఇతర వర్తించే చట్టానికి విరుద్ధంగా ప్రసారం చేయడం ఖచ్చితంగా నిషేధించబడింది.
   ఈ డాక్యుమెంటేషన్‌లో ఏదీ ఇక్కడ సూచించబడిన ఏదైనా భాగాలు లేదా పరికరాలను విక్రయించే ఆఫర్ కాదు.
   తదుపరి నోటిఫికేషన్ లేకుండా ఈ డాక్యుమెంటేషన్ మార్చబడవచ్చు. ఈ ఉపయోగ నిబంధనల మధ్య వైరుధ్యం ఏర్పడినప్పుడు Webసైట్ ఉపయోగ నిబంధనలు ఆన్ www.qualcomm.com లేదా Qualcomm గోప్యతా విధానంలో సూచించబడింది www.qualcomm.com, ఈ ఉపయోగ నిబంధనలు నియంత్రిస్తాయి. ఈ వినియోగ నిబంధనలు మరియు మీరు మరియు Qualcomm టెక్నాలజీస్ లేదా Qualcomm Technologies ద్వారా అమలు చేయబడిన ఏదైనా ఇతర ఒప్పందానికి (వ్రాతపూర్వకంగా లేదా క్లిక్ చేయడం ద్వారా) మధ్య వైరుధ్యం ఏర్పడితే, ఈ డాక్యుమెంటేషన్‌కి మీ యాక్సెస్ మరియు వినియోగానికి సంబంధించి ఇతర ఒప్పందం నియంత్రిస్తుంది .
   ఈ ఉపయోగ నిబంధనలు చట్టాల సూత్రాల వైరుధ్యంతో సంబంధం లేకుండా, అంతర్జాతీయ వస్తువుల విక్రయంపై UN కన్వెన్షన్ మినహా, కాలిఫోర్నియా రాష్ట్ర చట్టాల ప్రకారం నిర్వహించబడతాయి మరియు అమలు చేయబడతాయి మరియు అమలు చేయబడతాయి. ఈ ఉపయోగ నిబంధనల నుండి లేదా వాటికి సంబంధించిన ఏదైనా వివాదం, దావా లేదా వివాదం, లేదా దీని ఉల్లంఘన లేదా చెల్లుబాటు, శాన్ డియాగో, కాలిఫోర్నియా రాష్ట్రం కౌంటీలోని సమర్థ అధికార పరిధి గల కోర్టు ద్వారా మాత్రమే తీర్పు ఇవ్వబడుతుంది మరియు మీరు ఇందుమూలంగా సమ్మతిస్తున్నారు ఆ ప్రయోజనం కోసం అటువంటి కోర్టుల వ్యక్తిగత అధికార పరిధి.
2. ట్రేడ్మార్క్ మరియు ఉత్పత్తి అట్రిబ్యూషన్ స్టేట్‌మెంట్‌లు.
   Qualcomm అనేది Qualcomm ఇన్కార్పొరేటెడ్ యొక్క ట్రేడ్మార్క్ లేదా రిజిస్టర్డ్ ట్రేడ్మార్క్. ఆర్మ్ అనేది US మరియు/లేదా ఇతర చోట్ల ఆర్మ్ లిమిటెడ్ (లేదా దాని అనుబంధ సంస్థలు) యొక్క నమోదిత ట్రేడ్‌మార్క్. బ్లూటూత్ ® వర్డ్ మార్క్ అనేది బ్లూటూత్ SIG, ఇంక్ యాజమాన్యంలోని నమోదిత ట్రేడ్‌మార్క్. ఈ డాక్యుమెంటేషన్‌లో సూచించబడిన ఇతర ఉత్పత్తి మరియు బ్రాండ్ పేర్లు వాటి సంబంధిత యజమానుల యొక్క ట్రేడ్‌మార్క్‌లు లేదా నమోదిత ట్రేడ్‌మార్క్‌లు కావచ్చు.
   ఈ డాక్యుమెంటేషన్‌లో ప్రస్తావించబడిన స్నాప్‌డ్రాగన్ మరియు క్వాల్కమ్ బ్రాండెడ్ ఉత్పత్తులు Qualcomm Technologies, Inc. మరియు/లేదా దాని అనుబంధ సంస్థల ఉత్పత్తులు. Qualcomm పేటెంట్ టెక్నాలజీలు Qualcomm Incorporated ద్వారా లైసెన్స్ పొందాయి.

పత్రాలు / వనరులు

Qualcomm TensorFlow Lite SDK సాఫ్ట్‌వేర్ [pdf] యూజర్ గైడ్ టెన్సర్‌ఫ్లో లైట్ SDK సాఫ్ట్‌వేర్, లైట్ SDK సాఫ్ట్‌వేర్, SDK సాఫ్ట్‌వేర్, సాఫ్ట్‌వేర్

సూచనలు

• వినియోగదారు మాన్యువల్