د Qualcomm TensorFlow Lite SDK سافټویر کارونکي لارښود
د شرکت لوګو

منځپانګې پټول
1 د بیاکتنې تاریخ
2 د Qualcomm TFLite SDK وسیلو پیژندنه
3 د Qualcomm TFLite SDK وسیلو لپاره د جوړونې چاپیریال تنظیم کړئ
4 پلیټ فارم SDK تولید کړئ
5 د Qualcomm TFLite SDK اوزار جوړ کړئ - د پراختیا کونکي کاري فلو
6 د ډاکر تنظیم کولو ستونزه حل کړئ
7 د Qualcomm TFLite SDK په تدریجي ډول جوړ کړئ
8 د QNN بهرني TFLite استازي سره کار وکړئ
9 د Qualcomm TFLite SDK ازموینه وکړئ
10 قانوني معلومات
11 اسناد / سرچینې
11.1 حوالې
12 اړونده پوسټونه

د بیاکتنې تاریخ

بیاکتنه نیټه تفصیل
AA سپتمبر 2023 ابتدايي خوشې کول
AB اکتوبر ۲۰۲۲

د Qualcomm TFLite SDK وسیلو پیژندنه

د Qualcomm TensorFlow Lite سافټویر پرمختیا کټ (Qualcomm TFLite SDK) وسیلې د وسیلې مصنوعي استخباراتو (AI) انفرینسینګ لپاره د TensorFlow Lite چوکاټ چمتو کوي ، کوم چې د غوښتنلیک پراختیا کونکو ته د مناسب AI غوښتنلیکونو رامینځته کولو یا چلولو کې اسانتیا برابروي.
دا سند د یو سټایلون Qualcomm TFLite SDK تالیف کولو او پراختیا چاپیریال تنظیم کولو لپاره ګام په ګام لارښوونې چمتو کوي. دا د پراختیا کونکي کاري فلو وړوي، کوم چې پدې کې شامل دي:

  • د جوړونې چاپیریال تنظیم کول چیرې چې پراختیا کونکی کولی شي د Qualcomm TFLite SDK تالیف کړي
  • د سټایلون Qualcomm TFLite SDK غوښتنلیکونو رامینځته کول

د ملاتړ لپاره، وګورئ https://www.qualcomm.com/ ملاتړ. لاندې ارقام د Qualcomm TFLite SDK کاري فلو لنډیز وړاندې کوي:
شکل 1-1 د Qualcomm TFLite SDK کاري فلو
وسیله یو پلیټ فارم SDK او ترتیب ته اړتیا لري file (JSON بڼه) د Qualcomm TFLite SDK آثارو تولید لپاره.

د ملټي میډیا، AI، او کمپیوټر لید (CV) فرعي سیسټمونو په کارولو سره د پای څخه تر پای پورې غوښتنلیک جوړولو لپاره، د Qualcomm Intelligent Multimedia SDK (QIM SDK) د چټک پیل لارښود (80-50450-51) وګورئ.
جدول د کوډ لینارو ریلیز سره د Qualcomm TFLite SDK نسخه نقشه ښیې tag:
جدول 1-1 د معلوماتو خپرول
پیوستون

د Qualcomm TFLite SDK نسخه کوډ لینارو خوشې کول tag
V1.0 Qualcomm TFLITE.SDK.1.0.r1-00200-TFLITE.0

جدول 1-2 د Qualcomm TFLite SDK نسخې ملاتړ کوي

Qualcomm د TFLite SDK نسخه ملاتړ شوی سافټویر محصول د TFLite ملاتړ شوی نسخه
V1.0 QCS8550.LE.1.0
  • 2.6.0
  • 2.8.0
  • 2.10.1
  • 2.11.1
  • 2.12.1
  • 2.13.0

حوالې
جدول 1-3 اړوند اسناد

عنوان شمیره
Qualcomm
00067.1 د QCS8550.LE.1.0 لپاره د خوشې کولو یادښت RNO-230830225415
د Qualcomm Intelligent ملټي میډیا SDK (QIM SDK) د چټک پیل لارښود 80-50450-51
د Qualcomm Intelligent Multimedia SDK (QIM SDK) حواله 80-50450-50
سرچینې
https://source.android.com/docs/setup/start/initializing –

جدول 1-4 لنډیزونه او تعریفونه

لنډیز یا اصطلاح تعریف
AI مصنوعي استخبارات
BIOS بنسټیز ان پټ/آؤټ پټ سیسټم
CV د کمپیوټر لید
IPK Itsy بسته file
QIM SDK د Qualcomm ذہین ملټي میډیا سافټویر پراختیا کټ
SDK د سافټویر پراختیا کټ
TFLite TensorFlow Lite
ایکس این این Xth نږدې ګاونډی

د Qualcomm TFLite SDK وسیلو لپاره د جوړونې چاپیریال تنظیم کړئ

د Qualcomm TFLite SDK اوزار د سرچینې په بڼه خپاره شوي؛ له همدې امله، د دې د راټولولو لپاره د جوړونې چاپیریال رامینځته کول یو لازمي مګر یو ځل ترتیب دی.

شرطونه

  • ډاډ ترلاسه کړئ چې تاسو د لینکس کوربه ماشین ته sudoaccess لرئ.
  • ډاډ ترلاسه کړئ چې د لینکس کوربه نسخه د اوبنټو 18.04 یا اوبنټو 20.04 دی.
  • په کوربه سیسټم کې د اعظمي کارونکي لیدونو او اعظمي کاروونکو مثالونو ته وده ورکړئ.
  • لاندې کمانډ لاینونه /etc/sysctl.confan ته اضافه کړئ او کوربه ریبوټ کړئ: fs.inotify.max_user_instances=8192 fs.inotify.max_user_watches=542288

د اړتیا وړ کوربه کڅوړې نصب کړئ

د کوربه کڅوړې د لینکس کوربه ماشین کې نصب شوي.
د کوربه کڅوړو نصبولو لپاره کمانډونه پرمخ وړئ: $ sudo apt install -y jq $ sudo apt install -y texinfo chrpath libxml-simple-perl openjdk-8-jdkheadless
د اوبنټو 18.04 او لوړ لپاره:
$ sudo apt-get install git-core gnupg flex bison build-essential zip curl zlib1g-dev gcc-multilib g++-multilib libc6-dev-i386 libncurses5 lib32ncurses5- dev x11proto-core-dev libx11-dev lib32z1-dev libgl1-mesa-dev libxml2-unfontcltpro utils
د نورو معلوماتو لپاره، وګورئ https://source.android.com/docs/setup/start/initializing.

د ډاکر چاپیریال تنظیم کړئ

ډاکر یو پلیټ فارم دی چې د سافټویر جوړولو ، پراختیا ، ازموینې او تحویلولو لپاره کارول کیږي. د SDK تالیف کولو لپاره ، ډاکر باید د لینکس کوربه ماشین کې تنظیم شي.
ډاډ ترلاسه کړئ چې د CPU مجازی کول د لینکس کوربه ماشین کې فعال شوی. که دا فعال شوی نه وي، د بنسټیز ان پټ/آؤټ پټ سیسټم (BIOS) ترتیباتو ترتیباتو څخه د فعالولو لپاره لاندې کار وکړئ:

  1. د BIOS څخه مجازی کول فعال کړئ:
    a. F1 یا F2 فشار ورکړئ کله چې سیسټم بوټ کوي ترڅو BIOS ته لاړ شي. د BIOS کړکۍ به ښکاره شي.
    b. پرمختللی ټب ته لاړشئ.
    c. د CPU تشکیلاتو برخه کې، د مجازی کولو ټیکنالوژي فعاله کړئ.
    a. د خوندي کولو او وتلو لپاره F12 فشار ورکړئ، او بیا سیسټم بیا پیل کړئ.
    که دا مرحلې کار ونکړي ، د مجازی کولو وړ کولو لپاره د سیسټم چمتو کونکي ځانګړي لارښوونې تعقیب کړئ
  2. د ډاکر کوم زاړه مثالونه لرې کړئ:
    $ sudo apt د ډاکر ډیسټاپ لرې کړئ
    $rm -r $HOME/.docker/desktop
    $ sudo rm /usr/local/bin/com.docker.cli
    $ sudo apt purge docker-desktop
  3.  د ډاکر ریموټ ذخیره تنظیم کړئ:
    $ sudo apt-get update $ sudo apt-get install ca-certificates curl gnupg lsb-releas $ sudo mkdir -p /etc/apt/keyrings $curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg — dearmor -o /etc/apt/keyrings/docker.gpg $ echo “deb [arch=$(dpkg –print-architecture) signed-by=/etc/apt/ keyrings/ docker.gpg] https:// download.docker.com/linux/ubuntu $ (lsb_release -cs) مستحکم" | sudo tee /etc/apt/sources.list.d/ docker.list > /dev/null
  4.  د ډاکر انجن نصب کړئ:
    $ sudo apt-get update $ sudo apt-get install docker-ce docker-ce-cli
  5.  د ډاکر ګروپ ته کارن اضافه کړئ:
    $ sudo groupadd docker $ sudo usermod -aG docker $USER
  6.  سیسټم ریبوټ کړئ.

پلیټ فارم SDK تولید کړئ

پلیټ فارم SDK د Qualcomm TFLite SDK وسیلو تالیف کولو لپاره لازمي اړتیا ده. دا د Qualcomm TFLite SDK لخوا اړین ټول اړین پلیټ فارم انحصار چمتو کوي.
د پلیټ فارم SDK تولید لپاره لاندې کارونه وکړئ:

  1. د غوره سافټویر محصول لپاره جوړ کړئ.
    د QCS8550.LE.1.0 ریلیز جوړولو لپاره لارښوونې په خوشې یادښتونو کې چمتو شوي. د خوشې کولو یادښتونو ته د لاسرسي لپاره، حوالې وګورئ.
    که عکسونه مخکې جوړ شوي وي، مرحله 2 اجرا کړئ، او بیا پاک جوړ کړئ.
  2. د کارونکي ځای عکسونو او پلیټ فارم SDK جوړولو لپاره لاندې کمانډ چل کړئ:
    د QCS8550.LE.1.0 لپاره، په kalama.conf کې MACHINE_FEATURES کې د ماشین ځانګړتیا qti-tflite-delegate اضافه کړئ file او د خوشې یادښتونو لارښوونو سره سم د جوړونې چاپیریال سرچینه کړئ.
    د جوړیدو څخه د کارونکي ځای عکسونو رامینځته کولو وروسته ، د پلیټ فارم SDK رامینځته کولو لپاره لاندې کمانډ چل کړئ.
    $ bitbake -fc populate_sdk qti-robotics-image

د Qualcomm TFLite SDK اوزار جوړ کړئ - د پراختیا کونکي کاري فلو

د Qualcomm TFLite SDK اوزار کاري فلو پراختیا کونکي ته اړتیا لري چې تنظیمات چمتو کړي file د اعتبار وړ ننوتونو سره. د tflite-tools پروژې څخه د مرستندویه شیل سکریپټونه (د Qualcomm TFLite SDK سرچینې ونې کې شتون لري) د شیل چاپیریال تنظیم کولو لپاره د مرستندویه کارونې دندې چمتو کوي، کوم چې د Qualcomm TFLite SDK کاري فلو لپاره کارول کیدی شي.
پراختیا کونکی د Qualcomm TFLite SDK پروژې په کانټینر کې رامینځته کوي او د tflite-tools لخوا چمتو شوي اسانتیاو په کارولو سره هنري اثار تولیدوي.
وروسته له دې چې د Qualcomm TFLite SDK کانټینر جوړ شو، پراختیا کونکی کولی شي کانټینر سره وصل کړي او د دوامداره پراختیا لپاره د کانټینر شیل چاپیریال کې د مرستندویه اسانتیاو څخه کار واخلي.

  • د Qualcomm TFLite SDK آثار د Qualcomm وسیلې ته د USB/adb له لارې د لینکس کوربه سره وصل شوي نصبولو لپاره شرایط شتون لري.
  • د Qualcomm TFLite SDK اثار د کانټینر څخه بل کوربه ماشین ته د کاپي کولو لپاره هم شرایط شتون لري چیرې چې د Qualcomm وسیله وصل وي.
    پیوستون

لاندې شمیره د Qualcomm TFLite SDK جوړولو لپاره د مرستندویه سکریپټونو په کارولو سره د کانټینر جوړونې چاپیریال تنظیم کولو وروسته د موجودو اسانتیاو سیټ لیست کوي.
پیوستون

انځور د اسانتیاوو د اجرا کولو ترتیب ښیي:
شکل 4-3 په کوربه کې د اسانتیاوو ترتیب
پیوستون

د Qualcomm TFLite SDK ترکیب او جوړ کړئ
د Qualcomm TFLite SDK تالیف شوی کله چې د ډاکر عکس رامینځته شي. د Qualcomm TFLite SDK ترکیب او جوړولو لپاره، لاندې کار وکړئ:

  1. په کوربه کې لارښود جوړ کړئ file د Qualcomm TFLite SDK کاري ځای همغږي کولو لپاره سیسټم. لپاره
    exampLe: $mkdir $cd
  2. د کوډ لینارو څخه د Qualcomm TFLite SDK سرچینې کوډ ترلاسه کړئ:
    $ repo init -u https://git.codelinaro.org/clo/le/sdktflite/tflite/ manifest.git –repo-branch=qc/stable –repo-url=git://git.quicinc.com/ tools/repo.git -m TFLITE.SDK.1.0.r1-00200-TFLITE.0.xml -b خوشې کول && repo sync -qc -no-tags -j
  3. په کوربه کې لارښود جوړ کړئ file سیسټم چې په ډاکر کې نصب کیدی شي. د مثال لپارهample: mkdir-p / دا لارښود د لینکس کوربه ماشین کې هرچیرې رامینځته کیدی شي ، او دا پدې پورې اړه نلري چې د Qualcomm TFLite SDK پروژه چیرې همغږي کیږي. وروسته له دې چې د کار جریان په کانټینر کې بشپړ شي ، د Qualcomm TFLite SDK آثار په دې مرحله کې رامینځته شوي لارښود کې موندل کیدی شي.
  4. د JSON تشکیلات سم کړئ file په /tflite-tools/ targets/le-tflite-tools-builder.json کې د لاندې ننوتلو سره شتون لري:
    "انځور": "tflite-tools-builder"، "Device_OS": "le"، "اضافي_tag": "", "TFLite_Version": "2.11.1"، "استازو": { "Hexagon_delegate": "OFF"، "Gpu_delegate": "ON"، "Xnnpack_delegate": "ON" }، "TFLite_rsync_destination": " /”, “SDK_path”: “/build-qti-distro-fullstack-perf/tmpglibc/deploy/sdk>”, “SDK_shell_file": ""، "Base_Dir_Location": "" }
    د json تشکیلاتو کې ذکر شوي ننوتلو په اړه د نورو معلوماتو لپاره fileد Docker.md readme وګورئ file په /tflite-tools/ کې.
    نوټ د QCS8550 لپاره، د Qualcomm® Hexagon™ DSP استازی نه ملاتړ کیږي.
  5. د چاپیریال تنظیم کولو لپاره سکریپټ سرچینه کړئ:
    $ cd /tflite-tools $ سرچینه ./scripts/host/docker_env_setup.sh
  6.  د Qualcomm TFLite SDK ډاکر انځور جوړ کړئ: $ tflite-tools-host-build-image ./targets/le-tflite-tools-builder.json که د جوړونې ترتیب ناکام شي، د ډاکر تنظیم کولو ستونزه وګورئ. د بریالي بشپړیدو وروسته ، لاندې پیغام څرګندیږي: "حالت: د عکس جوړول په بریالیتوب سره بشپړ شوی !!" د دې مرحلې چلول د Qualcomm TFLite SDK هم جوړوي.
  7.  د Qualcomm TFLite SDK ډاکر کانټینر چل کړئ. دا د کانټینر سره پیل کوي tags په JSON ترتیب کې چمتو شوی file. $tflite-tools-host-run-container ./targets/le-tflite-tools-builder.json
  8. د کانتینر سره وصل کړئ د تیر پړاو څخه پیل شوی.
    $ docker ضمیمه

د Qualcomm TFLite SDK تالیف شوی، او اثار چمتو دي چې ځای په ځای شي یا نور هم کیدی شي
د QIM SDK TFLite پلگ ان تولید لپاره کارول کیږي.

د اثارو کوربه او ځای پرځای کولو لپاره وسیله وصل کړئ]

د تالیف وروسته، دوه میکانیزمونه شتون لري چې وسیله کوربه ته وصل کړي او ځای پرځای کړي
د Qualcomm TFLite SDK آثار.

  • وسیله د ځایی لینکس کوربه سره وصل شوی:
    یو پراختیا کونکی وسیله د ورک سټیشن سره وصل کوي او د Qualcomm TFLite SDK آثار په مستقیم ډول په وسیله (QCS8550) کې له کانټینر څخه نصبوي.
  • وسیله د لیرې کوربه سره وصل ده:
    یو پراختیا کونکی وسیله له لیرې پرتو کاري سټیشن سره وصل کوي، او دوی کولی شي په وینډوز او لینکس پلیټ فارمونو کې د پیک مدیر انسټالر کمانډونه وکاروي ترڅو وسیله ته د Qualcomm TFLite SDK آثار نصب کړي (QCS8550)

شکل 4-4 د وسیلې بورډ د پراختیا کونکي او لیرې کاري سټیشن سره نښلول
پیوستون

وسیله د کار سټیشن سره وصل کړئ

وسیله د کار سټیشن سره وصل ده او پراختیایی کانټینر کولی شي وسیله ته د USB/adb له لارې لاسرسی ومومي.
ارقام ښیې چې stagد Qualcomm TFLite SDK کاري فلو په ترتیب کې دی:
پیوستون

  1. وسیلې ته د هنري اثارو نصبولو لپاره لاندې کمانډونه پرمخ وړئ:
    $ tflite-tools-device-prepare
    $ tflite-tools-device-deploy
  2. د هنري اثارو غیر نصبولو لپاره، لاندې کمانډ چل کړئ:
    $ tflite-tools-device-packages-remove

وسیله د ریموټ ماشین سره وصل کړئ

وسیله د ریموټ ماشین سره وصل ده، او د Qualcomm TFLite SDK کانټینر نشي کولی د USB/ad b له لارې وسیله ته لاسرسی ومومي.
ارقام ښیې چې stagد Qualcomm TFLite SDK کاري فلو په ترتیب کې دی:
پیوستون

په tflite-tools کانټینر کې لاندې کمانډونه چل کړئ ترڅو هنري اثار لرې ماشین ته کاپي کړئ
په وسیله کې د کڅوړې مدیر پورې اړه لري:
$ tflite-tools-remote-sync-ipk-rel-pkg
نوټ د ریموټ ماشین معلومات د JSON ترتیب کې چمتو شوي file.
د وینډوز پلیټ فارم لپاره اثار نصب کړئ
د Qualcomm TFLite SDK آثار د ریموټ ماشین د عملیاتي سیسټم پراساس په وسیله کې نصب کیدی شي.

د وینډوز پلیټ فارم لپاره، لاندې کار وکړئ:
په PowerShell کې، لاندې سکریپټ وکاروئ: PS C:
> adb روټ PS C:> adb disable-verity PS C:> adb reboot PS C:> adb wait-for-device PS C:> adb root PS C:> adb remount PS C:> adb shell mount -o remount, rw / PS C:> adb شیل "mkdir -p /tmp" PS C:> adb push /tmp که کڅوړه ipk وي (د QCS8550.LE.1.0 لپاره) ، لاندې کمانډونه وکاروئ: PS C:> adb شیل " opkg-ځواک-تکیه کوي-ځواک-بیا ځای پرځای کول-زور-اووررایټ نصب /tmp/"

د لینکس پلیټ فارم لپاره اثار نصب کړئ
لاندې کمانډونه وکاروئ:
$ adb root $ adb disable-verity $ adb reboot $ adb wait-for-device $ adb root $ adb remount $ adb shell mount -o remount,rw / $ adb shell "mkdir -p /tmp" $ adb push /tmp که بسته یو ipk دی (د QCS8550.LE.1.0 لپاره): $ adb شیل “opkg –force-depends –force-reinstall –force-overwrite install /tmp/”

د ډاکر عکس پاک کړئ
د پراختیا کونکي کاري فلو بشپړولو وروسته ، د ډاکر چاپیریال باید پاک شي ترڅو په ډیسک کې ذخیره خالي کړي. د ډاکر پاکول غیر کارول شوي کانټینرونه او عکسونه لرې کوي ، پدې توګه د ډیسک ځای خالي کوي.
د ډاکر عکس پاکولو لپاره لاندې کمانډونه وکاروئ:

  1. د لینکس ورک سټیشن کې لاندې کمانډ چل کړئ:
    $ cd /tflite-tools
  2. کانتینر ودروئ:
    $ tflite-tools-host-stop-container ./targets/ le-tflite-tools-builder.json
  3. کانتینر لرې کړئ:
    $ tflite-tools-host-rm-container ./targets/ le-tflite-tools-builder.json
  4. زاړه ډاکر عکسونه لرې کړئ:
    $ tflite-tools-host-images-cleanup

د ډاکر تنظیم کولو ستونزه حل کړئ

که د tflite-tools-host-build-image کمانډ د وسیلې پیغام کې پاتې Nospace بیرته راوباسي، نو بیا د ډاکر ډایرکټر/local/mnt ته واستوئ. د تنظیم کولو ستونزې حل کولو لپاره لاندې کارونه وکړئ:

  1. موجوده ډاکر بیک اپ کړئ files:
    $tar -zcC /var/lib docker > /mnt/pd0/var_lib_docker-backup-$(تاریخ + %s).tar.gz
  2. ډاکر ودروئ:
    $ service docker stop
  3. تایید کړئ چې د ډاکر پروسه نه روانه ده:
    $ps غلط | grep docker
  4. د ډاکر لارښود جوړښت چیک کړئ:
    $ sudo ls /var/lib/docker/
  5. د ډاکر لارښود نوي برخې ته واړوئ:
    $ mv /var/lib/docker/local/mnt/docker
  6. په نوې برخه کې د ډاکر لارښود ته سم لینک جوړ کړئ:
    $ ln -s /local/mnt/docker /var/lib/docker
  7. ډاډ ترلاسه کړئ چې د ډاکر لارښود جوړښت بدل شوی پاتې دی:
    $ sudo ls /var/lib/docker/
  8. ډاکر پیل کړئ:
    د $ خدمت ډاکر پیل
  9. د ډاکر ډایرکټر حرکت کولو وروسته ټول کانټینرونه بیا پیل کړئ.

د لینکس ورک سټیشن سره TFLite SDK تولید کړئ

د TFLite SDK کاري فلو د لینکس ورک سټیشن په کارولو سره د کانټینرونو پرته فعال کیدی شي. دا کړنلاره د کانتینرونو کارولو بدیل دی.
د Qualcomm TFLite SDK ترکیب او جوړولو لپاره، لاندې کار وکړئ:

  1. په کوربه کې لارښود جوړ کړئ file د Qualcomm TFLite SDK کاري ځای همغږي کولو لپاره سیسټم. د مثال لپارهampLe:
    $mkdir
    $cd
  2. د کوډ لینارو څخه د Qualcomm TFLite SDK سرچینې کوډ ترلاسه کړئ:
    $ repo init -u https://git.codelinaro.org/clo/le/sdktflite/tflite/ manifest.git –repo-branch=qc/stable –repo-url=git://git.quicinc.com/ tools/repo.git -m TFLITE.SDK.1.0.r1-00200-TFLITE.0.xml -b خوشې کول && repo sync -qc -no-tags -j8 && repo sync -qc -no-tags -j8
  3. 3. د JSON ترتیب ایډیټ کړئ file حاضر /tflite-tools/ targets/le-tflite-tools-builder.json د لاندې ننوتلو سره
    "انځور": "tflite-tools-builder"، "Device_OS": "le"، "اضافي_tag": "", "TFLite_Version": "2.11.1"، "استازو": { "Hexagon_delegate": "OFF"، "Gpu_delegate": "ON"، "Xnnpack_delegate": "ON" }، "TFLite_rsync_destination": " ", "SDK_path": "/build-qti-distro-fullstack-perf/tmpglibc/deploy/sdk>", "SDK_shell_file": "", "Base_Dir_Location": ""
    د json تشکیلاتو کې ذکر شوي ننوتلو په اړه د نورو معلوماتو لپاره fileد Docker.md readme وګورئ file په /tflite-tools/.
    نوټ د QCS8550 لپاره، د هیکساګون DSP استازی نه ملاتړ کیږي
  4. د چاپیریال تنظیم کولو لپاره سکریپټ سرچینه کړئ:
    $ cd /tflite-tools
    $ سرچینه ./scripts/host/host_env_setup.sh
  5. د Qualcomm TFLite SDK جوړ کړئ.
    $ tflite-tools-setup targets/le-tflite-tools-builder.json
  6.  د TFLite SDK آثارو راټولولو لپاره په ورته لینکس شیل کې د کارونې لاندې کمانډونه چل کړئ 
    TFLite_rsync_destination.
    $ tflite-tools-host-get-rel-package targets/le-tflite-tools-builder.json
    $ tflite-tools-host-get-dev-package targets/le-tflite-tools-builder.json
  7. د عملیاتي سیسټم پراساس اثار نصب کړئ
    • د وینډوز پلیټ فارم لپاره ، په پاور شیل کې ، لاندې سکریپټ وکاروئ
      PS C:> adb root PS C:> adb disable-verity PS C:> adb reboot PS C:> adb wait-for-device PS C:> adb root PS C:> adb remount PS C:> adb shell mount - o remount,rw / PS C:> adb شیل "mkdir -p /tmp" PS C:> adb push /tmp
      که بسته یو ipk وي (د QCS8550.LE.1.0 لپاره)، لاندې کمانډونه وکاروئ:
      PS C:> adb شیل “opkg –force-depends –force-reinstall –forceoverwrite install /tmp/
      د لینکس پلیټ فارم لپاره ، لاندې سکریپټ وکاروئ:
      $ adb root $ adb disable-verity $ adb reboot $ adb wait-for-device $ adb root $ adb remount $ adb shell mount -o remount,rw / $ adb shell "mkdir -p /tmp" $ adb push /tmp که بسته یو ipk وي (د QCS8550.LE.1.0 لپاره):
      $ adb شیل "opkg -force-depends -force-reinstall -force-overwrite install /tmp/"

د QIM SDK جوړولو لپاره د Qualcomm TFLite SDK اثار تولید کړئ

په QIM SDK کې د Qualcomm TFLite SDK GStreamer پلگ ان فعالولو لپاره رامینځته شوي آثارو کارولو لپاره ، لاندې کار وکړئ:

  1. په Sync کې پروسیجر بشپړ کړئ او د Qualcomm TFLite SDK جوړ کړئ، او بیا لاندې کمانډ پرمخ وړئ: $ tflite-tools-host-get-dev-tar-package ./targets/le-tflite-toolsbuilder.json
    یو توره file پیدا کیږي. دا د Qualcomm TFLite SDK لري په لاره کې چمتو شوي "TFLite_rsync_destination"
  2. د Qualcomm TFLite SDK GStreamer پلگ ان فعالولو لپاره، ټار وکاروئ file د JSON ترتیب کې د دلیل په توګه file د QIM SDK جوړونې لپاره.
    د QIM SDK تالیف کولو په اړه د معلوماتو لپاره، د Qualcomm Intelligent Multimedia SDK (QIM SDK) د چټک پیل لارښود (80-50450-51) وګورئ.

د Qualcomm TFLite SDK په تدریجي ډول جوړ کړئ

که تاسو د لومړي ځل لپاره Qualcomm TFLite SDK جوړ کوئ، وګورئ د Qualcomm TFLite SDK اوزار جوړ کړئ - د پراختیا کونکي کاري فلو. ورته جوړ چاپیریال د زیاتیدونکي پراختیا لپاره بیا کارول کیدی شي.
په انځور کې ذکر شوي مرستندویه اسانتیاوې (د کانټینر دننه) د پراختیا کونکو لپاره شتون لري ترڅو بدل شوي غوښتنلیکونه او پلګ انونه راټول کړي.
شکل 5-1 په یوه کانټینر کې د کار جریان

پیوستون

وروسته له دې چې د کوډ لارښود کې د کوډ بدلونونه بشپړ شي، لاندې کار وکړئ:

  1. تعدیل شوی کوډ تالیف کړئ:
    $ tflite-tools-incremental-build-install
  2. د بسته بندي کوډ:
    $ tflite-tools-ipk-rel-pkg یا $ tflite-tools-deb-rel-pkg
  3. د کوربه سره د خوشې کڅوړې همغږي کړئ file سیسټم:
    $ tflite-tools-remote-sync-ipk-rel-pkg
    Or
    $ tflite-tools-remote-sync-deb-rel-pkg
  4. د dev کڅوړه چمتو کړئ:
    $ tflite-tools-ipk-dev-pkg
    تالیف شوي اثار په JSON کې ذکر شوي TFLite_rsync_destination فولډر کې موندل شوي file، کوم چې هر لارښود ته کاپي کیدی شي.

د QNN بهرني TFLite استازي سره کار وکړئ

د TFLite بهرنی استازی تاسو ته اجازه درکوي خپل ماډلونه (برخه یا ټول) په بل اجرا کونکي باندې چل کړئ د کتابتونونو په کارولو سره چې د باوري دریمې ډلې لخوا چمتو شوي لکه QNN د Qualcomm لخوا. دا میکانیزم کولی شي د وسیلې مختلف سرعت کونکي لکه GPU یا د هیکساګون ټینسر پروسیسر (HTP) څخه ګټه پورته کړي. دا پراختیا کونکو ته د ډیفالټ TFLite څخه انعطاف وړ او دوه اړخیزه میتود چمتو کوي ترڅو د سرعت سرعت وکړي.

شرطونه:

  • ډاډ ترلاسه کړئ چې تاسو د QNN AI سټیک ایستلو لپاره د اوبنټو ورک سټیشن کاروئ.
  • ډاډ ترلاسه کړئ چې تاسو د QNN 2.14 نسخه کاروئ ترڅو د Qualcomm TFLite SDK سره په ګډه وي

د Qualcomm TFLite SDK د QNN لپاره د TFLite بهرني استازي له لارې په څو QNN شاته پایونو کې د انفرنسونو چلولو لپاره فعال شوی. د عام فلیټ بفر نمایندګۍ سره د TFLite ماډلونه په GPU او HTP کې پرمخ وړل کیدی شي.
وروسته له دې چې د Qualcomm TFLite SDK کڅوړې په وسیله نصب شي، په وسیله کې د QNN کتابتونونو نصبولو لپاره لاندې کارونه وکړئ.

  1. د اوبنټو لپاره د Qualcomm بسته مدیر 3 ډاونلوډ کړئ.
    a. کلیک وکړئ https://qpm.qualcomm.com/، او په وسیلو کلیک وکړئ.
    b. په ښي اړخ کې، د لټون وسیلو په ساحه کې، QPM ټایپ کړئ. د سیسټم OS لیست څخه، لینکس غوره کړئ.
    د لټون پایلې د Qualcomm بسته مدیرانو لیست ښیې.
    c. د Qualcomm بسته مدیر 3 غوره کړئ او د لینکس ډیبیان بسته ډاونلوډ کړئ.
  2. د لینکس لپاره د Qualcomm بسته مدیر 3 نصب کړئ. لاندې کمانډ وکاروئ:
    $ dpkg -i -ځواک-اووررایټ /path/to/
    QualcommPackageManager3.3.0.83.1.Linux-x86.deb
  3. Qualcomm® ډاونلوډ کړئ
    د اوبنټو ورک سټیشن کې د AI انجن مستقیم SDK.
    a. کلیک وکړئ https://qpm.qualcomm.com/ او په وسیلو کلیک وکړئ.
    b. په ښي اړخ کې، د لټون وسیلو ساحه کې، د AI سټیک ټایپ کړئ. د سیسټم OS لیست څخه، لینکس غوره کړئ.
    A د ډراپ-ډاون لیست چې د مختلف AI سټیک انجنونه لري ښودل کیږي.
    c. د Qualcomm® AI انجن مستقیم SDK کلیک وکړئ او د لینکس v2.14.0 بسته ډاونلوډ کړئ.
  4. په اوبنټو ورک سټیشن کې د Qualcomm® AI انجن مستقیم SDK نصب کړئ.
    a. جواز فعال کړئ:
    qpm-cli-license-activate qualcomm_ai_engine_direct
    b د AI انجن مستقیم SDK نصب کړئ:
    $ qpm-cli – استخراج /path/to/ qualcomm_ai_engine_direct.2.14.0.230828.Linux-AnyCPU.qik
  5. کتابتونونه د اوبنټو ورک سټیشن څخه وسیلې ته د adb push سره فشار ورکړئ.
    $cd/opt/qcom/aistack/qnn/2.14.0.230828 $ adb push ./lib/aarch64-oe-linux-gcc11.2/ libQnnDsp.so /usr/lib/$ adb push ./lib/aarch64-oe- linux-gcc11.2/ libQnnDspV66Stub.so /usr/lib/ $ adb push ./lib/aarch64-oe-linux-gcc11.2/ libQnnGpu.so /usr/lib/$ adb push ./lib/aarch64-oe- linux-gcc11.2/ libQnnHtpPrepare.so /usr/lib/ $ adb push ./lib/aarch64-oe-linux-gcc11.2/ libQnnHtp.so /usr/lib/$ adb push ./lib/aarch64-oe- linux-gcc11.2/ libQnnHtpV68Stub.so /usr/lib/ $ adb push ./lib/aarch64-oe-linux-gcc11.2/ libQnnSaver.so /usr/lib/ $ adb push ./lib/aarch64-oe- linux-gcc11.2/ libQnnSystem.so /usr/lib/ $ adb push ./lib/aarch64-oe-linux-gcc11.2/ libQnnTFLiteDelegate.so /usr/lib/$ adb push ./lib/hexagon-v65/ unsigned/ libQnnDspV65Skel.so /usr/lib/rfsa/adsp $ adb push ./lib/hexagon-v66/unsigned/ libQnnDspV66Skel.so /usr/lib/rfsa/adsp $ adb push ./lib/hexagons/- libQnnHtpV68Skel.so /usr/lib/rfsa/adsp $ adb push ./lib/hexagon-v68/unsigned/ libQnnHtpV69Skel.so /usr/lib/rfsa/adsp $ adb push ./lib/hexagon-v69p/lib/hexagon-v73QLV73QNbXNUMX. نو /usr/lib/rfsa/adsp

د Qualcomm TFLite SDK ازموینه وکړئ

د Qualcomm TFLite SDK ځینې ځانګړي وړاندې کويample غوښتنلیکونه، کوم چې د اعتبار، بنچمارک، او د موډلونو دقت ترلاسه کولو لپاره کارول کیدی شي چې یو پراختیا کونکی یې ارزونه غواړي.
وروسته له دې چې د Qualcomm TFLite SDK کڅوړې په وسیله کې نصب شي، د دې پخوانیو چلولو لپاره د رن ټایم په وسیله کې شتون لري.ampد غوښتنلیکونه.
شرط
په وسیله کې لاندې لارښودونه جوړ کړئ:
$ adb شیل "mkdir /data/Models"
$ adb شیل "mkdir /data/Lables"
$ adb شیل "mkdir /data/profiling"

لیبل انځور

د لیبل عکس یو کار دی چې د Qualcomm TFLite SDK لخوا چمتو شوی چې دا ښیې چې تاسو څنګه کولی شئ مخکې له مخکې روزل شوي او بدل شوي TensorFlow Lite ماډل پورته کړئ او په عکسونو کې د شیانو پیژندلو لپاره یې وکاروئ. شرطونه:
دانلودampماډل او انځور:
تاسو کولی شئ کوم مناسب ماډل وکاروئ، مګر لاندې د MobileNet v1 ماډل د 1000 مختلف شیانو پیژندلو لپاره روزل شوي ماډل ښه مظاهره وړاندې کوي.

  • ماډل ترلاسه کړئ
    $curl https://store.googleapis.com/download.tensorflow.org/models/ mobilenet_v1_2018_02_22/mobilenet_v1_1.0_224.tgz | tar xzv -C /data $ mv /data/mobilenet_v1_1.0_224.tflite /data/Models/
  • لیبلونه ترلاسه کړئ
    $curl https://store.googleapis.com/download.tensorflow.org/models/ mobilenet_v1_1.0_224_frozen.tgz | tar xzv -C /data mobilenet_v1_1.0_224/ labels.txt
    $mv /data/mobilenet_v1_1.0_224/labels.txt /data/Labels/
    وروسته له دې چې تاسو د Qualcomm TFLite SDK ډاکر کانټینر سره وصل شئ ، عکس دلته موندل کیدی شي:
    "/mnt/tflite/src/tensorflow/tensorflow/lite/examples/label_image/ testdata/grace_hopper.bmp"
    a. دا فشار ورکړئ file ته/ډاټا/لیبلونه/
    b. کمانډ چل کړئ:
    $ adb شیل "label_image -l /data/Labels/labels.txt -i /data/Labels/ grace_hopper.bmp -m /data/Models/mobilenet_v1_1.0_224.tflite -c 10 -j 1 -p 1"

بنچمارک

د Qualcomm TFLite SDK د مختلف چلولو وختونو فعالیت محاسبه کولو لپاره د بنچمارک کولو وسیله چمتو کوي.
دا بنچمارک وسیلې اوس مهال د لاندې مهم فعالیت میټریکونو لپاره احصایې اندازه کوي او محاسبه کوي:

  • د پیل وخت
  • د تودوخې حالت اټکل وخت
  • د ثابت حالت د استخراج وخت
  • د پیل کولو په وخت کې د حافظې کارول
  • په ټولیزه توګه د حافظې کارول

شرطونه

موډلونه فشار ورکړئ چې د TFLite ماډل زو څخه ازموینه وشي (https://tfhub.dev/) to/data/Models/. چلول لاندې سکریپټونه:  

  • د ایکس این این پیک
    $ adb شیل "benchmark_model –graph=/data/Models/ — enable_op_profiling=true –use_xnnpack=true –num_threads=4 –max_secs=300 –profiling_output_csv_file=/ډاټا/پیژندنه/”
  • د GPU استازی
    $ adb shell “benchmark_model –graph=/data/Models/ — enable_op_profiling=true –use_gpu=true –num_runs=100 –warmup_runs=10 — max_secs=300 –profiling_output_csv_file=/ډاټا/پیژندنه/”
  • بهرنی استازی
    د QNN بهرنی استازی GPU:
    د فلوټینګ پوائنټ ماډل سره اټکل چل کړئ:
    $ adb shell-command “benchmark_model –graph=/data/Models/ .tflite –external_delegate_path=libQnnTFLiteDelegate.so — external_delegate_options='backend_type:gpu;library_path:/usr/lib/ libQnnTFLiteDelegate.so. /adsp'"
    د QNN بهرنی استازی HTP:
    د کوانټ ماډل سره اټکل چل کړئ:
    $ adb shell-command “benchmark_model –graph=/data/Models/ .tflite –external_delegate_path=libQnnTFLiteDelegate.so — external_delegate_options='backend_type:htp;library_path:/usr/lib/ lib.f.r/libqr/libqr/// /adsp'"

دقت وسیله

د Qualcomm TFLite SDK د مختلف چلولو وختونو سره د ماډلونو دقت محاسبه کولو لپاره د دقت وسیله چمتو کوي.

  • د GPU استازي سره طبقه بندي
    د اړین ډاونلوډ کولو لپاره ګامونه fileد ازموینې لپاره موندل کیدی شي: "/mnt/tflite/src/tensorflow/tensorflow/lite/tools/evaluation/tasks/ imagenet_image_classificatio/README.md"
    د دې وسیلې چلولو لپاره بائنری لا دمخه د SDK برخه ده ، نو پراختیا کونکی اړتیا نلري چې دا بیا رامینځته کړي.
    $ adb شیل "image_classify_run_eval — ماډل_file=/data/Models/ –ground_truth_images_path=/data/ — ground_truth_labels=/data/ –model_output_labels=/ data/ -delegate=gpu"
  • د ایکس این این پیک سره د اعتراض کشف
    $ adb شیل “inf_diff_run_eval –model_file=/data/Models/ -delegate=xnnpac

قانوني معلومات

د دې سند ته ستاسو لاسرسی او کارول، د هر ډول مشخصاتو سره، د حوالې بورډ files، نقاشي، تشخیص او نور معلومات چې دلته شتون لري (په ټولیز ډول دا "اسناد") ستاسو تابع دی (د شرکت یا بل قانوني ادارې په شمول چې تاسو یې استازیتوب کوئ، په ټولیز ډول "تاسو" یا "ستاسو") د شرایطو او شرایطو منل ("د کارولو شرایط") لاندې بیان شوی. که تاسو د دې کارولو شرایطو سره موافق نه یاست، تاسو ممکن دا اسناد ونه کاروئ او سمدلاسه یې هر ډول کاپي له منځه یوسي.

  1. قانوني خبرتیا.
    دا سند یوازې تاسو ته ستاسو د داخلي کارونې لپاره د Qualcomm Technologies, Inc. ("Qualcomm Technologies") او د هغې اړوندو شرکتونو د هغو محصولاتو او خدماتو وړاندیزونو سره چمتو کیږي چې پدې سند کې بیان شوي، او د نورو موخو لپاره باید ونه کارول شي. دا اسناد ممکن د Qualcomm Technologies د مخکینۍ لیکلې تصویب پرته په هیڅ ډول بدل، تدوین، یا تعدیل نشي. د دې غیر مجاز کارول یا افشا کول
    دلته موجود اسناد یا معلومات په کلکه منع دي، او تاسو موافق یاست چې د Qualcomm ټیکنالوژۍ، د هغې وابسته شرکتونو او جواز ورکوونکو ته د هر ډول زیان یا تاوان لپاره د Qualcomm ټیکنالوژۍ، د هغې تړلو او جواز ورکوونکو ته د هر ډول غیر مجاز کارونې یا افشا کولو لپاره د دې یا په بشپړ ډول د دې سند د افشا کولو لپاره جبران کړئ. برخه د Qualcomm Technologies، د هغې وابسته شرکتونه او جواز ورکوونکي په دې اسنادو کې ټول حقونه او ملکیت ساتي. هیڅ سوداګریزې نښې، پیټینټ، کاپي حق، د ماسک د کار محافظت حق یا کوم بل فکري ملکیت حق ته هیڅ جواز د دې سند یا کوم معلومات چې دلته افشا شوي ندي ورکړل شوي یا ضمیمه شوي ندي، په شمول، مګر محدود ندي، د جوړولو، کارولو، واردولو یا کارولو جواز. کوم محصول، خدمت یا ټیکنالوژي وپلورئ چې په دې اسنادو کې د هر ډول معلوماتو سره یوځای کول وړاندې کوي.
    دا سندونه د هر ډول تضمین پرته "لکه څنګه چې دي" چمتو کیږي، که بیان شوي، ضمیمه، قانوني یا بل ډول. د قانون لخوا اجازه ورکړل شوي اعظمي حد ته، د کوالکوم ټیکنالوژي، د هغې وابسته او جواز ورکوونکي په ځانګړې توګه د سرلیک، سوداګریزې وړتیا، غیر سرغړونې، غیر سرغړونې، غیرقانوني جرمونو تضمینونه ردوي بشپړتیا یا دقت، او ټول تضمینونه چې د سوداګرۍ کارولو یا د معاملې یا د فعالیت د کورس څخه بهر. برسېره پر دې، نه د کوالکوم ټیکنالوژي، او نه هم د دې کوم وابسته یا جواز ورکوونکي، د هر ډول لګښتونو، زیانونو، کارونې، یا د پیسو په اخیستلو کې د پیسو اخیستلو لپاره به تاسو یا کوم دریم اړخ ته مسؤل نه وي په دې اسنادو کې.
    په دې سند کې راجع شوي د محصول ځینې کټونه، وسایل او توکي ممکن تاسو ته اړتیا ولري چې دې توکو ته د لاسرسي یا کارولو دمخه اضافي شرایط او شرایط ومني.
    په دې سند کې مشخص شوي تخنیکي معلومات ممکن د متحده ایالاتو او نورو پلي کیدو صادراتو کنټرول قوانینو تابع وي. د متحده ایالاتو او هر بل پلي شوي قانون خلاف لیږد په کلکه منع دی.
    په دې اسنادو کې هیڅ شی د دې اجزاو یا وسایلو پلورلو وړاندیز نه دی چې دلته ورته اشاره شوي.
    دا سند د نور خبرتیا پرته د بدلون تابع دی. د دې کارولو شرایطو او د دې ترمینځ د شخړې په صورت کې Webد سایټ د کارولو شرایط www.qualcomm.com یا د Qualcomm د محرمیت پالیسۍ ته اشاره شوې www.qualcomm.com، د دې کارولو شرایط به کنټرول شي. د دې کارونې شرایطو او کوم بل تړون (لیکل شوي یا کلیک له لارې) ترمنځ د شخړې په صورت کې چې تاسو او د Qualcomm ټیکنالوژیو یا Qualcomm ټیکنالوژیو پورې تړلي لخوا اجرا شوي یا د دې اسنادو ته ستاسو د لاسرسي او کارولو په اړه ، بل تړون به کنټرول کړي. .
    د کارونې دا شرایط باید د کالیفورنیا ایالت د قوانینو سره سم تنظیم او جوړ شي او پلي شي، د توکو د نړیوال پلور په اړه د ملګرو ملتونو کنوانسیون پرته، د قوانینو اصولو سره د ټکر په پام کې نیولو پرته. هر ډول شخړه، ادعا یا شخړه چې د دې کارونې شرایطو یا د دې سرغړونې یا اعتبار له امله رامینځته کیږي، یوازې د سان ډیاګو، کالیفورنیا ایالت کې د وړ قضاوت محکمې لخوا پریکړه کیږي، او تاسو په دې توګه موافق یاست. د دې هدف لپاره د داسې محکمو شخصي واک.
  2. د سوداګریزې نښې او محصول منسوب بیانات.
    Qualcomm د Qualcomm Incorporated سوداګریز نښه یا راجستر شوی سوداګریز نښه ده. آرم په متحده ایالاتو او/یا نورو ځایونو کې د آرم لمیټډ (یا د هغې فرعي شرکتونو) راجسټر شوی سوداګریز نښه ده. د بلوتوت® کلمه نښه د بلوتوت SIG، Inc ملکیت یو راجستر شوی سوداګریز نښه ده. نور محصول او د برانډ نومونه چې په دې سند کې حواله شوي ممکن د دوی اړوند مالکینو سوداګریزې نښې یا راجستر شوي سوداګریزې نښې وي.
    Snapdragon او Qualcomm برانډ شوي محصولات چې پدې اسنادو کې حواله شوي د Qualcomm Technologies Inc. او/یا د هغې فرعي شرکتونو محصولات دي. د Qualcomm پیټینټ ټیکنالوژي د Qualcomm Incorporated لخوا جواز لري.

د شرکت لوګو

اسناد / سرچینې

د Qualcomm TensorFlow Lite SDK سافټویر [pdf] د کارونکي لارښود
د ټینسر فلو لایټ SDK سافټویر، لایټ SDK سافټویر، SDK سافټویر، سافټویر

حوالې

اړونده پوسټونه

یو نظر پریږدئ

ستاسو بریښنالیک پته به خپره نشي. اړین ساحې په نښه شوي *