intel AI Analytics Toolkit alang sa Linux
Impormasyon sa Produkto
Ang AI Kit usa ka toolkit nga naglakip sa daghang conda environment para sa machine learning ug deep learning projects. Naglakip kini sa mga palibot alang sa TensorFlow, PyTorch, ug Intel oneCCL Bindings. Gitugotan niini ang mga tiggamit sa pag-configure sa ilang sistema pinaagi sa pag-set sa mga variable sa palibot, gamit ang Conda aron makadugang mga pakete, pag-install sa mga driver sa graphics, ug pag-disable sa hangcheck. Ang toolkit mahimong magamit sa usa ka Command Line Interface (CLI) ug dali nga ma-integrate sa mga kasamtangan nga proyekto nga wala’y espesyal nga pagbag-o.
Paggamit sa Produkto
- I-configure ang imong sistema pinaagi sa pagbutang sa mga variable sa palibot sa dili pa magpadayon.
- Aron magtrabaho sa usa ka Command Line Interface (CLI), gamita ang setvars.sh script aron i-configure ang mga himan sa oneAPI toolkits pinaagi sa environment variables. Mahimo nimong gigikanan ang setvars.sh script kausa matag sesyon o matag higayon nga magbukas ka usa ka bag-ong bintana sa terminal. Ang setvars.sh script makita sa root folder sa imong oneAPI installation.
- I-aktibo ang lainlaing mga palibot sa conda kung gikinahanglan pinaagi sa mando nga "conda activate ”. Ang AI Kit naglakip sa conda environment alang sa TensorFlow (CPU), TensorFlow uban sa Intel Extension para sa Sample TensorFlow (GPU), PyTorch nga adunay Intel Extension para sa PyTorch (XPU), ug Intel oneCCL Bindings para sa PyTorch (CPU).
- Susiha ang matag palibot nga may kalabutan sa Pagsugod Sample linked sa lamesa nga gihatag sa user manual alang sa dugang nga impormasyon kon sa unsang paagi sa paggamit sa matag palibot.
Ang mosunod nga mga instruksyon nagtuo nga imong na-install ang Intel® oneAPI software. Palihug tan-awa ang panid sa Intel AI Analytics Toolkit alang sa mga kapilian sa pag-install. Sunda kini nga mga lakang sa pagtukod ug pagdagan ingonampuban sa Intel® AI Analytics Toolkit (AI Kit):
- I-configure ang imong sistema.
- Pagtukod ug Pagdagan sa usa ka Sample.
NOTA: Ang standard nga mga instalasyon sa Python hingpit nga nahiuyon sa AI Kit, apan ang Intel® Distribution for Python* mas gipalabi.
Wala’y espesyal nga pagbag-o sa imong naglungtad nga mga proyekto nga gikinahanglan aron magsugod sa paggamit niini sa kini nga toolkit.
Mga sangkap sa Kini nga Toolkit
Ang AI Kit naglakip
- Intel® Optimization para sa PyTorch*: Ang Intel® oneAPI Deep Neural Network Library (oneDNN) gilakip sa PyTorch isip default math kernel library para sa lawom nga pagkat-on.
- Intel® Extension para sa PyTorch: Ang Intel® Extension para sa PyTorch* nagpalapad sa mga kapabilidad sa PyTorch* uban sa pinakabag-o nga mga feature ug mga optimization para sa dugang nga performance boost sa Intel hardware.
- Intel® Optimization para sa TensorFlow*: Kini nga bersyon nag-integrate sa mga primitive gikan sa oneDNN ngadto sa TensorFlow runtime para sa paspas nga performance.
- Intel® Extension para sa TensorFlow: Ang Intel® Extension para sa TensorFlow* usa ka heterogeneous, high performance deep learning extension plugin base sa TensorFlow PluggableDevice interface. Kini nga extension plugin nagdala sa Intel XPU (GPU, CPU, etc) nga mga device ngadto sa TensorFlow open source community alang sa AI workload acceleration.
- Intel® Distribution for Python*: Pagkuha ug mas paspas nga Python application performance gikan mismo sa kahon, nga adunay gamay o walay kausaban sa imong code. Kini nga pag-apod-apod gihiusa sa Intel® Performance Libraries sama sa Intel® oneAPI Math Kernel Library ug ang Intel®oneAPI Data Analytics Library.
- Intel® Distribution of Modin* (anaa lamang pinaagi sa Anaconda), nga makapahimo kanimo sa hapsay nga pagsukod sa preprocessing sa daghang mga node gamit kining intelihente, gipang-apod-apod nga librarya sa dataframe nga adunay parehas nga API sa mga pandas. Kini nga pag-apod-apod anaa lamang pinaagi sa Pag-instalar sa Intel® AI Analytics Toolkit uban sa Conda* Package Manager.
- Intel® Neural Compressor : paspas nga pag-deploy og ubos nga precision inference solutions sa sikat nga deep-learning frameworks sama sa TensorFlow*, PyTorch*, MXNet*, ug ONNX* (Open Neural Network Exchange) runtime.
- Intel® Extension para sa Scikit-pagkat-on*: Usa ka seamless nga paagi sa pagpadali sa imong Scikit-learn nga aplikasyon gamit ang Intel® oneAPI Data Analytics Library (oneDAL).
Ang pag-patching sa scikit-learn naghimo niini nga usa ka haum nga machine learning framework para sa pag-atubang sa mga problema sa tinuod nga kinabuhi. - XGBoost Optimized sa Intel: Kining ilado nga machine-learning nga pakete para sa gradient-boosted decision tree naglakip sa seamless, drop-in acceleration para sa Intel® nga mga arkitektura aron mapadali ang pagbansay sa modelo ug mapausbaw ang katukma alang sa mas maayo nga mga panagna.
I-configure ang Imong Sistema – Intel® AI Analytics Toolkit
Kung wala pa nimo ma-install ang AI Analytics Toolkit, tan-awa ang Pag-install sa Intel® AI Analytics Toolkit. Aron ma-configure ang imong sistema, itakda ang mga variable sa palibot sa dili pa magpadayon.
Itakda ang Environment Variables para sa CLI Development
Alang sa pagtrabaho sa usa ka Command Line Interface (CLI), ang mga himan sa oneAPI toolkits gi-configure pinaagi sa
mga variable sa palibot. Aron mabutang ang mga variable sa palibot pinaagi sa pagkuha sa setvars script:
Opsyon 1: Tinubdan setvars.sh kausa matag sesyon
Tinubdan setvars.sh matag higayon nga magbukas ka og bag-ong terminal window:
Imong makita ang setvars.sh script sa root folder sa imong oneAPI installation, nga kasagaran /opt/intel/oneapi/ para sa system wide installations ug ~/intel/oneapi/ para sa private installations.
Para sa sistema sa lapad nga mga instalasyon (nagkinahanglan og gamut o sudo nga mga pribilehiyo):
- . /opt/intel/oneapi/setvars.sh
Alang sa pribadong mga instalasyon:
- . ~/intel/oneapi/setvars.sh
Opsyon 2: Usa ka higayon nga setup para sa setvars.sh
Aron awtomatiko nga ma-set up ang palibot alang sa imong mga proyekto, iapil ang gigikanan sa mando
/setvars.sh sa usa ka script sa pagsugod diin kini awtomatik nga ipatawag (puli
uban ang agianan padulong sa imong lokasyon sa pag-install sa oneAPI). Ang default nga mga lokasyon sa pag-install mao ang /opt/
intel/oneapi/ para sa system wide installations (nagkinahanglan ug root o sudo privileges) ug ~/intel/oneapi/ para sa private installations.
Kay example, mahimo nimong idugang ang gigikanan /setvars.sh nga sugo sa imong ~/.bashrc o ~/.bashrc_profile o ~/.profile file. Aron mahimong permanente ang mga setting sa tanang mga account sa imong sistema, paghimo og usa ka linya nga .sh script sa imong system /etc/profile.d folder nga gigikanan sa setvars.sh (alang sa dugang nga mga detalye, tan-awa ang dokumentasyon sa Ubuntu sa Environment Variables).
NOTA
Ang setvars.sh script mahimong madumala gamit ang configuration file, nga labi ka makatabang kung kinahanglan nimo nga magsugod sa piho nga mga bersyon sa mga librarya o ang compiler, imbes nga mag-default sa "kabag-o" nga bersyon. Alang sa dugang nga mga detalye, tan-awa ang Paggamit sa usa ka Configuration File sa Pagdumala sa Setvars.sh.. Kung kinahanglan nimo nga i-setup ang palibot sa usa ka non-POSIX nga kabhang, tan-awa ang OneAPI Development Environment Setup alang sa dugang nga mga kapilian sa pag-configure.
Sunod nga mga Lakang
- Kung wala ka naggamit sa Conda, o nag-develop alang sa GPU, Pagtukod ug Pagdagan usa ka Sampang Proyekto.
- Alang sa mga tiggamit sa Conda, magpadayon sa sunod nga seksyon.
- Para sa pag-develop sa usa ka GPU, padayon sa GPU Users
Conda Environment sa kini nga Toolkit
Adunay daghang mga palibot sa conda nga gilakip sa AI Kit. Ang matag palibot gihulagway sa lamesa sa ubos. Kung nabutang na nimo ang mga variable sa palibot sa palibot sa CLI sama sa gitudlo kaniadto, mahimo nimong ma-aktibo ang lainlaing mga palibot sa conda kung gikinahanglan pinaagi sa mosunud nga mando:
- activate ang condo
Para sa dugang nga impormasyon, palihog susiha ang matag palibot nga may kalabutan sa Pagsugod Sample nalambigit sa lamesa sa ubos.
Gamita ang Conda Clone Function aron Idugang ang mga Pakete isip Non-Root User
Ang toolkit sa Intel AI Analytics na-install sa oneapi folder, nga nanginahanglan mga pribilehiyo sa gamut aron madumala. Mahimo nimong idugang ug ipadayon ang bag-ong mga pakete gamit ang Conda *, apan dili nimo mahimo kini kung wala ang pag-access sa gamut. O, mahimo kang adunay root access apan dili gusto nga mosulod sa root password matag higayon nga imong ma-activate ang Conda.
Aron madumala ang imong palibot nga dili mogamit ug root access, gamita ang Conda clone functionality aron ma-clone ang mga package nga imong gikinahanglan sa usa ka folder sa gawas sa /opt/intel/oneapi/ folder:
- Gikan sa parehas nga terminal window diin imong gipadagan ang setvars.sh, ilha ang Conda environment sa imong system:
- conda env list
Makita nimo ang mga resulta nga susama niini:
- conda env list
- Gamita ang clone function aron ma-clone ang palibot sa usa ka bag-ong folder. Sa exampsa ubos, ang bag-ong palibot ginganlan usr_intelpython ug ang palibot nga gi-clone ginganlan base (sama sa gipakita sa hulagway sa ibabaw).
- conda paghimo –ngalan usr_intelpython –clone base
Ang mga detalye sa clone makita:
- conda paghimo –ngalan usr_intelpython –clone base
- I-aktibo ang bag-ong palibot aron mahimo ang abilidad sa pagdugang mga pakete. conda activate usr_intelpython
- Siguruha nga aktibo ang bag-ong palibot. conda env list
Mahimo ka na nga mag-develop gamit ang Conda environment para sa Intel Distribution para sa Python. - Aron ma-activate ang TensorFlow* o PyTorch* environment:
TensorFlow
- conda activate tensorflow
PyTorch
- conda activate pytorch
Sunod nga mga Lakang
- Kung wala ka nag-develop alang sa GPU, Paghimo ug Pagdagan usa ka Sampang Proyekto.
- Para sa pag-develop sa usa ka GPU, padayon sa GPU Users.
Mga Gumagamit sa GPU
Alang niadtong nag-develop sa usa ka GPU, sunda kini nga mga lakang:
I-install ang mga driver sa GPU
Kung gisunod nimo ang mga panudlo sa Giya sa Pag-install aron ma-install ang Mga Driver sa GPU, mahimo nimong laktawan kini nga lakang. Kung wala nimo ma-install ang mga drayber, sunda ang mga direksyon sa Giya sa Pag-install.
Idugang ang Gumagamit sa Grupo sa Video
Para sa GPU compute workloads, dili-root (normal) nga mga user kasagarang walay access sa GPU device. Siguruha nga idugang ang imong (mga) normal nga tiggamit sa grupo sa video; kon dili, ang mga binary nga gihugpong para sa GPU device mapakyas kon ipatuman sa usa ka normal nga tiggamit. Aron ayuhon kini nga problema, idugang ang non-root user sa video group:
- sudo usermod -a -G video
I-disable ang Hangcheck
Para sa mga aplikasyon nga adunay dugay na nga GPU compute workloads sa lumad nga palibot, i-disable ang hangcheck. Wala kini girekomendar alang sa mga virtualization o uban pang standard nga paggamit sa GPU, sama sa pagdula.
Ang workload nga mokabat ug kapin sa upat ka segundos para ma-execute ang GPU hardware kay taas nga workload. Sa kasagaran, ang tagsa-tagsa nga mga hilo nga kuwalipikado isip dugay na nga mga workloads giisip nga gibitay ug gitapos. Pinaagi sa pag-disable sa hangcheck timeout period, mahimo nimong malikayan kini nga problema.
NOTA: Kung ang kernel gi-update, ang hangcheck awtomatik nga mahimo. Pagdalagan ang pamaagi sa ubos pagkahuman sa matag update sa kernel aron masiguro nga ang hangcheck wala’y mahimo.
- Ablihi ang usa ka terminal.
- Ablihi ang grub file sa /etc/default.
- Sa grub file, pangitaa ang linya nga GRUB_CMDLINE_LINUX_DEFAULT=”” .
- Ibutang kini nga teksto taliwala sa mga kinutlo (“”):
- Pagdala niini nga sugo:
sudo update-grub - I-reboot ang sistema. Ang Hangcheck nagpabilin nga wala’y mahimo.
Sunod nga Lakang
Karon nga imong na-configure ang imong sistema, ipadayon ang Pagtukod ug Pagdagan sa usa ka Sampang Proyekto.
Pagtukod ug Pagdagan sa usa ka Sample Paggamit sa Command Line
Toolkit sa Intel® AI Analytics
Niini nga seksyon, magpadagan ka og usa ka yano nga proyekto nga "Hello World" aron mapamilyar ang imong kaugalingon sa proseso sa pagtukod og mga proyekto, ug dayon magtukod sa imong kaugalingon nga proyekto.
NOTA: Kung wala pa nimo ma-configure ang imong development environment, adto sa I-configure ang imong sistema unya balik niini nga panid. Kung nahuman na nimo ang mga lakang sa pag-configure sa imong sistema, ipadayon ang mga lakang sa ubos.
Mahimo nimong gamiton ang usa ka terminal window o Visual Studio Code * kung nagtrabaho gikan sa command line. Para sa mga detalye kon unsaon paggamit ang VS Code sa lokal, tan-awa ang Basic Usage sa Visual Studio Code nga adunay oneAPI sa Linux*. Aron magamit ang VS Code sa layo, tan-awa ang Remote Visual Studio Code Development nga adunay oneAPI sa Linux*.
Pagtukod ug Pagdagan sa usa ka Sampang Proyekto
Ang sampAng mga ubos sa ubos kinahanglan nga ma-clone sa imong sistema sa dili pa nimo matukod ang sampang proyekto:
Para makakita ug lista sa mga component nga nagsuporta sa CMake, tan-awa ang Use CMake to with oneAPI Applications.
Paghimo sa Imong Kaugalingong Proyekto
Wala’y espesyal nga pagbag-o sa imong naa na nga mga proyekto sa Python nga kinahanglan aron magsugod sa paggamit niini sa kini nga toolkit. Alang sa bag-ong mga proyekto, ang proseso hugot nga nagsunod sa proseso nga gigamit sa paghimo sa sample Hello World nga mga proyekto. Tan-awa ang Hello World README files alang sa mga panudlo.
Pag-maximize sa Performance
Makakuha ka og dokumentasyon aron matabangan ka nga mapataas ang pasundayag alang sa TensorFlow o PyTorch.
I-configure ang Imong Kalikopan
NOTA: Kung dili magamit ang imong virtual nga palibot, o kung gusto nimo nga idugang ang mga pakete sa imong virtual nga palibot, siguroha nga nahuman nimo ang mga lakang sa Paggamit sa Conda Clone Function aron Idugang ang mga Pakete ingon usa ka Non-Root User.
Kung nag-develop ka sa gawas sa usa ka sudlanan, kuhaa ang mosunod nga script aron magamit ang Intel® Distribution for Python*:
-
- /setvars.sh
- diin diin nimo gi-install kini nga toolkit. Sa default ang direktoryo sa pag-install mao ang:
- Pag-install sa gamut o sudo: /opt/intel/oneapi
- Lokal nga mga instalasyon sa tiggamit: ~/intel/oneapi
NOTA: Ang setvars.sh script mahimong madumala gamit ang configuration file, nga labi ka makatabang kung kinahanglan nimo nga magsugod sa piho nga mga bersyon sa mga librarya o ang compiler, imbes nga mag-default sa "kabag-o" nga bersyon. Alang sa dugang nga mga detalye, tan-awa ang Paggamit sa usa ka Configuration File sa Pagdumala sa Setvars.sh. Kung kinahanglan nimo nga i-setup ang environment sa non-POSIX shell, tan-awa ang oneAPI Development Environment Setup para sa dugang mga opsyon sa configuration.
Aron mabalhin ang mga palibot, kinahanglan una nimo nga i-deactivate ang aktibo nga palibot.
Ang mosunod nga exampGipakita ni le ang pag-configure sa palibot, pagpaaktibo sa TensorFlow*, ug dayon pagbalik sa Intel Distribution para sa Python:
Pag-download og Container
Toolkit sa Intel® AI Analytics
Gitugotan ka sa mga sudlanan nga i-set up ug i-configure ang mga palibot alang sa pagtukod, pagpadagan ug pag-profile sa mga aplikasyon sa oneAPI ug ipang-apod-apod kini gamit ang mga imahe:
- Mahimo nimong i-install ang usa ka imahen nga adunay usa ka palibot nga gi-configure nang daan sa tanan nga mga himan nga imong gikinahanglan, unya pag-uswag sulod sa kana nga palibot.
- Mahimo nimong i-save ang usa ka palibot ug gamiton ang imahe aron ibalhin kana nga palibot sa lain nga makina nga wala’y dugang nga pag-setup.
- Mahimo kang mag-andam og mga sudlanan nga adunay lain-laing mga hugpong sa mga pinulongan ug mga runtime, mga himan sa pagtuki, o uban pang mga himan, kon gikinahanglan.
I-download ang Docker* nga Imahe
Mahimo nimong i-download ang usa ka Docker * nga imahe gikan sa Containers Repository.
NOTA: Ang imahe sa Docker mao ang ~ 5 GB ug mahimo’g makuha ang ~ 15 minuto aron ma-download. Nagkinahanglan kini og 25 GB nga espasyo sa disk.
- Ipasabot ang hulagway:
image=intel/oneapi-aikit docker pull “$image” - Ibira ang hulagway.
pagbitad sa pantalan sa "$imahe"
Kung ma-download na ang imong imahe, ipadayon ang Paggamit sa mga Container nga adunay Command Line.
Paggamit sa mga Container nga adunay Command Line
Intel® AI Analytics Toolkit I-download ang mga pre-built container nga direkta. Ang sugo sa ubos para sa CPU magbilin kanimo sa command prompt, sulod sa sudlanan, sa interactive mode.
CPU
image=intel/oneapi-aikit docker run -it "$image"
Gamit ang Intel® Advisor, Intel® Inspector o VTune™ nga adunay mga Container
Kung gamiton kini nga mga himan, ang dugang nga kapabilidad kinahanglan ihatag sa sulud: –cap-add=SYS_ADMIN –cap-add=SYS_PTRACE
- docker run –cap-add=SYS_ADMIN –cap-add=SYS_PTRACE \ –device=/dev/dri -it “$image”
Paggamit sa Cloud CI Systems
Ang mga sistema sa Cloud CI nagtugot kanimo sa paghimo ug pagsulay sa imong software nga awtomatiko. Tan-awa ang repo sa github alang sa exampgamay nga configuration files nga naggamit sa oneAPI alang sa mga sikat nga cloud CI system.
Pag-troubleshoot alang sa Intel® AI Analytics Toolkit
Mga Notice ug Disclaimers
Ang mga teknolohiya sa Intel mahimong manginahanglan og gipaandar nga hardware, software o pagpaaktibo sa serbisyo. Walay produkto o sangkap ang mahimong hingpit nga luwas.
Mahimong magkalainlain ang imong mga gasto ug mga sangputanan.
© Intel Corporation. Ang Intel, ang logo sa Intel, ug uban pang mga marka sa Intel mga marka sa pamatigayon sa Intel Corporation o mga subsidiary niini. Ang ubang mga ngalan ug mga tatak mahimong maangkon ingon nga kabtangan sa uban.
Impormasyon sa Produkto ug Pagganap
Lainlain ang paghimo sa paggamit, pag-configure ug uban pang mga hinungdan. Pagkat-on pa sa www.Intel.com/PerformanceIndex.
Pahibalo sa rebisyon #20201201
Walay lisensya (gipahayag o gipasabot, pinaagi sa estoppel o uban pa) sa bisan unsang mga katungod sa intelektwal nga kabtangan ang gihatag niini nga dokumento. Ang mga produkto nga gihulagway mahimong adunay mga depekto sa disenyo o mga sayup nga nailhan nga errata nga mahimong hinungdan sa pagtipas sa produkto gikan sa gipatik nga mga detalye. Ang kasamtangan nga kinaiya nga sayop anaa sa hangyo.
Gipanghimakak sa Intel ang tanang gipahayag ug gipasabot nga mga garantiya, lakip ang walay limitasyon, ang gipasabot nga mga garantiya sa pagkahimong mamaligya, kaangayan alang sa usa ka partikular nga katuyoan, ug dili paglapas, ingon man ang bisan unsang garantiya nga naggikan sa dagan sa pasundayag, dagan sa pagdumala, o paggamit sa pamatigayon.
Mga Dokumento / Mga Kapanguhaan
 |
intel AI Analytics Toolkit alang sa Linux [pdf] Giya sa Gumagamit AI Analytics Toolkit para sa Linux, AI Analytics Toolkit, Analytics Toolkit para sa Linux, Analytics Toolkit, Toolkit |
