Telemetry amin'ny Junos ho an'ny enta-mavesatra AI/ML
Mpanoratra: Shalini Mukherjee

Sava lalana

Satria mitaky tambajotra tsy misy fatiantoka miaraka amin'ny fampandehanan-draharaha ambony sy ambany ny fifamoivoizana AI cluster, ny singa manan-danja amin'ny tambajotra AI dia ny fanangonana angon-drakitra fanaraha-maso. Ny Junos Telemetry dia ahafahan'ny fanaraha-maso mibaribary ny tondro fampandehanana lehibe, ao anatin'izany ny tokonam-baravarana sy ny kaontera amin'ny fitantanana fitohanana sy ny fampifandanjana entana. Ny session gRPC dia manohana ny fandefasana angon-drakitra telemetry. gRPC dia rafitra maoderina, loharano misokatra, avo lenta izay natsangana tamin'ny fitaterana HTTP/2. Izy io dia manome hery ny fahaizan'ny fandefasana bidirectional teratany ary misy metadata mahazatra miovaova amin'ny lohatenin'ny fangatahana. Ny dingana voalohany amin'ny telemetry dia ny fahafantarana izay angon-drakitra tokony ho angonina. Afaka mamakafaka ireo angona ireo amin'ny endrika samihafa isika avy eo. Rehefa voaangona ny angon-drakitra dia zava-dehibe ny manolotra izany amin'ny endrika mora arahina, mandray fanapahan-kevitra ary manatsara ny tolotra atolotra. Amin'ity lahatsoratra ity dia mampiasa stack telemetry misy Telegraf, InfluxDB ary Grafana izahay. Ity stack telemetry ity dia manangona angon-drakitra amin'ny alàlan'ny modely fanosehana. Ny maodelin'ny fisintonana nentim-paharazana dia be loharanon-karena, mitaky fandraisana an-tanana amin'ny tanana, ary mety ahitana banga fampahalalana amin'ny angon-drakitra angonin'izy ireo. Mandresy ireo fetra ireo ny maodely Push amin'ny alàlan'ny fandefasana angon-drakitra tsy mifanaraka. Manatsara ny angona izy ireo amin'ny fampiasana mora ampiasaina tags ary anarana. Raha vao amin'ny endrika mora vakina kokoa ny angona dia tehirizinay ao anaty angon-drakitra izany ary ampiasainay amin'ny fijerena sary mihetsika web fampiharana amin'ny famakafakana ny tambajotra. Sary. Ny 1 dia mampiseho antsika ny fomba nandrafetana an'ity stack ity ho fanangonam-baovao, fitahirizana ary fijerena sary, manomboka amin'ny fitaovan'ny tambajotra manosika ny angona mankany amin'ny mpanangona mankany amin'ny angona aseho amin'ny solaitrabe hanaovana fanadihadiana.

TIG Stack

Nampiasa mpizara Ubuntu izahay hametraka ny rindrambaiko rehetra ao anatin'izany ny TIG stack.

Telegrafy
Mba hanangonana angona dia mampiasa Telegraf amin'ny mpizara Ubuntu mandeha 22.04.2 izahay. Ny dikan-teny Telegraf mandeha amin'ity demo ity dia 1.28.5.
Telegraf dia mpizara mpizara entin'ny plugin amin'ny fanangonana sy fanaovana tatitra metrika. Mampiasa processeur izy io plugins hanatsara sy hanara-dalàna ny angon-drakitra. Ny vokatra plugins ampiasaina handefasana an'io data io any amin'ny toeram-pivarotana data isan-karazany. Amin'ity taratasy ity dia mampiasa roa izahay plugins: ny iray ho an'ny sensor openconfig ary ny iray ho an'ny sensor native Juniper.
InfluxDB
Mba hitahiry ny angona ao anaty angon-drakitra andiam-potoana dia mampiasa InfluxDB izahay. Ny plugin Output ao amin'ny Telegraf dia mandefa ny angona any amin'ny InfluxDB, izay mitahiry izany amin'ny fomba mahomby. Mampiasa V1.8 izahay satria tsy misy CLI ho an'ny V2 sy ambony.
Grafana
Grafana no ampiasaina hijerena an'io data io. Grafana dia misintona ny angona avy amin'ny InfluxDB ary mamela ny mpampiasa hamorona dashboard manankarena sy mifampiresaka. Eto isika dia mihazakazaka version 10.2.2.

Configuration amin'ny Switch

Mba hampiharana an'io stack io dia mila amboarina aloha ny switch araka ny aseho amin'ny sary 2. Nampiasa port 50051 izahay. Azo ampiasaina eto ny port rehetra. Midira ao amin'ny switch QFX ary ampio ity fanamboarana manaraka ity.

Fanamarihana: Ity fanamboarana ity dia natao ho an'ny laboratoara/POC satria alefa amin'ny lahatsoratra mazava ny tenimiafina. Ampiasao ny SSL mba hisorohana izany.

TONTOLO IAINANA

Nginx
Ilaina izany raha tsy azonao atao ny mampiseho ny seranan-tsambo misy an'i Grafana. Ny dingana manaraka dia ny fametrahana ny nginx amin'ny mpizara Ubuntu mba ho toy ny mpisolo toerana proxy. Raha vao tafapetraka ny nginx dia ampio ny tsipika aseho amin'ny sary 4 amin'ny rakitra "default" ary afindrao ny rakitra avy amin'ny /etc/nginx mankany /etc/nginx/sites-enabled.

Ataovy azo antoka fa amboarina ny firewall mba hanomezana fidirana feno amin'ny serivisy nginx araka ny aseho amin'ny sary 5.

Rehefa tafapetraka ny nginx ary vita ny fanovana ilaina dia tokony ho afaka miditra amin'ny Grafana avy amin'ny a web navigateur amin'ny alàlan'ny fampiasana ny adiresy IP an'ny mpizara Ubuntu izay ametrahana ny rindrambaiko rehetra.
Misy glitch kely ao amin'ny Grafana izay tsy mamela anao hamerina ny tenimiafina default. Ampiasao ireto dingana ireto raha sendra ity olana ity ianao.
Dingana tokony hatao amin'ny mpizara Ubuntu hametrahana ny tenimiafina ao Grafana:

• Mandehana any amin'ny /var/lib/grafana/grafana.db
• Mametraka sqlite3
  o sudo apt mametraka sqlite3
• Alefaso amin'ny terminalo ity baiko ity
  o sqlite3 grafana.db
•  Misokatra ny baikon'ny Sqlite; araho ity fanontaniana manaraka ity:
  > hamafa amin'ny mpampiasa izay fidirana = 'admin'
• Avereno indray ny grafana ary soraty ny admin ho solon'anarana sy tenimiafina. Mangataka tenimiafina vaovao izany.

Rehefa tafapetraka daholo ny lozisialy rehetra dia mamorona ny fisie config ao amin'ny Telegraf izay hanampy amin'ny fisintonana ny angon-drakitra telemetry avy ao amin'ny switch ary manosika azy any amin'ny InfluxDB.

Openconfig Sensor Plugin

Ao amin'ny mpizara Ubuntu, amboary ny rakitra /etc/telegraf/telegraf.conf mba hanampiana ireo zavatra ilaina rehetra plugins ary sensor. Ho an'ny sensor openconfig dia mampiasa ny plugin gNMI aseho amin'ny sary 6 izahay. Ho an'ny tanjona demo, ampio ny anaran'ny mpampiantrano ho "spine1", ny laharana seranan-tsambo "50051" izay ampiasaina amin'ny gRPC, ny solon'anarana sy ny tenimiafin'ny switch, ary ny isa. segondra ho an'ny antso indray raha sendra tsy fahombiazana.
Ao amin'ny stanza famandrihana, ampio anarana tokana, "cpu" ho an'ity sensor manokana ity, ny lalan'ny sensor, ary ny elanelan'ny fotoana hakana an'io data io avy amin'ny switch. Ampio ny plugin inputs.gnmi sy inputs.gnmi.subscription ho an'ny sensor config misokatra rehetra. (sary 6)

Native Sensor Plugin

Ity dia plugin interface tsara Juniper telemetry ampiasaina ho an'ny sensor teratany. Ao amin'io fichier telegraf.conf io ihany, ampio ny inputs.jti_openconfig_telemetry izay misy ny saha mitovy amin'ny openconfig. Mampiasà ID mpanjifa tokana ho an'ny sensor tsirairay; eto, mampiasa "telegraf3" izahay. Ny anarana tokana ampiasaina eto amin'ity sensor ity dia "mem" (sary 7).

Farany, ampio plugin outputs.influxdb handefasana ity angona sensor ity amin'ny InfluxDB. Eto, ny angon-drakitra dia nomena anarana hoe "telegraf" miaraka amin'ny anarana hoe "influx" sy ny tenimiafina "influxdb" (sary 8).

Rehefa avy nanova ny rakitra telegraf.conf ianao dia avereno indray ny serivisy telegraf. Ankehitriny, jereo ny InfluxDB CLI mba hahazoana antoka raha misy fandrefesana natao ho an'ny sensor tokana rehetra. Soraty ny "influx" mba hidirana ao amin'ny InfluxDB CLI.

Araka ny hita eo amin'ny sary. 9, ampidiro ny bitsika influxDB ary ampiasao ny angon-drakitra "telegraf". Voatanisa ho fandrefesana ny anarana tsy manam-paharoa nomena ny sensor.
Raha te hahita ny vokatra avy amin'ny fandrefesana iray, mba hahazoana antoka fa marina ny rakitra telegrafy ary miasa ny sensor, ampiasao ny baiko "misafidiana * amin'ny fetra cpu 1" araka ny aseho amin'ny sary 10.

Isaky ny misy fanovana atao amin'ny fisie telegraf.conf dia ataovy izay hajanona ny InfluxDB, avereno indray ny Telegraf, ary atombohy ny InfluxDB.
Midira ao amin'ny Grafana avy amin'ny navigateur ary mamorona dashboard rehefa avy nahazo antoka fa voaangona tsara ny angon-drakitra.
Mandehana any amin'ny Connections> InfuxDB> Ampio loharano angona vaovao.

1. Omeo anarana ity loharano angona ity. Amin'ity demo ity dia "test-1".
2.  Eo ambanin'ny stanza HTTP, ampiasao ny IP server Ubuntu sy seranan-tsambo 8086.
   
3. Ao amin'ny antsipirian'ny InfluxDB, ampiasao ny anaran'ny angon-drakitra mitovy, "telegraf", ary omeo ny solon'anarana sy tenimiafina an'ny mpizara Ubuntu.
4. Tsindrio Save & test. Ataovy azo antoka fa hitanao ilay hafatra, "tafita".
   
5. Rehefa ampidirina soa aman-tsara ny loharanom-baovao dia mandehana any amin'ny Dashboards ary tsindrio Vaovao. Andeha isika hamorona dashboard vitsivitsy izay tena ilaina amin'ny enta-miasa AI/ML amin'ny fomba mpamoaka lahatsoratra.

ExampLes Of Sensor Graphs

Ireto manaraka ireto ny exampny kaontera lehibe sasany ilaina amin'ny fanaraha-maso tambajotra AI/ML.
Persentage utilization ho an'ny ingress interface tsara et-0/0/0 amin'ny hazondamosiko-1

• Safidio ny loharano angona ho test-1.
• Ao amin'ny fizarana FROM, safidio ny fandrefesana ho "interface". Ity no anarana tokana ampiasaina amin'ity lalan'ny sensor ity.
• Ao amin'ny fizarana WHERE, mifidiana fitaovana::tag, ary amin'ny tag sanda, safidio ny anaran'ny mpampiantrano ny switch, izany hoe, spine1.
• Ao amin'ny fizarana SELECT, safidio ny sampana sensor izay tianao hojerena; Amin'ity tranga ity dia fidio ny “field(/interfaces/interface[if_name='et-0/0/0']/state/counters/if_in_1s_octets)”. Ao amin'io fizarana io ihany, tsindrio ny "+" ary ampio ity kajy matematika ity (/50000000000 * 100). Amin'ny ankapobeny dia manao kajy ny isan-jato izahaytagFampiasana interface tsara 400G.
• Ataovy azo antoka fa "andian-potoana" ny FORMAT, ary lazao ny tabilao ao amin'ny fizarana ALIAS.

Ny fibodoana ambony indrindra ho an'ny filaharana rehetra

• Safidio ny loharano angona ho test-1.
• Ao amin'ny fizarana FROM, safidio ny fandrefesana ho "buffer".
• Ao amin'ny fizarana WHERE dia misy sehatra telo hofenoina. Mifidiana fitaovana::tag, ary amin'ny tag sanda misafidy ny anaran'ny mpampiantrano ny switch (izany hoe spine-1); ARY safidio /cos/interfaces/interface/@name::tag ary safidio ny interface (izany hoe et- 0/0/0); ARY safidio koa ny filaharana, /cos/interfaces/interface/queues/queue/@queue::tag ary safidio ny laharana laharana faha-4.
• Ao amin'ny fizarana SELECT, safidio ny sampana sensor izay tianao hojerena; Amin'ity tranga ity dia fidio ny "field(/cos/interfaces/interface/queues/queue/PeakBuferOccupancy)."
• Ataovy azo antoka fa "andian-potoana" ny FORMAT ary lazao ny tabilao ao amin'ny fizarana ALIAS.

Azonao atao ny manangona angon-drakitra ho an'ny interface maro amin'ny grafika mitovy amin'ny hita ao amin'ny sary 17 ho an'ny et-0/0/0, et-0/0/1, et-0/0/2 sns.

PFC sy ECN dia midika derivative

Mba hahitana ny derivative midika (ny fahasamihafan'ny sanda ao anatin'ny fe-potoana iray), ampiasao ny fomba fangatahana manta.
Ity no fangatahana fidirana izay nampiasanay mba hahitana ny derivative midika eo amin'ny sanda PFC roa amin'ny et-0/0/0 an'ny Spine-1 ao anatin'ny segondra iray.
SELECT derivative(mean(“/interfaces/interface[if_name='et-0/0/0′]/state/pfc-counter/tx_pkts”), 1s) AVY amin'ny “interface” AIZA (“fitaovana”::tag = 'Spine-1') SY $timeFilter GROUP BY time($interval)

SELECT derivative(midika (“/interfaces/interface[if_name='et-0/0/8′]/state/error-counters/ecn_ce_marked_pkts”), 1s) Avy amin'ny “interface” AIZA (“fitaovana”::tag = 'Spine-1') SY $timeFilter GROUP BY time($interval)

Ny hadisoana amin'ny loharanon-karena dia midika hoe derivative

Ny fangatahana manta momba ny hadisoana loharano dia midika hoe derivative:
SELECT derivative(midika (“/interfaces/interface[if_name='et-0/0/0′]/state/error-counters/if_in_resource_errors”), 1s) Avy amin'ny “interface” AIZA (“fitaovana”::tag = 'Spine-1') SY $timeFilter GROUP BY time($interval)

Avy amin'ny dikantenin'i derivative teo amin'i Wikibolana anglisy

Ny fangatahana manta momba ny latsaka rambony dia midika hoe derivative:
SELECT derivative(midika (“/cos/interfaces/interface/queues/queue/tailDropBytes”), 1s) AVY AMIN’NY “buffer” AIZA (“fitaovana”::tag = 'Ravin-1' SY "/cos/interfaces/interface/@name"::tag = 'et-0/0/0' SY "/cos/interfaces/interface/queues/queue/@queue"::tag = '4') SY $timeFilter GROUP BY time($__interval) fill(null)
 Fampiasana CPU

• Safidio ny loharano angona ho test-1.
• Ao amin'ny fizarana FROM, safidio ny fandrefesana ho "newcpu"
• Ao amin'ny WHERE dia misy sehatra telo tokony hofenoina. Mifidiana fitaovana::tag ary amin'ny tag safidio ny anaran'ny mpampiantrano ny switch (izany hoe spine-1). AND amin'ny / component/component/properties/property/name:tag, ary mifidiana cpuutilization-total AND amin'ny anarana::tag mifidy RE0.
• Ao amin'ny fizarana SELECT, safidio ny sampana sensor izay tianao hojerena. Amin'ity tranga ity, safidio ny "field(state/value)".

Ny fangatahana manta amin'ny fitadiavana ny derivative tsy ratsy amin'ny rambony dia milatsaka ho an'ny switch maro amin'ny interface maro ao anatin'ny bits/sec.
SELECT non_negative_derivative(mean(“/cos/interfaces/interface/queues/queue/tailDropBytes”), 1s)*8 AVY AMIN’NY “buffer” AIZA (fitaovana::tag =~ /^Spine-[1-2]$/) ary (“/cos/interfaces/interface/@name”::tag =~ /et-0\/0\/[0-9]/ na “/cos/interfaces/interface/@name”::tag=~/et-0\/0\/1[0-5]/) SY $timeFilter GROUP BY time($__interval), fitaovana ::tag feno (null)

Ireo no sasany tamin'ireo talohaampny kisary azo amboarina hanaraha-maso tambajotra AI/ML.

FAMINTINANA

Ity lahatsoratra ity dia mampiseho ny fomba fisintonana angon-drakitra telemetry sy sary an-tsaina izany amin'ny famoronana grafika. Ity lahatsoratra ity dia miresaka manokana momba ny sensor AI/ML, na teratany na openconfig saingy azo ampiasaina amin'ny karazana sensor rehetra ny fanamboarana. Nampidirinay ihany koa ny vahaolana ho an'ny olana maro mety hatrehinao rehefa mamorona ny fanamboarana. Ny dingana sy ny vokatra aseho ato amin'ity taratasy ity dia voafaritra manokana amin'ireo dikan-tsarimihetsika TIG voalaza teo aloha. Mety hiova izy io arakaraka ny dikan'ny rindrambaiko, ny sensor ary ny version Junos.

References

Juniper Yang Data Model Explorer ho an'ny safidy sensor rehetra
https://apps.juniper.net/ydm-explorer/
Openconfig forum ho an'ny sensor openconfig
https://www.openconfig.net/projects/models/

Foiben'ny orinasa sy varotra
Juniper Networks, Inc.
1133 Fomba fanavaozana
Sunnyvale, CA 94089 Etazonia
Telefaonina: 888. JUNIPER (888.586.4737)
na +1.408.745.2000
Fax: +1.408.745.2100
www.juniper.net
Foiben'ny APAC sy EMEA
Juniper Networks International BV
Boeing Avenue 240
1119 PZ Schiphol-Rijk
Amsterdam, Holandy
Telefaonina: +31.207.125.700
Fax: +31.207.125.701
Zon'ny mpamorona 2023 Juniper Networks. Inc. Ail zo voatokana. Juniper Networks, ny logo Juniper Networks, Juniper, Junos, ary ny marika hafa dia mari-pamantarana voasoratra ao amin'ny Juniper Networks. inc. sy/na ireo mpiara-miasa aminy any Etazonia sy any amin'ny firenena hafa. Ny anarana hafa dia mety ho marika famantarana ny tompony. Juniper Networks dia tsy tompon'andraikitra amin'ny tsy fahatomombanana amin'ity antontan-taratasy ity. Ny Juniper Networks dia manana zo hiova. manova. mamindra, na manitsy ity publication ity tsy misy fampandrenesana.
Alefaso amin'ny: design-center-comments@juniper.net V1.0/240807/ejm5-telemetry-junos-ai-ml

Documents / Loharano

Juniper NETWORKS Telemetry In Junos ho an'ny AI ML Workloads Software [pdf] Torolàlana ho an'ny mpampiasa Telemetry Ao amin'ny Junos ho an'ny AI ML Workloads Software, Junos ho an'ny AI ML Workloads Software, AI ML Workloads Software, Workloads Software, Software

References

• User Manual