Τηλεμετρία στο Junos για φόρτους εργασίας AI/ML
Συγγραφέας: Shalini Mukherjee

Εισαγωγή

Καθώς η κυκλοφορία συμπλέγματος AI απαιτεί δίκτυα χωρίς απώλειες με υψηλή απόδοση και χαμηλή καθυστέρηση, ένα κρίσιμο στοιχείο του δικτύου AI είναι η συλλογή δεδομένων παρακολούθησης. Το Junos Telemetry επιτρέπει τη λεπτομερή παρακολούθηση βασικών δεικτών απόδοσης, συμπεριλαμβανομένων των κατωφλίων και των μετρητών για τη διαχείριση συμφόρησης και την εξισορρόπηση του κυκλοφοριακού φορτίου. Οι συνεδρίες gRPC υποστηρίζουν τη ροή δεδομένων τηλεμετρίας. Το gRPC είναι ένα σύγχρονο πλαίσιο ανοιχτού κώδικα υψηλής απόδοσης που βασίζεται στη μεταφορά HTTP/2. Ενισχύει τις εγγενείς δυνατότητες αμφίδρομης ροής και περιλαμβάνει ευέλικτα προσαρμοσμένα μεταδεδομένα στις κεφαλίδες αιτημάτων. Το αρχικό βήμα στην τηλεμετρία είναι να γνωρίζουμε ποια δεδομένα πρόκειται να συλλεχθούν. Στη συνέχεια, μπορούμε να αναλύσουμε αυτά τα δεδομένα σε διάφορες μορφές. Μόλις συλλέξουμε τα δεδομένα, είναι σημαντικό να τα παρουσιάζουμε σε μια μορφή που είναι εύκολη στην παρακολούθηση, λήψη αποφάσεων και βελτίωση της υπηρεσίας που προσφέρεται. Σε αυτό το άρθρο, χρησιμοποιούμε μια στοίβα τηλεμετρίας που αποτελείται από Telegraf, InuxDB και Grafana. Αυτή η στοίβα τηλεμετρίας συλλέγει δεδομένα χρησιμοποιώντας ένα μοντέλο ώθησης. Τα παραδοσιακά μοντέλα έλξης απαιτούν πόρους, απαιτούν χειροκίνητη παρέμβαση και θα μπορούσαν να περιλαμβάνουν κενά πληροφοριών στα δεδομένα που συλλέγουν. Τα μοντέλα Push ξεπερνούν αυτούς τους περιορισμούς παρέχοντας δεδομένα ασύγχρονα. Εμπλουτίζουν τα δεδομένα χρησιμοποιώντας φιλικά προς τον χρήστη tags και ονόματα. Μόλις τα δεδομένα είναι σε πιο ευανάγνωστη μορφή, τα αποθηκεύουμε σε μια βάση δεδομένων και τα χρησιμοποιούμε σε μια διαδραστική απεικόνιση web εφαρμογή για την ανάλυση του δικτύου. Εικόνα. Το 1 μας δείχνει πώς αυτή η στοίβα έχει σχεδιαστεί για αποτελεσματική συλλογή δεδομένων, αποθήκευση και οπτικοποίηση, από συσκευές δικτύου που ωθούν δεδομένα στον συλλέκτη έως τα δεδομένα που εμφανίζονται στους πίνακες εργαλείων για ανάλυση.

Στοίβα TIG

Χρησιμοποιήσαμε έναν διακομιστή Ubuntu για να εγκαταστήσουμε όλο το λογισμικό, συμπεριλαμβανομένης της στοίβας TIG.

Τηλεγράφημα
Για τη συλλογή δεδομένων, χρησιμοποιούμε το Telegraf σε έναν διακομιστή Ubuntu που εκτελεί την έκδοση 22.04.2. Η έκδοση Telegraf που εκτελείται σε αυτήν την επίδειξη είναι 1.28.5.
Το Telegraf είναι ένας πράκτορας διακομιστή που βασίζεται σε πρόσθετα για τη συλλογή και την αναφορά μετρήσεων. Χρησιμοποιεί επεξεργαστή plugins για τον εμπλουτισμό και την ομαλοποίηση των δεδομένων. Η έξοδος plugins χρησιμοποιούνται για την αποστολή αυτών των δεδομένων σε διάφορα καταστήματα δεδομένων. Σε αυτό το έγγραφο χρησιμοποιούμε δύο plugins: ένα για αισθητήρες openconfig και το άλλο για εγγενείς αισθητήρες Juniper.
InfluxDB
Για να αποθηκεύσουμε τα δεδομένα σε μια βάση δεδομένων χρονοσειρών, χρησιμοποιούμε το InfluxDB. Το πρόσθετο εξόδου στο Telegraf στέλνει τα δεδομένα στο InfluxDB, το οποίο τα αποθηκεύει με εξαιρετικά αποτελεσματικό τρόπο. Χρησιμοποιούμε το V1.8 καθώς δεν υπάρχει CLI για το V2 και άνω.
Γραφάνα
Το Grafana χρησιμοποιείται για την οπτικοποίηση αυτών των δεδομένων. Το Grafana αντλεί τα δεδομένα από το InfluxDB και επιτρέπει στους χρήστες να δημιουργούν πλούσιους και διαδραστικούς πίνακες εργαλείων. Εδώ, εκτελούμε την έκδοση 10.2.2.

Διαμόρφωση στο διακόπτη

Για την υλοποίηση αυτής της στοίβας, πρέπει πρώτα να διαμορφώσουμε τον διακόπτη όπως φαίνεται στην Εικόνα 2. Χρησιμοποιήσαμε τη θύρα 50051. Εδώ μπορεί να χρησιμοποιηθεί οποιαδήποτε θύρα. Συνδεθείτε στον διακόπτη QFX και προσθέστε την ακόλουθη διαμόρφωση.

Σημείωμα: Αυτή η διαμόρφωση είναι για εργαστήρια/POC καθώς ο κωδικός πρόσβασης μεταδίδεται σε καθαρό κείμενο. Χρησιμοποιήστε SSL για να το αποφύγετε.

Περιβάλλο

Nginx
Αυτό είναι απαραίτητο εάν δεν μπορείτε να εκθέσετε τη θύρα στην οποία φιλοξενείται το Grafana. Το επόμενο βήμα είναι να εγκαταστήσετε το nginx στον διακομιστή Ubuntu για να χρησιμεύσει ως αντίστροφος πράκτορας μεσολάβησης. Μόλις εγκατασταθεί το nginx, προσθέστε τις γραμμές που φαίνονται στην Εικόνα 4 στο "προεπιλεγμένο" αρχείο και μετακινήστε το αρχείο από το /etc/nginx στο /etc/nginx/sites-enabled.

Βεβαιωθείτε ότι το τείχος προστασίας είναι προσαρμοσμένο ώστε να παρέχει πλήρη πρόσβαση στην υπηρεσία nginx όπως φαίνεται στην Εικόνα 5.

Μόλις εγκατασταθεί το nginx και γίνουν οι απαιτούμενες αλλαγές, θα μπορούμε να έχουμε πρόσβαση στο Grafana από το a web πρόγραμμα περιήγησης χρησιμοποιώντας τη διεύθυνση IP του διακομιστή Ubuntu όπου είναι εγκατεστημένο όλο το λογισμικό.
Υπάρχει ένα μικρό σφάλμα στο Grafana που δεν σας επιτρέπει να επαναφέρετε τον προεπιλεγμένο κωδικό πρόσβασης. Χρησιμοποιήστε αυτά τα βήματα εάν αντιμετωπίσετε αυτό το ζήτημα.
Βήματα που πρέπει να εκτελεστούν στον διακομιστή Ubuntu για να ορίσετε τον κωδικό πρόσβασης στο Grafana:

• Μεταβείτε στο /var/lib/grafana/grafana.db
• Εγκαταστήστε το sqllite3
  o sudo apt εγκατάσταση sqlite3
• Εκτελέστε αυτήν την εντολή στο τερματικό σας
  o sqlite3 grafana.db
•  Ανοίγει η γραμμή εντολών Sqlite. εκτελέστε το ακόλουθο ερώτημα:
  >διαγραφή από χρήστη όπου login='admin'
• Κάντε επανεκκίνηση του grafana και πληκτρολογήστε admin ως όνομα χρήστη και κωδικό πρόσβασης. Ζητάει νέο κωδικό πρόσβασης.

Μόλις εγκατασταθεί όλο το λογισμικό, δημιουργήστε το αρχείο διαμόρφωσης στο Telegraf, το οποίο θα σας βοηθήσει να τραβήξετε τα δεδομένα τηλεμετρίας από το διακόπτη και να τα σπρώξετε στο InfluxDB.

Openconfig Sensor Plugin

Στον διακομιστή Ubuntu, επεξεργαστείτε το αρχείο /etc/telegraf/telegraf.conf για να προσθέσετε όλα τα απαιτούμενα plugins και αισθητήρες. Για τους αισθητήρες openconfig, χρησιμοποιούμε το πρόσθετο gNMI που φαίνεται στην Εικόνα 6. Για σκοπούς επίδειξης, προσθέστε το όνομα κεντρικού υπολογιστή ως "spine1", τον αριθμό θύρας "50051" που χρησιμοποιείται για το gRPC, το όνομα χρήστη και τον κωδικό πρόσβασης του διακόπτη και τον αριθμό δευτερόλεπτα για επανάκληση σε περίπτωση αποτυχίας.
Στη συνδρομητική στροφή, προσθέστε ένα μοναδικό όνομα, "cpu" για αυτόν τον συγκεκριμένο αισθητήρα, τη διαδρομή του αισθητήρα και το χρονικό διάστημα για τη λήψη αυτών των δεδομένων από το διακόπτη. Προσθέστε τα ίδια plugin inputs.gnmi και inputs.gnmi.subscription για όλους τους ανοιχτούς αισθητήρες διαμόρφωσης. (Εικόνα 6)

Προσθήκη εγγενούς αισθητήρα

Αυτό είναι ένα πρόσθετο διεπαφής τηλεμετρίας Juniper που χρησιμοποιείται για εγγενείς αισθητήρες. Στο ίδιο αρχείο telegraf.conf, προσθέστε το εγγενές πρόσθετο αισθητήρα inputs.jti_openconfig_telemetry όπου τα πεδία είναι σχεδόν ίδια με το openconfig. Χρησιμοποιήστε ένα μοναδικό αναγνωριστικό πελάτη για κάθε αισθητήρα. Εδώ, χρησιμοποιούμε το "telegraf3". Το μοναδικό όνομα που χρησιμοποιείται εδώ για αυτόν τον αισθητήρα είναι "mem" (Εικόνα 7).

Τέλος, προσθέστε μια προσθήκη εξόδου outputs.influxdb για να στείλετε αυτά τα δεδομένα αισθητήρα στο InuxDB. Εδώ, η βάση δεδομένων ονομάζεται "telegraf" με όνομα χρήστη ως "inux" και κωδικό πρόσβασης "inuxdb" (Εικόνα 8).

Αφού επεξεργαστείτε το αρχείο telegraf.conf, επανεκκινήστε την υπηρεσία telegraf. Τώρα, ελέγξτε το InuxDB CLI για να βεβαιωθείτε ότι έχουν δημιουργηθεί μετρήσεις για όλους τους μοναδικούς αισθητήρες. Πληκτρολογήστε "inux" για να εισέλθετε στο InfluxDB CLI.

Όπως φαίνεται στο Σχήμα. 9, εισαγάγετε την προτροπή influxDB και χρησιμοποιήστε τη βάση δεδομένων "telegraf". Όλα τα μοναδικά ονόματα που δίνονται στους αισθητήρες παρατίθενται ως μετρήσεις.
Για να δείτε την έξοδο οποιασδήποτε μέτρησης, απλώς για να βεβαιωθείτε ότι το αρχείο telegraf είναι σωστό και ο αισθητήρας λειτουργεί, χρησιμοποιήστε την εντολή "επιλογή * από το όριο cpu 1" όπως φαίνεται στο Σχήμα 10.

Κάθε φορά που γίνονται αλλαγές στο αρχείο telegraf.conf, φροντίστε να σταματήσετε το InfluxDB, να επανεκκινήσετε το Telegraf και μετά να ξεκινήσετε το InfluxDB.
Συνδεθείτε στο Grafana από το πρόγραμμα περιήγησης και δημιουργήστε πίνακες εργαλείων αφού βεβαιωθείτε ότι τα δεδομένα συλλέγονται σωστά.
Μεταβείτε στις Συνδέσεις > InfuxDB > Προσθήκη νέας πηγής δεδομένων.

1. Δώστε ένα όνομα σε αυτήν την πηγή δεδομένων. Σε αυτό το demo είναι "test-1".
2.  Κάτω από τη στροφή HTTP, χρησιμοποιήστε την IP του διακομιστή Ubuntu και τη θύρα 8086.
   
3. Στις λεπτομέρειες InfluxDB, χρησιμοποιήστε το ίδιο όνομα βάσης δεδομένων, "telegraf", και δώστε το όνομα χρήστη και τον κωδικό πρόσβασης του διακομιστή Ubuntu.
4. Κάντε κλικ στην επιλογή Αποθήκευση και δοκιμή. Βεβαιωθείτε ότι βλέπετε το μήνυμα, "επιτυχής".
   
5. Μόλις προστεθεί με επιτυχία η προέλευση δεδομένων, μεταβείτε στους Πίνακες ελέγχου και κάντε κλικ στο Νέο. Ας δημιουργήσουμε μερικούς πίνακες εργαλείων που είναι απαραίτητοι για φόρτους εργασίας AI/ML σε λειτουργία επεξεργασίας.

Examples Of Sensor Graphs

Τα παρακάτω είναι π.χampμερικοί μεγάλοι μετρητές που είναι απαραίτητοι για την παρακολούθηση ενός δικτύου AI/ML.
Ποσοστόtage αξιοποίηση για διεπαφή εισόδου et-0/0/0 στο spine-1

• Επιλέξτε την πηγή δεδομένων ως test-1.
• Στην ενότητα FROM, επιλέξτε τη μέτρηση ως "διεπαφή". Αυτό είναι το μοναδικό όνομα που χρησιμοποιείται για αυτήν τη διαδρομή αισθητήρα.
• Στην ενότητα WHERE, επιλέξτε συσκευή:tag, και στο tag τιμή, επιλέξτε το όνομα κεντρικού υπολογιστή του διακόπτη, δηλαδή το spine1.
• Στην ενότητα ΕΠΙΛΟΓΗ, επιλέξτε τον κλάδο αισθητήρα που θέλετε να παρακολουθήσετε. σε αυτήν την περίπτωση επιλέξτε "field(/interfaces/interface[if_name='et-0/0/0']/state/counters/if_in_1s_octets)". Τώρα στην ίδια ενότητα, κάντε κλικ στο "+" και προσθέστε αυτά τα μαθηματικά υπολογισμού (/50000000000 * 100). Βασικά υπολογίζουμε το ποσοστόtagη χρήση μιας διεπαφής 400G.
• Βεβαιωθείτε ότι η ΜΟΡΦΗ είναι "χρονική σειρά" και ονομάστε το γράφημα στην ενότητα ALIAS.

Μέγιστη πληρότητα buffer για οποιαδήποτε ουρά

• Επιλέξτε την πηγή δεδομένων ως test-1.
• Στην ενότητα FROM, επιλέξτε τη μέτρηση ως "buffer".
• Στην ενότητα WHERE, υπάρχουν τρία πεδία για συμπλήρωση. Επιλογή συσκευής::tag, και στο tag τιμή επιλέξτε το όνομα κεντρικού υπολογιστή του διακόπτη (π.χ. spine-1). ΚΑΙ επιλέξτε /cos/interfaces/interface/@name::tag και επιλέξτε τη διεπαφή (π.χ. et- 0/0/0). ΚΑΙ επιλέξτε την ουρά επίσης, /cos/interfaces/interface/queues/queue/@queue::tag και επιλέξτε τον αριθμό ουράς 4.
• Στην ενότητα ΕΠΙΛΟΓΗ, επιλέξτε τον κλάδο αισθητήρα που θέλετε να παρακολουθήσετε. Σε αυτήν την περίπτωση επιλέξτε "πεδίο(/cos/interfaces/interface/queues/queue/PeakBufferOccupancy)."
• Βεβαιωθείτε ότι το FORMAT είναι "χρονοσειρά" και ονομάστε το γράφημα στην ενότητα ALIAS.

Μπορείτε να συλλέξετε δεδομένα για πολλαπλές διεπαφές στο ίδιο γράφημα όπως φαίνεται στην Εικόνα 17 για et-0/0/0, et-0/0/1, et-0/0/2 κ.λπ.

PFC και ECN μέσο παράγωγο

Για την εύρεση της μέσης παραγώγου (η διαφορά στην τιμή εντός χρονικού εύρους), χρησιμοποιήστε τη λειτουργία ανεπεξέργαστου ερωτήματος.
Αυτό είναι το ερώτημα εισροής που χρησιμοποιήσαμε για να βρούμε τη μέση παράγωγο μεταξύ δύο τιμών PFC στο et-0/0/0 του Spine-1 σε ένα δευτερόλεπτο.
SELECT παράγωγο(mean("/interfaces/interface[if_name='et-0/0/0′]/state/pfc-counter/tx_pkts"), 1s) FROM "interface" WHERE ("συσκευή"::tag = 'Spine-1') ΚΑΙ $timeFilter GROUP BY time ($interval)

SELECT παράγωγο(mean(“/interfaces/interface[if_name='et-0/0/8′]/state/error-counters/ecn_ce_marked_pkts”), 1s) FROM “interface” WHERE (“συσκευή”::tag = 'Spine-1') ΚΑΙ $timeFilter GROUP BY time ($interval)

Τα σφάλματα πόρων εισόδου σημαίνουν παράγωγο

Το ακατέργαστο ερώτημα για σφάλματα πόρων μέσης παράγωγης είναι:
SELECT παράγωγο(mean(“/interfaces/interface[if_name='et-0/0/0′]/state/error-counters/if_in_resource_errors”), 1s) FROM “interface” WHERE (“συσκευή”::tag = 'Spine-1') ΚΑΙ $timeFilter GROUP BY time ($interval)

Οι σταγόνες ουράς σημαίνουν παράγωγο

Το ακατέργαστο ερώτημα για το μέσο παράγωγο σταγόνες ουράς είναι:
SELECT παράγωγο(μέσος("/cos/interfaces/interface/queues/queue/tailDropBytes"), 1s) FROM "bufer" WHERE ("συσκευή"::tag = 'Leaf-1' ΚΑΙ "/cos/interfaces/interface/@name"::tag = 'et-0/0/0' ΚΑΙ "/cos/interfaces/interface/queues/queue/@queue"::tag = '4') ΚΑΙ $timeFilter GROUP BY BY time($__interval) fill(null)
 Χρήση CPU

• Επιλέξτε την πηγή δεδομένων ως test-1.
• Στην ενότητα FROM, επιλέξτε τη μέτρηση ως "newcpu"
• Στο WHERE, υπάρχουν τρία πεδία για συμπλήρωση. Επιλογή συσκευής::tag και στο tag τιμή επιλέξτε το όνομα κεντρικού υπολογιστή του διακόπτη (δηλ. spine-1). ΚΑΙ στο /components/component/properties/property/name:tagκαι επιλέξτε cputilization-total AND στο όνομα::tag επιλέξτε RE0.
• Στην ενότητα ΕΠΙΛΟΓΗ, επιλέξτε τον κλάδο αισθητήρα που θέλετε να παρακολουθήσετε. Σε αυτήν την περίπτωση, επιλέξτε "πεδίο(κατάσταση/τιμή)".

Το ακατέργαστο ερώτημα για την εύρεση της μη αρνητικής παραγώγου της ουράς πέφτει για πολλαπλούς διακόπτες σε πολλαπλές διεπαφές σε bit/sec.
SELECT non_negative_derivative(mean("/cos/interfaces/interface/queues/queue/tailDropBytes"), 1s)*8 FROM "bufer" WHERE (συσκευή::tag =~ /^Spine-[1-2]$/) και (“/cos/interfaces/interface/@name”::tag =~ /et-0\/0\/[0-9]/ ή "/cos/interfaces/interface/@name"::tag=~/et-0\/0\/1[0-5]/) ΚΑΙ $timeFilter GROUP BY BY ($__interval),συσκευή::tag συμπλήρωση (μηδενικό)

Αυτοί ήταν μερικοί από τους πρώηνampαπό τα γραφήματα που μπορούν να δημιουργηθούν για την παρακολούθηση ενός δικτύου AI/ML.

Περίληψη

Αυτή η εργασία επεξηγεί τη μέθοδο έλξης δεδομένων τηλεμετρίας και οπτικοποίησης τους με τη δημιουργία γραφημάτων. Αυτό το άρθρο μιλάει συγκεκριμένα για αισθητήρες AI/ML, τόσο εγγενείς όσο και ανοιχτές, αλλά η ρύθμιση μπορεί να χρησιμοποιηθεί για όλα τα είδη αισθητήρων. Έχουμε συμπεριλάβει επίσης λύσεις για πολλά ζητήματα που ενδέχεται να αντιμετωπίσετε κατά τη δημιουργία της ρύθμισης. Τα βήματα και οι έξοδοι που απεικονίζονται σε αυτό το έγγραφο είναι συγκεκριμένα για τις εκδόσεις της στοίβας TIG που αναφέρθηκαν προηγουμένως. Μπορεί να αλλάξει ανάλογα με την έκδοση του λογισμικού, τους αισθητήρες και την έκδοση Junos.

Αναφορές

Juniper Yang Data Model Explorer για όλες τις επιλογές αισθητήρων
https://apps.juniper.net/ydm-explorer/
Opencong φόρουμ για openconfig αισθητήρες
https://www.openconfig.net/projects/models/

Εταιρικά και κεντρικά γραφεία πωλήσεων
Juniper Networks, Inc.
1133 Τρόπος Καινοτομίας
Sunnyvale, CA 94089 ΗΠΑ
Τηλέφωνο: 888. JUNIPER (888.586.4737)
ή +1.408.745.2000
Φαξ: +1.408.745.2100
www.juniper.net
Αρχηγεία APAC και EMEA
Juniper Networks International BV
Λεωφόρος Boeing 240
1119 PZ Schiphol-Rijk
Άμστερνταμ, Ολλανδία
Τηλέφωνο: +31.207.125.700
Φαξ: +31.207.125.701
Πνευματικά δικαιώματα 2023 Juniper Networks. Inc. Με την επιφύλαξη παντός δικαιώματος. Τα σήματα Juniper Networks, το λογότυπο Juniper Networks, Juniper, Junos και άλλα εμπορικά σήματα είναι σήματα κατατεθέντα της Juniper Networks. Inc. και/ή τις θυγατρικές της στις Ηνωμένες Πολιτείες και σε άλλες χώρες. Άλλα ονόματα μπορεί να είναι εμπορικά σήματα των αντίστοιχων κατόχων τους. Η Juniper Networks δεν αναλαμβάνει καμία ευθύνη για τυχόν ανακρίβειες σε αυτό το έγγραφο. Η Juniper Networks διατηρεί το δικαίωμα αλλαγής. τροποποιώ. μεταφορά ή με άλλο τρόπο αναθεώρηση αυτής της δημοσίευσης χωρίς προειδοποίηση.
Αποστολή σχολίων σε: design-center-comments@juniper.net V1.0/240807/ejm5-telemetry-junos-ai-ml

Έγγραφα / Πόροι

Juniper NETWORKS Telemetry In Junos for AI ML Workloads Software [pdf] Οδηγός χρήστη Telemetry In Junos for AI ML Workloads Software, Junos for AI ML Workloads Software, AI ML Workloads Software, Workloads Software, Software

Αναφορές

• Εγχειρίδιο χρήστη