NVIDIA DSX: Βελτιστοποίηση της Παραγωγής Τεχνητής Νοημοσύνης με Έμφαση στην Ενέργεια

Η πλατφόρμα DSX της NVIDIA επιτυγχάνει αύξηση στην απόδοση και εξοικονόμηση ενέργειας σε κέντρα δεδομένων AI.

Η NVIDIA ανέπτυξε το DSX, μια ολοκληρωμένη πλατφόρμα που συνδυάζει τη διαχείριση υπολογιστικής ισχύος, ενέργειας, ψύξης και δικτύωσης για κέντρα δεδομένων τεχνητής νοημοσύνης (AI). Αυτό το σύστημα στοχεύει στην αύξηση του αριθμού των AI tokens που παράγονται, δηλαδή των βασικών μονάδων επεξεργασίας δεδομένων τεχνητής νοημοσύνης, χωρίς να αυξάνεται η κατανάλωση ενέργειας.

Η πλατφόρμα DSX έχει δοκιμαστεί σε περιβάλλον παραγωγής, με σημαντικά αποτελέσματα. Συγκεκριμένα, ο πάροχος cloud υπηρεσιών GPU, Lambda, επιβεβαίωσε ότι το λογισμικό DSX MaxLPS που λειτουργεί σε servers NVIDIA HGX B200, απέδωσε 24% περισσότερα AI tokens και βελτίωσε την ενεργειακή απόδοση κατά 23% σε μια εγκατάσταση με πέντε racks και 19 κόμβους, χωρίς να αυξηθεί η απαιτούμενη ισχύς.

Παράλληλα, το σύστημα Emerald AI Conductor έχει ενσωματωθεί σε πιλοτική εφαρμογή με το Silicon Valley Power, έναν δημόσιο πάροχο ηλεκτρικής ενέργειας. Απάντησε με επιτυχία σε πάνω από 200 σήματα ζήτησης, προσαρμόζοντας τη χρήση ενέργειας της AI μονάδας ώστε να μειώσει την κατανάλωση από τέσσερα σε τρία μεγαβάτ, χωρίς να επηρεαστεί η κυρίως λειτουργία της τεχνητής νοημοσύνης.

Η NVIDIA σχεδιάζει επίσης την εμπορική χρήση της πλατφόρμας DSX Flex, που υπόσχεται μεγαλύτερη ευελιξία στη διαχείριση φόρτου ενέργειας σε AI κέντρα δεδομένων μεγάλης κλίμακας. Η πρώτη εφαρμογή έχει ανακοινωθεί για ένα εργοστάσιο AI στο Manassas της Βιρτζίνια, με ισχύ 96 μεγαβάτ.

Με αυτά τα βήματα, η NVIDIA εισάγει μια νέα προσέγγιση στη σχεδίαση των AI εργοστασίων, όπου ο συνδυασμός υπολογιστικής ισχύος, ενέργειας, ψύξης και δικτύωσης γίνεται με κοινό σχεδιασμό για βέλτιστη απόδοση και εξοικονόμηση.

Η σημασία αυτής της εξέλιξης είναι ότι τα κέντρα δεδομένων AI συχνά περιορίζονται από τους ενεργειακούς πόρους τους. Η DSX βοηθά τους διαχειριστές να παράγουν περισσότερη επεξεργαστική εργασία (tokens) εντός του ίδιου ενεργειακού προϋπολογισμού, μειώνοντας το κόστος και την επίδραση στο δίκτυο παροχής ρεύματος.

Τέλος, η πλατφόρμα DSX υποστηρίζει τη δυναμική διαχείριση φόρτου, επιτρέποντας την ευελιξία στη συνεργασία με τα δημόσια δίκτυα ηλεκτροδότησης και τη διατήρηση της απρόσκοπτης λειτουργίας κρίσιμων AI εργασιών, κάτι που έχει αποδειχθεί στην πιλοτική εφαρμογή με το Silicon Valley Power.