Η Amazon γιορτάζει μια δεκαετία σχεδίασης δικών της chips για το cloud και την τεχνητή νοημοσύνη

Η εταιρεία έχει εξελίξει αισθητά την απόδοση και το κόστος με ειδικά σχεδιασμένους επεξεργαστές όπως οι Graviton και Trainium για τις ανάγκες του AWS.

Η Amazon έχει δημιουργήσει και βελτιώσει για πάνω από δέκα χρόνια δικούς της επεξεργαστές και εξειδικευμένο υλικό, με στόχο να καλύψει τις ανάγκες των πραγματικών εφαρμογών πελατών, κυρίως στο περιβάλλον του AWS, της υπηρεσίας cloud όπου φιλοξενούνται υπηρεσίες και εφαρμογές χιλιάδων επιχειρήσεων παγκοσμίως.

Αντί να βασίζεται αποκλειστικά σε τυπικά benchmarks, η ομάδα σχεδιασμού αξιοποιεί δεδομένα από τις ίδιες τις εργασίες που τρέχουν στο cloud, διαμορφώνοντας έτσι τους επεξεργαστές ώστε να λειτουργούν πιο αποτελεσματικά σε αυτές τις πραγματικές συνθήκες.

Νέα αρχιτεκτονική και βελτιώσεις στο υλικό

Ένα παράδειγμα είναι το Nitro System, που μεταφέρει το εικονικό περιβάλλον σε ξεχωριστό εξειδικευμένο hardware. Έτσι, μειώνεται το φορτίο και αυξάνεται η ταχύτητα των υπηρεσιών, ειδικά σε περιπτώσεις που χρειάζονται υπολογιστή "γυμνό" (bare metal) χωρίς επιπλέον εικονικοποίηση.

Οι Graviton και τα πλεονεκτήματά τους

Οι επεξεργαστές Graviton αποτελούν τη βασική σειρά custom CPU της Amazon βασισμένη στην αρχιτεκτονική Arm. Η τελευταία γενιά, ο Graviton4, διαθέτει σύμφωνα με ανεξάρτητα benchmarks έως 96 πυρήνες Neoverse V2 και 12 κανάλια μνήμης DDR5-5600, χαρακτηριστικά που βελτιώνουν σημαντικά την ταχύτητα και την αποδοτικότητα.

Οι ανεξάρτητες μετρήσεις δείχνουν ότι το Graviton4 υπερέχει σε πολλές περιπτώσεις έναντι CPU της AMD και της Intel, προσφέροντας καλύτερη απόδοση κόστους για τις περισσότερες εργασίες του AWS.

AI chips για τις ανάγκες της τεχνητής νοημοσύνης

Παράλληλα, η Amazon έχει εξελίξει και ειδικούς επεξεργαστές για AI, όπως τα "Inferentia" και "Trainium", που έχουν σχεδιαστεί με έμφαση στα ολοένα αυξανόμενα φορτία ερμηνείας (inference) στα οποία τρέχουν μοντέλα τεχνητής νοημοσύνης.

Η εταιρεία δίνει μεγάλη σημασία στη βελτίωση του εύρους ζώνης μνήμης στους Trainium, καθώς αυτή αποτελεί περιοριστικό παράγοντα στην απόδοση των AI εφαρμογών.

Πώς επηρεάζονται οι χρήστες και προγραμματιστές

Οι πελάτες του AWS, όπως μεγάλοι οργανισμοί και startups, έχουν τη δυνατότητα να τρέχουν τις εφαρμογές τους σε αυτά τα προσαρμοσμένα chips, κερδίζοντας σε ταχύτητα και χαμηλότερο κόστος. Επιπλέον, η Amazon προσφέρει εργαλεία και προφίλ προσαρμοσμένα για τον κατάλληλο χειρισμό των AI workloads πάνω σε αυτά τα chipsets, διευκολύνοντας τις εργασίες των προγραμματιστών.

Η πρόθεση της εταιρείας είναι να συνεχίσει την εξέλιξη και να παρέχει ακόμα πιο εξειδικευμένες λύσεις για το μέλλον της τεχνητής νοημοσύνης και του cloud computing.

Τι μένει να δούμε

Παρότι η Amazon έχει εμφανή παρουσία με αυτούς τους custom επεξεργαστές στο AWS, δεν έχουν ανακοινωθεί λεπτομέρειες για την υιοθέτησή τους εκτός της πλατφόρμας cloud ή ακριβείς οικονομίες κόστους ανά πελάτη. Η εταιρεία συνεχίζει όμως να επενδύει δυναμικά στην τεχνολογία αυτή με ορίζοντα την ευρύτερη υποστήριξη AI εφαρμογών.