Η Microsoft Research παρουσιάζει offloading inference για ρομποτική AI

Η νέα προσέγγιση βελτιώνει την απόδοση και τη διάρκεια μπαταρίας των ρομπότ με κατανεμημένη επεξεργασία AI.

Η Microsoft Research έσπασε την παραδοσιακή αντίληψη ότι η επεξεργασία τεχνητής νοημοσύνης (AI) στα ρομπότ πρέπει να γίνεται αποκλειστικά σε επεξεργαστές που βρίσκονται μέσα στο ίδιο το ρομπότ. Με μια σειρά συστηματικών μελετών σε κινητές μηχανές που εκτελούν εργασίες, όπως η διαχείριση αποβλήτων στην κουζίνα, η εταιρεία απέδειξε ότι η ανάπτυξη της επεξεργασίας AI εκτός του ρομπότ, δηλαδή σε ειδικούς υπολογιστές edge ή σε cloud, έχει σημαντικά οφέλη.

Αυτή η μέθοδος, γνωστή ως offloading inference, επιτρέπει στα ρομπότ να εκτελούν πιο σύνθετα μοντέλα AI χωρίς να επιβαρύνεται η μπαταρία τους όσο γίνεται με τυπικούς onboard επεξεργαστές, όπως το Jetson Thor. Η Microsoft Research αναφέρει ότι οι εργασίες χαρτογράφησης και σχεδιασμού κινήσεων μπορούν να εκτελεστούν έως και 383% πιο αργά σε μικρούς επεξεργαστές μέσα στο ρομπότ σε σύγκριση με έναν ισχυρό A100 GPU στην άκρη δικτύου (edge). Ταυτόχρονα, η χρήση των βαριών GPU στο ρομπότ επιβαρύνει την μπαταρία πολύ περισσότερο — έως 160% — σε σύγκριση με την προσέγγιση offloading που συνδυάζει Raspberry Pi 5 για τον βασικό χειρισμό και απομακρυσμένη GPU για την τεχνητή νοημοσύνη.

Physical AI Toolchain και Kubernetes

Για να διευκολύνει τους προγραμματιστές και εταιρείες ρομποτικής, η Microsoft έφερε στο φως το Physical AI Toolchain, ένα ανοικτού κώδικα πλαίσιο που βοηθά στο να μεταφέρονται οι διαδικασίες επεξεργασίας AI μεταξύ ρομπότ, edge και cloud. Το εργαλείο χρησιμοποιεί το Kubernetes, μια δημοφιλή πλατφόρμα που οργανώνει και διαχειρίζεται τα κοντέινερ εφαρμογών, προσαρμόζοντας έτσι δυναμικά πόρους και μπολιάζοντας την υποδομή AI ρομποτικής με μεγαλύτερη ευελιξία.

Το Physical AI Toolchain ενσωματώνει υπηρεσίες Azure και την υποδομή AI της NVIDIA, και περιλαμβάνει παραδείγματα εφαρμογών για ρομπότ όπως τα SO-101 και UR10e. Με αυτό το εργαλείο οι developers έχουν στη διάθεσή τους μια πλατφόρμα που καλύπτει όλο το ροή της ανάπτυξης AI σε φυσικά ρομπότ.

Τι αλλάζει για τη ρομποτική AI στην πράξη;

Η δυνατότητα εκτός ρομπότ επεξεργασίας AI σημαίνει ότι τα νοημοσύνα ρομπότ μπορούν να χρησιμοποιούν πιο προηγμένα μοντέλα AI χωρίς να εξαντλούν γρήγορα τη μπαταρία τους ή να βάζουν όρια στην υπολογιστική τους ισχύ. Αυτό βοηθά όχι μόνο στην επιτάχυνση της εκτέλεσης απαιτητικών εργασιών, αλλά και στη βελτίωση της επιτυχίας αυτών, ειδικά σε δυναμικά ή πολύπλοκα περιβάλλοντα.

Η προσέγγιση δεν είναι όμως χωρίς προκλήσεις. Το offloading εξαρτάται από υποδομές δικτύου χαμηλής καθυστέρησης και επαρκούς απόδοσης, ώστε να μην υπάρχουν καθυστερήσεις που θα κάνουν το σύστημα λιγότερο ανταποκρίσιμο. Η εταιρεία δεν έχει ανακοινώσει ακόμη πώς τα συστήματα θα διαχειρίζονται αποκλεισμούς ή απώλειες σύνδεσης στο δίκτυο.

Ποιοι επηρεάζονται;

Η εξέλιξη είναι σημαντική κυρίως για τους προγραμματιστές και τις εταιρείες ρομποτικής που αναζητούν να ανεβάσουν την ποιότητα και λειτουργικότητα των ρομπότ. Οι βελτιώσεις στην αυτονομία και απόδοση μπορούν να έχουν εν τέλει εμπορικό και τεχνολογικό αντίκτυπο, ενώ οι τελικοί χρήστες θα επωφεληθούν από πιο αξιόπιστες και ευέλικτες ρομποτικές συσκευές στο μέλλον.

Η Microsoft Research προσφέρει μέσω του Physical AI Toolchain εργαλείο που είναι ήδη διαθέσιμο, ανοικτού κώδικα και έτοιμο για παραγωγική χρήση, προκειμένου οι προγραμματιστές να πειραματιστούν και να υλοποιήσουν αυτές τις νέες δυνατότητες.