Τι είναι το inference στην τεχνητή νοημοσύνη;

Η ζωή ενός μοντέλου AI έχει δύο βασικές φάσεις. Στην πρώτη, την εκπαίδευση, το μοντέλο μαθαίνει από δεδομένα. Στη δεύτερη, το inference, το μοντέλο χρησιμοποιείται: δέχεται κάτι καινούργιο και δίνει αποτέλεσμα.

Πώς λειτουργεί

Κάθε φορά που ρωτάς έναν βοηθό συνομιλίας, ανεβάζεις μια φωτογραφία για αναγνώριση ή πατάς «μετάφραση», γίνεται inference. Το μοντέλο δεν μαθαίνει εκείνη τη στιγμή. Χρησιμοποιεί τις τιμές που έχει ήδη διαμορφώσει στην εκπαίδευση και κάνει τους υπολογισμούς που χρειάζονται για να παραχθεί η απάντηση.

Γιατί μετράει

Η εκπαίδευση γίνεται συνήθως μία φορά και είναι πολύ ακριβή, ενώ το inference γίνεται ξανά και ξανά, κάθε φορά που κάποιος χρησιμοποιεί το μοντέλο. Γι' αυτό η ταχύτητα και το κόστος του inference καθορίζουν πόσο εύκολα μπορεί μια υπηρεσία AI να απευθυνθεί σε πολλούς ανθρώπους.

Παραδείγματα

• Ένας βοηθός που απαντά στην ερώτησή σου.
• Το κινητό που αναγνωρίζει το πρόσωπό σου για να ξεκλειδώσει.

Τι να προσέχεις

Το inference μπορεί να τρέχει σε ισχυρούς servers σε ένα datacenter ή, για μικρότερα μοντέλα, απευθείας στη συσκευή σου. Το πού τρέχει επηρεάζει την ταχύτητα, το κόστος και το πού ταξιδεύουν τα δεδομένα σου.