Δεν γνωρίζει πάντα αν αυτό που λέει είναι αλήθεια
Ένα σύγχρονο γλωσσικό μοντέλο μπορεί να δώσει μια απάντηση που ακούγεται απολύτως λογική, ενώ περιέχει λάθος πληροφορίες.
Μπορεί να δημιουργήσει ανύπαρκτες πηγές, να μπερδέψει ημερομηνίες ή να παρουσιάσει μια υπόθεση σαν επιβεβαιωμένο γεγονός. Το φαινόμενο αυτό συχνά περιγράφεται ως hallucination, δηλαδή παραγωγή πειστικού αλλά ανακριβούς περιεχομένου.
Αυτό είναι ιδιαίτερα σημαντικό όταν χρησιμοποιούμε AI για δημοσιογραφία, έρευνα, ιατρική, οικονομικά ή τεχνικές αποφάσεις.
Η σωστή ερώτηση επομένως δεν είναι μόνο:
«Τι απάντησε το AI;»
Αλλά και:
«Από πού προκύπτει αυτή η πληροφορία;»
Δεν καταλαβαίνει τον κόσμο όπως ένας άνθρωπος
Ένα AI μπορεί να συζητήσει για φόβο, αγάπη, αποτυχία, επιτυχία ή απώλεια.
Αυτό όμως δεν σημαίνει ότι έχει βιώσει κάτι από αυτά.
Τα γλωσσικά μοντέλα επεξεργάζονται τεράστιες ποσότητες πληροφορίας και αναγνωρίζουν πολύπλοκα μοτίβα μέσα σε αυτή. Αυτό τους επιτρέπει να παράγουν απαντήσεις που μοιάζουν εντυπωσιακά ανθρώπινες.
Η ικανότητα παραγωγής ανθρώπινης γλώσσας όμως δεν πρέπει να συγχέεται αυτόματα με ανθρώπινη εμπειρία.
Δεν έχει από μόνο του στόχους
Το LLM δεν ξυπνά το πρωί και αποφασίζει ότι θέλει να δημιουργήσει μια επιχείρηση.
Ένας coding agent δεν αποφασίζει μόνος του ότι η εφαρμογή σου χρειάζεται καλύτερη αρχιτεκτονική επειδή ενδιαφέρεται για το μέλλον της εταιρείας.
Κάποιος πρέπει να ορίσει τον στόχο.
Ακόμη και στα σύγχρονα agentic AI systems, όπου ένας agent μπορεί να εκτελέσει πολλά διαδοχικά βήματα, υπάρχει συνήθως ένας άνθρωπος ή ένα άλλο σύστημα που καθορίζει τον σκοπό, τα εργαλεία και τα όρια της εργασίας.
Το AI μπορεί να γίνει εξαιρετικό στην εκτέλεση.
Το «τι θέλουμε να πετύχουμε;» παραμένει διαφορετικό πρόβλημα.
Δεν ξέρει απαραίτητα τι είναι σημαντικό για εσένα
Δώσε σε ένα AI εκατό προβλήματα και πιθανότατα μπορεί να βοηθήσει στην ανάλυσή τους.
Δεν σημαίνει όμως ότι γνωρίζει ποιο από τα εκατό αξίζει πραγματικά να λύσεις.
Αυτή είναι μια κρίσιμη διαφορά.
Στην ανάπτυξη λογισμικού, για παράδειγμα, το AI μπορεί να δημιουργήσει δέκα features μέσα σε λίγες ώρες. Δεν γνωρίζει όμως απαραίτητα αν οι χρήστες χρειάζονται κάποιο από αυτά.
Μπορεί να βελτιστοποιήσει πολύ αποτελεσματικά τη λάθος κατεύθυνση.
Δεν αναλαμβάνει την ευθύνη
Ας υποθέσουμε ότι ένα AI προτείνει μια αλλαγή στον κώδικα και η αλλαγή καταστρέφει τη βάση δεδομένων.
Ποιος ευθύνεται;
Όχι το μοντέλο.
Το ίδιο ισχύει όταν μια εταιρεία χρησιμοποιεί AI για οικονομικές αποφάσεις, προσλήψεις, ιατρικές διαδικασίες ή διαχείριση προσωπικών δεδομένων.
Το AI μπορεί να συμμετέχει στην απόφαση. Η ευθύνη όμως εξακολουθεί να ανήκει στους ανθρώπους και στους οργανισμούς που αποφασίζουν να χρησιμοποιήσουν το σύστημα.
Γι' αυτό η ανθρώπινη επίβλεψη δεν είναι απλώς ένα προσωρινό μειονέκτημα της σημερινής τεχνολογίας.
Σε πολλές εφαρμογές είναι μέρος της ίδιας της διαδικασίας.
Δεν σημαίνει ότι επειδή γράφει κώδικα, μπορεί να σχεδιάσει σωστά ένα προϊόν
Αυτό γίνεται ιδιαίτερα εμφανές στο software development.
Ένα σύγχρονο AI μπορεί να δημιουργήσει APIs, database schemas, interfaces, tests και ολόκληρες εφαρμογές.
Το δύσκολο κομμάτι όμως μετακινείται.
Ο developer πρέπει πλέον να αποφασίζει:
ποια αρχιτεκτονική έχει νόημα, ποια δεδομένα πρέπει να αποθηκεύονται, ποιοι είναι οι πραγματικοί κίνδυνοι, ποιες απαιτήσεις έχουν προτεραιότητα και πότε η λύση που δημιούργησε το AI είναι απλώς υπερβολικά περίπλοκη.
Η πληκτρολόγηση κώδικα ήταν μόνο ένα μέρος της δουλειάς του προγραμματιστή.
Όσο περισσότερο κώδικα παράγει το AI, τόσο μεγαλύτερη αξία αποκτά η ικανότητα να κρίνεις τον κώδικα που παράχθηκε.
Δεν αντικαθιστά αυτόματα την εξειδίκευση
Υπάρχει ακόμη ένα παράδοξο.
Όσο καλύτερο γίνεται το AI, τόσο πιο εύκολο είναι για κάποιον χωρίς εμπειρία να δημιουργήσει κάτι εντυπωσιακό.
Αλλά ένας έμπειρος επαγγελματίας μπορεί συχνά να εντοπίσει προβλήματα που ένας αρχάριος ούτε γνωρίζει ότι πρέπει να αναζητήσει.
Το AI μειώνει σημαντικά το εμπόδιο εισόδου.
Δεν εξαφανίζει όμως τη διαφορά ανάμεσα στο «κατάφερα να το κάνω να λειτουργεί» και στο «γνωρίζω γιατί λειτουργεί και τι μπορεί να πάει στραβά».
Δεν έχει πάντα το κατάλληλο context
Ένα AI μπορεί να είναι εξαιρετικά ικανό και ταυτόχρονα να δώσει κακή απάντηση επειδή του λείπει μία κρίσιμη πληροφορία.
Δεν γνωρίζει απαραίτητα την ιστορία μιας εταιρείας, τις άτυπες συμφωνίες μιας ομάδας, τους πραγματικούς περιορισμούς ενός project ή γιατί μια φαινομενικά παράλογη τεχνική επιλογή έγινε πριν από τρία χρόνια.
Όσο περισσότερο context αποκτά, τόσο καλύτερα μπορεί να βοηθήσει.
Αυτός είναι ένας λόγος που η εξέλιξη του AI δεν αφορά μόνο μεγαλύτερα μοντέλα. Αφορά επίσης καλύτερη πρόσβαση σε δεδομένα, εργαλεία, μνήμη και συστήματα μιας επιχείρησης.
Δεν χρειάζεται να είναι τέλειο για να αλλάξει τα πάντα
Τα παραπάνω δεν σημαίνουν ότι το AI είναι υπερεκτιμημένο.
Μάλλον το αντίθετο.
Μια τεχνολογία δεν χρειάζεται να αντικαταστήσει πλήρως τον άνθρωπο για να μεταμορφώσει μια ολόκληρη αγορά.
Τα spreadsheets δεν αντικατέστησαν τους λογιστές. Οι μηχανές αναζήτησης δεν αντικατέστησαν τους ερευνητές. Τα IDEs δεν αντικατέστησαν τους programmers.
Άλλαξαν όμως ριζικά τον τρόπο με τον οποίο εργάζονται.
Κάτι αντίστοιχο συμβαίνει τώρα με την τεχνητή νοημοσύνη, αλλά με πολύ μεγαλύτερη ταχύτητα.
Τελικά, τι μένει στον άνθρωπο;
Ίσως αυτή να είναι η λάθος ερώτηση.
Δεν χρειάζεται να ψάχνουμε ποιο τελευταίο κομμάτι εργασίας θα καταφέρει να κρατήσει ο άνθρωπος απέναντι στο AI.
Πιο χρήσιμο είναι να δούμε πώς αλλάζει ο ρόλος του.
Από αυτόν που εκτελεί κάθε βήμα, γίνεται περισσότερο αυτός που ορίζει τον στόχο, δίνει το context, επιλέγει τα εργαλεία, ελέγχει το αποτέλεσμα και αναλαμβάνει την ευθύνη.
Το AI μπορεί να γράψει.
Μπορεί να προγραμματίσει.
Μπορεί να αναλύσει.
Μπορεί να προτείνει.
Μπορεί πλέον ακόμη και να ενεργήσει μέσω άλλων εργαλείων.
Αλλά κάποιος πρέπει ακόμη να αποφασίσει τι αξίζει να γίνει, γιατί πρέπει να γίνει και αν το αποτέλεσμα είναι πραγματικά καλό.
Και αυτή ίσως είναι η σημαντικότερη δεξιότητα στην εποχή της τεχνητής νοημοσύνης.
Φόρτωση σχολίων…