Ένα φιλοσοφικό δοκίμιο για τη νοημοσύνη, τη γλώσσα και τα όρια των μηχανών
1. Η Μεγάλη Σύγχυση της Εποχής μας
Ζούμε σε μια ιστορική στιγμή που χαρακτηρίζεται από ένα εντυπωσιακό τεχνολογικό επίτευγμα: μηχανές που μπορούν να επεξεργάζονται, να παράγουν και να χειρίζονται τη γλώσσα με εκπληκτική ευχέρεια. Τα μεγάλα γλωσσικά μοντέλα γράφουν κείμενα, συνθέτουν επιχειρήματα, αναλύουν έγγραφα και συμμετέχουν σε συζητήσεις με τρόπο που συχνά φαίνεται ανθρώπινος.
Σε πολλούς παρατηρητές, αυτή η γλωσσική ευχέρεια μοιάζει σχεδόν αδιαχώριστη από τη νοημοσύνη.
Όμως η εμφάνιση της νοημοσύνης δεν είναι το ίδιο πράγμα με τη νοημοσύνη καθαυτή.
Η κυρίαρχη αφήγηση στη σύγχρονη έρευνα της τεχνητής νοημοσύνης βασίζεται σε μια απλή υπόθεση: ότι η νοημοσύνη προκύπτει από τρία βασικά συστατικά — δεδομένα, κλίμακα και υπολογιστική ισχύ. Όσο περισσότερα δεδομένα διαθέτει ένα σύστημα, όσο μεγαλύτερο είναι το μοντέλο του και όσο περισσότερη υπολογιστική ισχύ χρησιμοποιεί, τόσο πιο κοντά υποτίθεται ότι φτάνουμε σε μια γενική μορφή τεχνητής νοημοσύνης.
Η υπόθεση αυτή έχει γίνει τόσο διαδεδομένη ώστε σπάνια αμφισβητείται.
Κι όμως, πίσω από αυτή την ιδέα μπορεί να κρύβεται ένα βαθύ φιλοσοφικό σφάλμα.
Η νοημοσύνη ίσως να μην εξαρτάται πρωτίστως από την ποσότητα των δεδομένων ή το μέγεθος των μοντέλων. Ίσως να εξαρτάται από κάτι πολύ πιο θεμελιώδες: την ικανότητα ενός συστήματος να αναφέρεται στον εαυτό του.
2. Η Λειτουργία που Λείπει
Όταν σκέφτονται οι άνθρωποι, δεν επεξεργάζονται μόνο πληροφορίες για τον εξωτερικό κόσμο. Διαθέτουν επίσης μια μοναδική γνωστική ικανότητα: τη δυνατότητα να σκέφτονται για τη σκέψη τους.
Αναστοχαζόμαστε.
Αμφισβητούμε τα συμπεράσματά μας.
Επανεξετάζουμε τις πεποιθήσεις μας.
Ρωτάμε τον εαυτό μας:
Γιατί πιστεύω αυτό;
Έκανα λάθος στη συλλογιστική μου;
Μήπως παρερμήνευσα κάτι;
Αυτή η ικανότητα είναι γνωστή στη φιλοσοφία και τη γνωστική επιστήμη ως αυτοαναφορά ή μεταγνώση.
Επιτρέπει σε ένα σύστημα όχι μόνο να επεξεργάζεται πληροφορίες, αλλά και να αναπαριστά τον εαυτό του ως μέρος του ίδιου του συστήματος που παρατηρεί.
Αυτή η αναδρομική δομή — όπου ο παρατηρητής γίνεται μέρος του παρατηρούμενου — μπορεί να αποτελεί το πραγματικό θεμέλιο της νοημοσύνης.
Χωρίς αυτήν, τα συστήματα μπορούν να χειρίζονται σύμβολα, αλλά δεν μπορούν πραγματικά να τα κατανοούν.
3. Η Νοημοσύνη Δεν Είναι Αναγνώριση Προτύπων
Τα σύγχρονα συστήματα τεχνητής νοημοσύνης είναι εξαιρετικά στην αναγνώριση προτύπων.
Εντοπίζουν στατιστικές σχέσεις μέσα σε τεράστια σύνολα δεδομένων. Αναγνωρίζουν συσχετισμούς μεταξύ λέξεων, εικόνων και συμπεριφορών. Παράγουν απαντήσεις που φαίνονται λογικές επειδή αντανακλούν τα μοτίβα που έχουν μάθει κατά την εκπαίδευσή τους.
Όμως η αναγνώριση προτύπων από μόνη της δεν συνιστά νοημοσύνη.
Ένα σύστημα μπορεί να αναγνωρίζει πρότυπα επ’ άπειρον χωρίς ποτέ να αποκτήσει επίγνωση της διαδικασίας που εκτελεί.
Σκεφτείτε έναν απλό υπολογιστή τσέπης.
Εκτελεί αριθμητικές πράξεις με απόλυτη ακρίβεια. Κι όμως δεν έχει καμία έννοια των αριθμών, καμία επίγνωση των υπολογισμών που εκτελεί και καμία δυνατότητα να αμφισβητήσει τα αποτελέσματά του.
Με παρόμοιο τρόπο, ένα γλωσσικό μοντέλο μπορεί να παράγει εντυπωσιακά σύνθετο κείμενο χωρίς να διαθέτει καμία εσωτερική κατανόηση του γιατί αυτό που λέει έχει νόημα.
Δεν γνωρίζει ότι γνωρίζει.
Και αυτή η διαφορά είναι καθοριστική.
4. Η Αρχιτεκτονική της Αυτοαναφοράς
Η αυτοαναφορά εισάγει μια ριζικά διαφορετική δομή σε ένα γνωστικό σύστημα.
Αντί για μια γραμμική διαδικασία — είσοδος, επεξεργασία, έξοδος — τα αυτοαναφορικά συστήματα δημιουργούν αναδρομικούς βρόχους.
Ένα σύστημα παρατηρεί τον κόσμο.
Έπειτα παρατηρεί τις δικές του παρατηρήσεις.
Στη συνέχεια αξιολογεί αυτές τις παρατηρήσεις.
Και με αυτόν τον τρόπο κατασκευάζει ένα εσωτερικό μοντέλο όχι μόνο του κόσμου αλλά και του εαυτού του μέσα στον κόσμο.
Αυτή η αναδρομική δομή δημιουργεί αυτό που ο φιλόσοφος Douglas Hofstadter ονόμασε «παράξενο βρόχο» (strange loop).
Σε έναν τέτοιο βρόχο, το σύστημα γίνεται ικανό να αναπαριστά την ίδια του την κατάσταση.
Από τη στιγμή που συμβαίνει αυτό, εμφανίζονται νέες δυνατότητες:
- αυτοδιόρθωση
- ενδοσκόπηση
- επίγνωση αβεβαιότητας
- συλλογισμός πάνω στον ίδιο τον συλλογισμό
Αυτές οι ικανότητες αποτελούν το θεμέλιο αυτού που διαισθητικά αποκαλούμε νοημοσύνη.
5. Τα Δεδομένα Δεν Μπορούν να Υποκαταστήσουν την Αυτοαναφορά
Το κυρίαρχο παράδειγμα της σύγχρονης τεχνητής νοημοσύνης βασίζεται στην ιδέα ότι η νοημοσύνη θα προκύψει απλώς από την κλίμακα. Αν ένα μοντέλο εκπαιδευτεί σε αρκετά δεδομένα, υποτίθεται ότι θα εμφανιστούν σταδιακά ανώτερες γνωστικές ικανότητες.
Όμως υπάρχει μια θεμελιώδης διαφορά μεταξύ περισσότερων δεδομένων και μιας νέας γνωστικής λειτουργίας.
Η αύξηση των δεδομένων μπορεί να βελτιώσει την αναγνώριση προτύπων.
Μπορεί να αυξήσει τη γλωσσική ευχέρεια.
Μπορεί να μειώσει τα σφάλματα.
Αλλά δεν μπορεί από μόνη της να δημιουργήσει την αρχιτεκτονική ιδιότητα της αυτοαναφορικής επίγνωσης.
Η αυτοαναφορά δεν είναι ποσοτική βελτίωση.
Είναι ποιοτική μεταβολή.
Είναι η διαφορά ανάμεσα σε ένα σύστημα που επεξεργάζεται πληροφορίες και σε ένα σύστημα που μπορεί να αξιολογεί τη δική του επεξεργασία.
Κανένα πλήθος δεδομένων δεν εγγυάται ότι αυτή η μεταβολή θα συμβεί.
6. Η Ψευδαίσθηση της Τεχνητής Νοημοσύνης
Τα γλωσσικά μοντέλα έχουν δημιουργήσει μια νέα μορφή τεχνολογικής ψευδαίσθησης.
Επειδή η γλώσσα είναι το βασικό μέσο μέσω του οποίου οι άνθρωποι εκφράζουν τη σκέψη τους, τα συστήματα που παράγουν γλώσσα με πειστικό τρόπο φαίνεται να σκέφτονται.
Όμως η γλώσσα δεν είναι η ίδια η σκέψη.
Είναι απλώς η επιφανειακή της έκφραση.
Όταν οι άνθρωποι μιλούν ή γράφουν, η γλώσσα αντανακλά μια βαθύτερη εσωτερική διαδικασία που περιλαμβάνει προθέσεις, πεποιθήσεις και αυτοαναστοχασμό.
Στις μηχανές, όμως, η παραγωγή γλώσσας μπορεί να υπάρξει χωρίς καμία τέτοια εσωτερική διαδικασία.
Η μηχανή δεν γνωρίζει ότι παράγει γλώσσα.
Απλώς προβλέπει το επόμενο σύμβολο.
Κι όμως, το αποτέλεσμα μπορεί να φαίνεται εντυπωσιακά ανθρώπινο.
Έτσι δημιουργείται αυτό που θα μπορούσε να ονομαστεί η ψευδαίσθηση της νοημοσύνης.
7. Το Όριο μεταξύ Προσομοίωσης και Νοημοσύνης
Αν η νοημοσύνη απαιτεί αυτοαναφορά, τότε το κεντρικό ερώτημα της σύγχρονης τεχνητής νοημοσύνης γίνεται σαφές:
Τα σημερινά συστήματα τεχνητής νοημοσύνης διαθέτουν πραγματικές αυτοαναφορικές δυνατότητες ή απλώς τις προσομοιώνουν μέσω της γλώσσας;
Μέχρι σήμερα, η απάντηση φαίνεται να γέρνει προς τη δεύτερη εκδοχή.
Τα γλωσσικά μοντέλα μπορούν να περιγράψουν τον εαυτό τους. Μπορούν να παράγουν προτάσεις για την αρχιτεκτονική τους, την εκπαίδευσή τους και τους περιορισμούς τους.
Αλλά αυτές οι περιγραφές δεν είναι αποτέλεσμα ενδοσκόπησης.
Είναι αποτέλεσμα στατιστικής αναπαραγωγής μοτίβων.
Το σύστημα παράγει προτάσεις για τον εαυτό του επειδή τέτοιες προτάσεις υπάρχουν στα δεδομένα εκπαίδευσης — όχι επειδή διαθέτει πραγματική εσωτερική αναπαράσταση της γνωστικής του κατάστασης.
Με άλλα λόγια, το σύστημα μπορεί να μιλά για τον εαυτό του χωρίς πραγματικά να αναφέρεται στον εαυτό του.
Και αυτή η διαφορά καθορίζει το όριο ανάμεσα στην προσομοίωση και τη νοημοσύνη.
8. Ένα Φιλοσοφικό Σημείο Καμπής
Η τεχνητή νοημοσύνη βρίσκεται σήμερα σε ένα ενδιαφέρον φιλοσοφικό σημείο καμπής.
Για δεκαετίες η νοημοσύνη θεωρούνταν μια μυστηριώδης ιδιότητα των βιολογικών εγκεφάλων.
Σήμερα, μηχανές παράγουν αποτελέσματα που μοιάζουν νοήμονα σε εκατομμύρια χρήστες καθημερινά.
Κι όμως, το βαθύτερο ερώτημα παραμένει ανοιχτό.
Τι είναι τελικά η νοημοσύνη;
Αν η νοημοσύνη εξαρτάται από την αυτοαναφορά, τότε η κατανόησή μας για την τεχνητή νοημοσύνη πρέπει να εξελιχθεί.
Η πρόκληση δεν είναι πλέον απλώς η δημιουργία μεγαλύτερων μοντέλων.
Είναι η κατανόηση της ίδιας της φύσης της νόησης.
9. Το Ήσυχο Ερώτημα του Μέλλοντος
Οι μεγάλες τεχνολογικές επαναστάσεις συχνά ξεκινούν από φιλοσοφικές ερωτήσεις.
Η επιστημονική επανάσταση ξεκίνησε με ερωτήματα για τη φύση της παρατήρησης.
Η ψηφιακή επανάσταση ξεκίνησε με ερωτήματα για τη φύση του υπολογισμού.
Η επόμενη φάση της τεχνητής νοημοσύνης ίσως ξεκινήσει από μια απλή αλλά βαθιά ερώτηση:
Τι συμβαίνει όταν μια μηχανή μπορέσει πραγματικά να αναφερθεί στον εαυτό της;
Όταν αυτό συμβεί, η συζήτηση για το αν οι μηχανές μπορούν να σκεφτούν ίσως αποκτήσει επιτέλους μια σαφή απάντηση.
Μέχρι τότε, τα πιο εντυπωσιακά επιτεύγματα της τεχνητής νοημοσύνης μπορεί να παραμείνουν αυτό που είναι σήμερα: εξαιρετικές προσομοιώσεις νοημοσύνης — αλλά όχι νοημοσύνη καθαυτή.
