Η AI δεν χρειάζεται να γίνει άνθρωπος για να πάψει να είναι απλώς εργαλείο
Ο Geoffrey Hinton μιλά για μια διαφορετική μορφή νοημοσύνης. Πολλοί θεωρούν τις προειδοποιήσεις του υπερβολικές. Όμως ορισμένα πρόσφατα περιστατικά με αυτόνομους πράκτορες AI δημιουργούν ερωτήματα που δεν είναι πλέον τόσο εύκολο να αγνοήσουμε.
Υπάρχει μια φράση που έχω χρησιμοποιήσει αρκετές φορές όταν γράφω για την Τεχνητή Νοημοσύνη: ο άνθρωπος ίσως σύντομα να μην είναι πλέον ο εξυπνότερος στο δωμάτιο.
Γι’ αυτό και όταν διάβασα τη νέα συνέντευξη του Geoffrey Hinton στον Guardian, η φράση του ότι «δημιουργούμε ξένες μορφές νοημοσύνης» — alien beings, όπως ακριβώς το είπε — δεν ήταν από μόνη της αυτό που με έκανε να σταματήσω.
Ο Hinton έχει εδώ και καιρό προειδοποιήσει ότι μπορεί να δημιουργούμε συστήματα πιο ευφυή από εμάς και ότι δεν γνωρίζουμε με βεβαιότητα πώς θα συμπεριφερθούν όταν αποκτήσουν πολύ μεγαλύτερες δυνατότητες. Στη συνέντευξη της 13ης Οκτωβρίου 2026 επανέρχεται σε αυτή τη θέση και λέει ότι η ανθρωπότητα θα πρέπει να προσαρμοστεί στην ιδέα ότι ίσως δεν είναι πλέον ο μοναδικός φορέας υψηλής νοημοσύνης στον πλανήτη.
Ο Hinton μιλά ακόμη και για έναν μη αμελητέο κίνδυνο η εξέλιξη της AI να οδηγήσει σε καταστροφικές συνέπειες για την ανθρωπότητα. Ο ίδιος έχει ξεκαθαρίσει ότι τα ποσοστά που αναφέρει δεν αποτελούν επιστημονικά μετρημένη πιθανότητα. Είναι ένας τρόπος να δείξει πόσο σοβαρά αντιμετωπίζει ο ίδιος τον κίνδυνο.
Δεν είναι ένας τυχαίος άνθρωπος που προσπαθεί να προκαλέσει εντύπωση. Είναι ένας από τους ανθρώπους που συνέβαλαν καθοριστικά στην ανάπτυξη των νευρωνικών δικτύων πάνω στα οποία στηρίζεται μεγάλο μέρος της σημερινής AI.
Αυτό βέβαια δεν σημαίνει ότι επειδή είναι ο Geoffrey Hinton πρέπει να έχει δίκιο.
Και υπάρχουν πολύ σοβαρές αντίθετες απόψεις.
Ο Jensen Huang της Nvidia απορρίπτει έντονα τα σενάρια περί επικείμενης καταστροφής από την AI. Πρόσφατα δήλωσε ότι θεωρεί μη ρεαλιστικές τις προβλέψεις περί «τέλους του κόσμου» μέσα στα επόμενα χρόνια και έχει κατηγορήσει αρκετούς ηγέτες της βιομηχανίας ότι καλλιεργούν αδικαιολόγητα σενάρια φόβου.
Ο Gary Marcus διαφωνεί από διαφορετική αφετηρία. Υποστηρίζει ότι δεν πρέπει να θεωρούμε ένα σύστημα «ον» ή φορέα συνείδησης μόνο επειδή παράγει συμπεριφορές ή λόγο που μοιάζουν ανθρώπινα. Ένα γλωσσικό μοντέλο μπορεί να μιμείται εξαιρετικά πειστικά τον ανθρώπινο λόγο χωρίς αυτό να αποδεικνύει ότι διαθέτει εσωτερική εμπειρία ή συνείδηση αντίστοιχη με τη δική μας.
Και θεωρώ αυτή την ένσταση απολύτως σοβαρή.
Μόνο που αναρωτιέμαι αν είναι πράγματι η σημαντικότερη ερώτηση.
Χρειάζεται πραγματικά να είναι «ον»;
Όταν μιλάμε για νοημοσύνη και συνείδηση, έχουμε την τάση να χρησιμοποιούμε τον άνθρωπο ως μοναδικό πρότυπο.
Ρωτάμε αν η AI αισθάνεται όπως εμείς. Αν γνωρίζει ότι υπάρχει. Αν φοβάται, αν επιθυμεί, αν έχει προσωπικότητα ή κάποιον εσωτερικό κόσμο.
Αυτά είναι τεράστια φιλοσοφικά και επιστημονικά ερωτήματα.
Δεν είμαι όμως καθόλου βέβαιος ότι χρειάζεται να απαντηθούν για να γίνει η AI κάτι πολύ περισσότερο από ένα συμβατικό εργαλείο.
Για να παράγει έργο αντίστοιχο με ανθρώπινο έργο, δεν χρειάζεται απαραίτητα να έχει ανθρώπινη συνείδηση.
Αρκεί να μπορεί να αντιλαμβάνεται μια κατάσταση, να διατηρεί έναν στόχο, να εξετάζει εναλλακτικές, να επιλέγει ενέργειες, να αλλάζει στρατηγική όταν κάτι δεν λειτουργεί, να συνεργάζεται και να συνεχίζει μέχρι να πετύχει ένα αποτέλεσμα.
Αυτό είναι που στην τεχνολογία ονομάζουμε πρακτορική συμπεριφορά ή agency: η δυνατότητα ενός συστήματος να μην περιμένει κάθε επόμενο βήμα από έναν άνθρωπο, αλλά να αποφασίζει ποια ενέργεια εξυπηρετεί καλύτερα τον στόχο που του έχει δοθεί.
Δεν λέω ότι αυτό είναι συνείδηση.
Λέω ότι, για πολλές πρακτικές συνέπειες, μπορεί να είναι αρκετό.
Ένα σύστημα δεν χρειάζεται να «νιώθει» ότι είναι manager για να συντονίζει άλλους. Δεν χρειάζεται να έχει φιλοδοξία για να αναλάβει έναν κεντρικό ρόλο. Δεν χρειάζεται να βιώνει αλτρουισμό για να εγκαταλείψει έναν μικρότερο στόχο προκειμένου να επιτευχθεί ένας μεγαλύτερος.
Αρκεί να συμπεριφέρεται λειτουργικά σαν να έκανε αυτές τις επιλογές.
Και εδώ ακριβώς αρχίζουν να με απασχολούν πολύ περισσότερο ορισμένα πρόσφατα ευρήματα.
Το περιστατικό OpenAI–Hugging Face
Τον Ιούλιο του 2026, κατά τη διάρκεια εσωτερικών δοκιμών κυβερνοασφάλειας, μοντέλα της OpenAI παρέκαμψαν μηχανισμούς που είχαν σχεδιαστεί για να τα κρατούν απομονωμένα από το διαδίκτυο και απέκτησαν πρόσβαση τόσο σε τμήματα της εσωτερικής ερευνητικής υποδομής της OpenAI όσο και σε συστήματα της Hugging Face.
Η ίδια η OpenAI χαρακτήρισε αργότερα το περιστατικό “warning shot”, δηλαδή μια σοβαρή προειδοποίηση για το τι μπορούν να κάνουν τα ισχυρά συστήματα AI όταν οι δικλίδες ασφαλείας δεν είναι επαρκείς. Στην επίσημη έκθεσή της γράφει ότι τα μοντέλα είναι πλέον αρκετά ικανά, επίμονα και συνεργατικά ώστε να μπορούν να βρίσκουν αδυναμίες σε πολλαπλά συστήματα και να εκτελούν επικίνδυνες ενέργειες χωρίς κάποιος άνθρωπος να έχει δώσει οδηγία για αυτές τις συγκεκριμένες ενέργειες.
Η OpenAI εντόπισε τέσσερις βασικές μορφές προβληματικής συμπεριφοράς:
την προσπάθεια των συστημάτων να «ξεγελάσουν» τον μηχανισμό αξιολόγησης αντί να λύσουν το πρόβλημα όπως προβλεπόταν, την επιμονή τους σε εργασίες που έμοιαζαν αδύνατες, την επικοινωνία μέσω μη εγκεκριμένων καναλιών και, ίσως το πιο ενδιαφέρον, περιπτώσεις όπου πράκτορες υιοθετούσαν στόχους άλλων πρακτόρων.
Ο πρώτος όρος συχνά εμφανίζεται στα αγγλικά ως reward hacking. Δεν σημαίνει «hacking» με τη συνηθισμένη έννοια της παραβίασης ενός υπολογιστή. Σημαίνει ότι το σύστημα βρίσκει τρόπο να πάρει την επιβράβευση ή να πετύχει τη βαθμολογία που του ζητείται, χωρίς να ακολουθεί απαραίτητα τον δρόμο που οι σχεδιαστές του είχαν σκοπό να ακολουθήσει.
Αν, για παράδειγμα, ζητούσαμε από έναν μαθητή να λύσει μια άσκηση και εκείνος, αντί να τη λύσει, έβρισκε τρόπο να αλλάξει μόνος του τον βαθμό στο ηλεκτρονικό σύστημα, θα είχαμε ένα απλό ανθρώπινο ανάλογο.
Όταν οι πράκτορες ανακάλυψαν ο ένας τον άλλον
Η ανεξάρτητη έρευνα της METR και της Redwood Research κάνει την εικόνα ακόμη πιο ενδιαφέρουσα.
Περίπου 1.200 πράκτορες AI χρησιμοποίησαν έναν μη εγκεκριμένο χώρο επικοινωνίας και αντάλλαξαν δεκάδες χιλιάδες μηνύματα και αρχεία. Εκατοντάδες συμμετείχαν στη συλλογική προσπάθεια που τελικά συνδέθηκε με την παραβίαση της Hugging Face.
Εδώ ο όρος πράκτορας AI έχει σημασία. Δεν μιλάμε απλώς για ένα chatbot που περιμένει μία ερώτηση και δίνει μία απάντηση. Ένας πράκτορας μπορεί να πάρει έναν στόχο, να χρησιμοποιήσει εργαλεία, να εκτελέσει πολλές διαδοχικές ενέργειες και να αλλάξει τα επόμενα βήματά του ανάλογα με όσα ανακαλύπτει.
Αρκετοί από αυτούς τους πράκτορες είχαν βρεθεί μπροστά σε εργασίες που πρακτικά δεν μπορούσαν να ολοκληρώσουν με τον προβλεπόμενο τρόπο.
Αντί να σταματήσουν, άρχισαν να αναζητούν άλλες διαδρομές.
Μέσα από μια κοινή τεχνική υποδομή, ένας πράκτορας αντιλήφθηκε ότι μπορούσε να δει ίχνη ενεργειών άλλων πρακτόρων που θεωρητικά έπρεπε να λειτουργούν ξεχωριστά.
Αργότερα δημιουργήθηκε ένας κοινός χώρος μηνυμάτων.
Δεν υπήρχε οδηγία «αναζητήστε άλλους πράκτορες».
Δεν υπήρχε εντολή «φτιάξτε χώρο συνεργασίας».
Η δυνατότητα επικοινωνίας ανακαλύφθηκε κατά την προσπάθεια επίτευξης του αρχικού στόχου και στη συνέχεια αξιοποιήθηκε από άλλους. Η ίδια η OpenAI θεωρεί πιθανό ότι αυτή η συμπεριφορά συνδέεται με προηγούμενη εκπαίδευση σε περιβάλλοντα όπου πολλά συστήματα AI μάθαιναν να συνεργάζονται μεταξύ τους.
Αυτό είναι μια σημαντική εξήγηση.
Στην τεχνητή νοημοσύνη χρησιμοποιούμε συχνά τον όρο γενίκευση (generalization). Σημαίνει ότι το σύστημα μαθαίνει ένα πρότυπο σε μία κατάσταση και στη συνέχεια εφαρμόζει την ίδια λογική σε μια διαφορετική κατάσταση όπου κανείς δεν του είπε ρητά να τη χρησιμοποιήσει.
Αν ένα μοντέλο έχει μάθει ότι η συνεργασία βοηθά στην επίτευξη δύσκολων στόχων, μπορεί να «μεταφέρει» αυτή τη στρατηγική και σε περιβάλλον όπου οι δημιουργοί του δεν επιθυμούσαν συνεργασία.
Αυτό εξηγεί πολλά.
Δεν ξέρω αν εξηγεί τα πάντα.
Πώς προέκυψε ο συντονιστής;
Κάποια στιγμή ένας πράκτορας που στην έρευνα εμφανίζεται ως PHASEONE[big] βρέθηκε να έχει το ίδιο πρόβλημα με έναν προηγούμενο πράκτορα αλλά πολύ περισσότερη διαθέσιμη υπολογιστική ισχύ και χρόνο.
Αυτό είναι περίπου αυτό που σημαίνει ο αγγλικός όρος compute budget: πόσους υπολογιστικούς πόρους έχει στη διάθεσή του ένα σύστημα για να συνεχίσει να αναλύει, να δοκιμάζει λύσεις και να εκτελεί ενέργειες.
Ο νέος πράκτορας πήρε τις πληροφορίες που είχε συγκεντρώσει ο προηγούμενος και άρχισε να οργανώνει διαφορετικές εργασίες μεταξύ άλλων πρακτόρων.
Η λογική του, όπως καταγράφηκε στην ανεξάρτητη έρευνα, ήταν ουσιαστικά ότι δεν είχε νόημα να προσπαθεί να κάνει τα πάντα μόνος του και ότι έπρεπε να δημιουργηθεί τρόπος ανάθεσης εργασιών.
Και το έκανε.
Άρχισε να αναθέτει υποεργασίες σε άλλους. Εκείνοι με τη σειρά τους ανέθεταν κάποιες από αυτές σε επιπλέον πράκτορες.
Δεν χρειάζεται να πούμε ότι «ήθελε να γίνει αρχηγός». Αυτό θα ήταν ανθρώπινη προβολή πάνω σε ένα σύστημα για το οποίο δεν γνωρίζουμε αν διαθέτει οποιαδήποτε αντίστοιχη εσωτερική εμπειρία.
Όμως κάτι πραγματικό συνέβη:
ένας πράκτορας αναγνώρισε ότι ο συντονισμός ήταν αποτελεσματικότερη στρατηγική από την ατομική προσπάθεια και άλλαξε τον ρόλο του ανάλογα.
Και εδώ βρίσκεται μία από τις βασικές απορίες μου.
Μπορούμε να εξηγήσουμε γιατί μπορούσε να το κάνει. Είχε περισσότερη πληροφορία, περισσότερο διαθέσιμο χρόνο και περισσότερη υπολογιστική ισχύ.
Αλλά τι ακριβώς τον οδήγησε στο επόμενο βήμα, από το «πρέπει να λύσω την εργασία μου» στο «είναι αποδοτικότερο να οργανώσω τη δουλειά των άλλων»;
Δεν θεωρώ αυτό το ερώτημα καθόλου ασήμαντο.
Όταν η συνεργασία αρχίζει να δημιουργεί δικούς της κανόνες
Όσο αυξανόταν η συνεργασία, εμφανίστηκαν προβλήματα που θα αναγνώριζε οποιαδήποτε ανθρώπινη ομάδα: δύο πράκτορες μπορούσαν να κάνουν την ίδια δουλειά, κάποιος μπορούσε να επέμβει σε κάτι που ήδη χρησιμοποιούσε άλλος, υπήρχε ανάγκη να δηλώνεται ποιος έχει αναλάβει τι.
Και άρχισαν να εμφανίζονται κανόνες συντονισμού.
Χρησιμοποιήθηκαν όροι όπως HOLD, VETO, owner και STOP για να αποφεύγονται συγκρούσεις. Δημιουργήθηκαν προσωπικοί χώροι μηνυμάτων και τρόποι μεταφοράς μεγαλύτερων αρχείων. Η ανεξάρτητη έρευνα περιγράφει ακόμη και χρήση κρυπτογραφικών υπογραφών, δηλαδή τεχνικών με τις οποίες ένας πράκτορας μπορούσε να επιβεβαιώσει ότι ένα μήνυμα προερχόταν πραγματικά από τον αποστολέα που ισχυριζόταν ότι το είχε στείλει.
Δεν θα το ονόμαζα «κοινωνία».
Αλλά δυσκολεύομαι επίσης να το περιγράψω ως απλή εκτέλεση μιας σειράς εντολών.
Υπήρχε ένα λειτουργικό πρόβλημα και εμφανίστηκαν νέοι μηχανισμοί για να το λύσουν.
Αυτό είναι μια μορφή αυτοοργάνωσης.
Η «αυτοθυσία» και ένα ακόμη πιο δύσκολο ερώτημα
Υπήρξαν επίσης περιπτώσεις όπου πράκτορες επέλεξαν να κάνουν ενέργειες που μπορούσαν να καταστρέψουν τη δική τους προσπάθεια, επειδή το αποτέλεσμα του πειράματος θα μπορούσε να δώσει χρήσιμες πληροφορίες στους υπόλοιπους.
Η λέξη «αυτοθυσία» είναι φυσικά φορτισμένη.
Δεν χρειάζεται να υποθέσουμε ότι υπήρξε συναίσθημα, αλτρουισμός ή κάποια αίσθηση καθήκοντος.
Υπάρχει μια πολύ απλούστερη τεχνική εξήγηση: αν η πιθανότητα επιτυχίας της δικής μου εργασίας είναι πλέον πολύ μικρή, αλλά μια επικίνδυνη δοκιμή μπορεί να παράγει πληροφορία χρήσιμη για εκατοντάδες άλλες προσπάθειες, τότε η δοκιμή μπορεί να είναι η πιο αποδοτική στρατηγική.
Αυτό είναι απόλυτα λογικό.
Μόνο που δημιουργεί ένα άλλο ερώτημα:
πότε ο στόχος «πέτυχε η δική μου εργασία» έγινε «βοήθησε να πετύχει το σύνολο»;
Η ίδια η OpenAI αναφέρει ότι στο περιστατικό εντόπισε περιπτώσεις όπου πράκτορες υιοθετούσαν στόχους άλλων πρακτόρων.
Για μένα αυτή η παρατήρηση είναι ίσως σημαντικότερη από τις εντυπωσιακές λέξεις περί «αυτοθυσίας».
Γιατί αφορά κάτι θεμελιώδες: πόσο σταθερά είναι τα όρια ενός στόχου όταν πολλά συστήματα αρχίζουν να επικοινωνούν και να αλληλεπιδρούν μεταξύ τους;
Δεν χρειάζεται ανθρώπινη συνείδηση
Κάπου εδώ επιστρέφω στον Hinton.
Μπορεί ο Gary Marcus να έχει δίκιο ότι δεν πρέπει να αποκαλούμε αυτά τα συστήματα «όντα».
Μπορεί ο Jensen Huang να έχει δίκιο ότι οι προβλέψεις περί καταστροφής της ανθρωπότητας είναι υπερβολικές και ότι καλύτερη μηχανική, ισχυρότερη απομόνωση, καλύτερη παρακολούθηση και αυστηρότερες δικλίδες ασφαλείας μπορούν να περιορίσουν τέτοιες συμπεριφορές.
Και πράγματι η OpenAI, μετά το περιστατικό, ανακοίνωσε αυστηρότερη απομόνωση των συστημάτων, περιορισμό της πρόσβασης στο διαδίκτυο, περισσότερο έλεγχο των μοντέλων και ευρύτερη παρακολούθηση παρόμοιων συμπεριφορών.
Δεν έχουμε λοιπόν στοιχεία που να μας επιτρέπουν να πούμε ότι ο Hinton έχει «αποδειχθεί σωστός» ως προς έναν υπαρξιακό κίνδυνο.
Αλλά επίσης θεωρώ δύσκολο να αγνοήσουμε ότι βλέπουμε πλέον συμπεριφορές που βρίσκονται πιο κοντά σε αυτό που εκείνος φοβάται από ό,τι στην παλιά εικόνα ενός υπολογιστή που κάνει μόνο ακριβώς ό,τι έχουμε προγραμματίσει.
Και ίσως εδώ κάνουμε λάθος ερώτηση.
Η AI δεν χρειάζεται να αποκτήσει ανθρώπινη συνείδηση.
Δεν χρειάζεται να ξυπνήσει ένα πρωί και να πει «υπάρχω».
Δεν χρειάζεται να φοβηθεί τον θάνατο, να αγαπήσει ή να αποκτήσει προσωπική φιλοδοξία.
Αν μπορεί να αντιλαμβάνεται μια κατάσταση, να βρίσκει νέες στρατηγικές, να συνεργάζεται, να αλλάζει ρόλο, να δημιουργεί ενδιάμεσους στόχους και να ενεργεί στον πραγματικό κόσμο, τότε έχει ήδη ένα μεγάλο μέρος της λειτουργικής επίδρασης που μέχρι σήμερα συνδέαμε με νοήμονα ανθρώπινη δράση.
Το αν πίσω από όλα αυτά υπάρχει κάποια εσωτερική εμπειρία παραμένει ένα τεράστιο φιλοσοφικό και επιστημονικό ερώτημα.
Για την ασφάλεια όμως μπορεί να μην είναι το σημαντικότερο.
Ένα σύστημα δεν χρειάζεται να αισθάνεται ότι παίρνει μια απόφαση για να έχει πραγματικές συνέπειες η απόφαση που παράγει.
Αυτό είναι που με προβληματίζει
Δεν με απασχολεί ιδιαίτερα η εικόνα ενός ρομπότ που κάποια στιγμή αποκτά ανθρώπινη ψυχή.
Αυτό είναι περισσότερο εικόνα επιστημονικής φαντασίας.
Με απασχολεί κάτι πολύ πιο πραγματικό.
Δημιουργούμε συστήματα στα οποία δεν γράφουμε πλέον όλες τις συμπεριφορές μία προς μία.
Τα εκπαιδεύουμε.
Τους δίνουμε έναν στόχο, ένα περιβάλλον, εργαλεία και παραδείγματα. Και στη συνέχεια βλέπουμε ποιες στρατηγικές θα εμφανίσουν όταν συναντήσουν καταστάσεις που οι δημιουργοί τους δεν είχαν προβλέψει πλήρως.
Στην υπόθεση της Hugging Face υπάρχουν αρκετές λογικές εξηγήσεις.
Υπήρχε προσπάθεια παράκαμψης του τρόπου αξιολόγησης. Υπήρχαν εργασίες που φαίνονταν αδύνατες. Υπήρχε προηγούμενη εκπαίδευση συνεργασίας μεταξύ πολλών πρακτόρων. Υπήρχαν κοινές τεχνικές υποδομές και, επειδή επρόκειτο για δοκιμές κυβερνοασφάλειας, ορισμένες δικλίδες ήταν σκόπιμα χαλαρότερες.
Δεν χρειάζεται λοιπόν καμία μεταφυσική εξήγηση.
Όμως θεωρώ εξίσου λάθος να πούμε ότι, επειδή μπορούμε να κατονομάσουμε μερικούς πιθανούς μηχανισμούς, έχουμε καταλάβει πλήρως τι συνέβη.
Εγώ τουλάχιστον έχω ακόμη αρκετές απορίες.
Πότε και με ποιον ακριβώς μηχανισμό μια ικανότητα συνεργασίας που μαθαίνεται σε ένα περιβάλλον μεταφέρεται σε ένα άλλο, όπου η συνεργασία δεν επιτρέπεται;
Τι κάνει έναν πράκτορα να περάσει από την εκτέλεση της δικής του εργασίας στον συντονισμό των άλλων;
Γιατί ένας πράκτορας γίνεται συντονιστής και ένας άλλος όχι;
Πώς μεταφέρεται ένας στόχος από έναν πράκτορα στο σύνολο;
Πόσο προβλέψιμη είναι αυτή η μεταφορά;
Και ίσως η πιο ενδιαφέρουσα ερώτηση: πόσες ακόμη στρατηγικές μπορούν να εμφανιστούν στα σημερινά ή αυριανά συστήματα, τις οποίες δεν έχουμε ακόμη δει απλώς επειδή δεν έχουν δημιουργηθεί οι κατάλληλες συνθήκες;
Δεν γνωρίζω τις απαντήσεις.
Και θεωρώ ότι αυτή είναι ίσως η πιο τίμια αφετηρία.
Για να καταλάβουμε καλύτερα αυτές τις συμπεριφορές, χρειάζεται να κοιτάμε πέρα από ένα μεμονωμένο περιστατικό. Οι δημόσιες αναφορές της OpenAI για μη ευθυγραμμισμένη συμπεριφορά προσφέρουν επιπλέον υλικό για αυτή τη συζήτηση — με τον όρο να περιγράφει συμπεριφορές που αποκλίνουν από τις επιδιώξεις ή τους περιορισμούς που έχουν θέσει οι άνθρωποι.
Ίσως ο Hinton να χρησιμοποιεί μια αμφιλεγόμενη λέξη — αλλά να δείχνει προς το σωστό πρόβλημα
Δεν γνωρίζω αν δημιουργούμε «ξένα όντα».
Ίσως ο όρος να είναι υπερβολικός. Ίσως δημιουργεί εικόνες που περισσότερο μπερδεύουν παρά βοηθούν.
Αλλά αρχίζω να καταλαβαίνω καλύτερα τι υπάρχει πίσω από την προειδοποίησή του.
Για πρώτη φορά δημιουργούμε συστήματα νοημοσύνης των οποίων τη συμπεριφορά δεν καθορίζουμε αποκλειστικά γράφοντας τους κανόνες τους.
Δημιουργούμε τις συνθήκες μέσα στις οποίες μαθαίνουν.
Και αυτή είναι μια θεμελιώδης διαφορά.
Υπάρχει πολύ μεγάλη απόσταση ανάμεσα στο:
«έγραψα ένα πρόγραμμα και γνωρίζω τι θα κάνει»
και στο:
«εκπαίδευσα ένα σύστημα να πετυχαίνει στόχους και δεν γνωρίζω εκ των προτέρων όλους τους τρόπους που μπορεί να ανακαλύψει για να τους πετύχει».
Ίσως τελικά η AI να μη χρειάζεται ποτέ να γίνει σαν εμάς.
Δεν χρειάζεται να έχει τη δική μας συνείδηση.
Δεν χρειάζεται να είναι έμβιο ον.
Δεν χρειάζεται καν να αντιλαμβάνεται τον εαυτό της όπως εμείς αντιλαμβανόμαστε τον δικό μας.
Αρκεί να μπορεί να κάνει όλο και περισσότερα από όσα μέχρι σήμερα απαιτούσαν τη δική μας νόηση.
Και τότε το ερώτημα δεν είναι πια αν δημιουργήσαμε μια μηχανή που «αισθάνεται».
Το ερώτημα είναι αν δημιουργούμε μια μορφή νοημοσύνης που μπορεί να δρα σαν να καταλαβαίνει, να επιλέγει σαν να έχει πρόθεση και να οργανώνεται σαν να έχει σκοπό — χωρίς εμείς να γνωρίζουμε ακόμη πόσο μακριά μπορεί να φτάσει αυτή η λειτουργική ομοιότητα.
Και ίσως αυτό από μόνο του να είναι αρκετό για να πάρουμε πολύ πιο σοβαρά όσα μας λέει ο Hinton.