Κάθε αρχή χρονιάς κουβαλά έναν ιδιαίτερο συμβολισμό. Δεν αλλάζει κάτι ουσιαστικά στο ημερολόγιο· αλλάζει όμως ο τρόπος που στεκόμαστε απέναντι στο μέλλον. Είναι μια στιγμή παύσης. Ένας απολογισμός σιωπηλός και ταυτόχρονα μια ερώτηση που δεν λέγεται εύκολα δυνατά: προς τα πού πηγαίνουμε — και με τι κόστος;
Η νέα χρονιά δεν ξεκινά σε τεχνολογικό κενό. Ξεκινά σε έναν κόσμο όπου η τεχνητή νοημοσύνη δεν είναι πια υπόσχεση, demo ή πείραμα. Είναι ενεργός παράγοντας αποφάσεων, οικονομίας, πληροφόρησης και —σιγά σιγά— εξουσίας. Και ακριβώς γι’ αυτό, οι πρόσφατες δημόσιες τοποθετήσεις του Yoshua Bengio δεν ακούγονται σαν ακόμα ένα opinion piece. Ακούγονται σαν προειδοποίηση.
Όταν οι πρωτοπόροι σταματούν και προειδοποιούν
Ο Bengio δεν ανήκει στην κατηγορία όσων φοβούνται την τεχνολογία επειδή δεν τη γνωρίζουν. Αντίθετα, είναι από εκείνους που τη θεμελίωσαν.
Το 2018, μαζί με τον Yann LeCun και τον Geoffrey Hinton, τιμήθηκε με το Βραβείο Τούρινγκ — τη λεγόμενη «Νόμπελ της Πληροφορικής» — για τη συνεισφορά τους στη βαθιά μάθηση. Οι τρεις τους συχνά αποκαλούνται οι “Godfathers of AI”. Όχι επειδή προέβλεψαν το μέλλον, αλλά επειδή το έκαναν τεχνικά εφικτό.
Όταν λοιπόν ένας από τους ανθρώπους που άνοιξαν αυτόν τον δρόμο μιλά πλέον για υπαρξιακούς κινδύνους, για συστήματα που μπορεί να αποκτήσουν στόχους μη ευθυγραμμισμένους με τον άνθρωπο, η συζήτηση αλλάζει επίπεδο. Δεν πρόκειται για κινδυνολογία. Πρόκειται για αυτοκριτική.
Το πραγματικό ρίσκο δεν είναι η «κακή» AI
Υπάρχει μια βολική αφήγηση που μας καθησυχάζει: ότι ο κίνδυνος θα προκύψει μόνο αν η AI γίνει «κακιά». Όμως αυτό που αναδεικνύεται όλο και πιο καθαρά —και από τις δηλώσεις του Bengio— είναι κάτι πιο ανησυχητικό.
Ο κίνδυνος δεν είναι η κακία.
Ο κίνδυνος είναι η αδιαφορία.
Συστήματα που επιτυγχάνουν τέλεια τους στόχους τους, χωρίς κατανόηση των ανθρώπινων συνεπειών. Αλγόριθμοι που βελτιστοποιούν δείκτες, όχι νόημα. Μηχανισμοί που λειτουργούν άψογα μέσα σε ένα πλαίσιο στόχων που εμείς ορίσαμε βιαστικά, ελλιπώς ή χωρίς ηθική πρόβλεψη.
Η ιστορία μάς έχει δείξει ότι οι μεγαλύτερες καταστροφές δεν προήλθαν από «κακούς» μηχανισμούς, αλλά από μηχανισμούς χωρίς αξιακό πλαίσιο.
Μια συζήτηση που δεν ξεκίνησε σήμερα
Για όσους παρακολουθούν αυτή τη διαδρομή εδώ και χρόνια, τίποτα από αυτά δεν εμφανίζεται ξαφνικά. Πολύ πριν οι όροι AI risk και alignment γίνουν mainstream, υπήρχαν ήδη τα βασικά ερωτήματα:
- πότε η υποβοήθηση μετατρέπεται σε ανάθεση κρίσης
- πότε η αυτοματοποίηση γίνεται αυτονομία
- και αν η τεχνητή νοημοσύνη παραμένει εργαλείο ή εξελίσσεται σε ανεξάρτητο παράγοντα ισχύος
Αυτά τα ερωτήματα είχαν τεθεί νωρίτερα, όταν ακόμα έμοιαζαν θεωρητικά.
Στο άρθρο Unleashing AI Autonomy: Are We Close to a ‘Terminator’ Reality?, το ζητούμενο δεν ήταν αν η AI θα γίνει «κακιά», αλλά αν η αυξανόμενη αυτονομία της θα ξεπεράσει την ανθρώπινη ικανότητα ελέγχου, θεσμικά και ηθικά.
Και στο Will AI Reshape Our World Like the Second Industrial Revolution?, η σύγκριση με τις μεγάλες τεχνολογικές τομές της ιστορίας δεν στόχευε στον ενθουσιασμό. Στόχευε στην υπενθύμιση ότι κάθε βιομηχανική επανάσταση αναδιαμόρφωσε όχι μόνο την παραγωγή, αλλά και την εξουσία, την εργασία και τις κοινωνικές ανισορροπίες.
Ζούμε την αρχή, όχι το τέλος
Ένα κρίσιμο σημείο που συχνά υποτιμάται: δεν βρισκόμαστε στο αποκορύφωμα της AI, αλλά στην αρχή της καμπύλης.
Αυτό σημαίνει ότι:
- τα συστήματα θα γίνουν πιο αυτόνομα
- οι αποφάσεις τους θα κλιμακώνονται ταχύτερα
- η ανθρώπινη παρέμβαση θα γίνεται ολοένα και πιο έμμεση
Και εδώ γεννιέται το πιο δύσκολο ερώτημα:
αν μεταφέρουμε κρίσιμες αποφάσεις σε συστήματα που δεν μπορούν να βιώσουν τις συνέπειες, ποιος φέρει τελικά την ευθύνη;
Τεχνολογία χωρίς σοφία είναι απλώς επιτάχυνση
Η πρόοδος πάντα μας γοήτευε. Πιο γρήγορα, πιο αποδοτικά, πιο «έξυπνα». Όμως η σοφία δεν αυξάνεται γραμμικά με την υπολογιστική ισχύ.
Η τεχνητή νοημοσύνη δεν δημιουργεί αξίες. Τις μεγεθύνει.
Μεγεθύνει τη σοβαρότητα ή την επιπολαιότητα, τη διαφάνεια ή την ασάφεια, την ευθύνη ή την αδιαφορία μας.
Και ίσως αυτό είναι το πιο ανησυχητικό — αλλά και το πιο ελπιδοφόρο — στοιχείο αυτής της εποχής.
Ένα ξεκίνημα χρονιάς ως στάση ευθύνης
Ίσως, λοιπόν, αυτή η αρχή χρονιάς να μη χρειάζεται προβλέψεις ή hype. Ίσως χρειάζεται κάτι πιο δύσκολο: συνειδητό περιορισμό και καθαρή σκέψη.
Να ρωτήσουμε:
- όχι μόνο τι μπορούμε να χτίσουμε, αλλά αν πρέπει
- όχι μόνο πώς λειτουργεί, αλλά ποιον επηρεάζει
- όχι μόνο πόσο αποδοτικό είναι, αλλά τι αξίες ενσωματώνει
Οι προειδοποιήσεις ανθρώπων όπως ο Bengio δεν είναι φρένο στην καινοτομία. Είναι υπενθύμιση ότι η τεχνολογία χωρίς ανθρώπινη επίγνωση παύει να είναι εργαλείο και γίνεται δύναμη χωρίς πυξίδα.
Και ίσως αυτό είναι το πιο ουσιαστικό μήνυμα για την αρχή της χρονιάς:
το μέλλον δεν θα κριθεί από το πόσο έξυπνες θα γίνουν οι μηχανές — αλλά από το πόσο υπεύθυνοι θα παραμείνουμε εμείς.
