Όταν ο νόμος είναι σωστός, αλλά το σύστημα είναι λάθος
Η ένδειξη «AI» μπορεί να μας πληροφορήσει ότι χρησιμοποιήθηκε τεχνητή νοημοσύνη. Δεν μπορεί όμως να μας πει ποιος είχε την ιδέα, πόσο συνέβαλε ο άνθρωπος ή αν το τελικό αποτέλεσμα είναι αληθινό.
Αφορμή για αυτή τη σκέψη δεν ήταν κάποια ιδιαίτερα περίπλοκη νομική διάταξη. Ήταν μια πολύ απλή ερώτηση: τι ακριβώς μαθαίνουμε όταν βλέπουμε δίπλα σε ένα κείμενο, μια εικόνα ή ένα βίντεο την ένδειξη ότι δημιουργήθηκε με τη βοήθεια τεχνητής νοημοσύνης;
Μαθαίνουμε κάτι για τον τρόπο παραγωγής του. Δεν μαθαίνουμε αν είναι αληθινό.
Η διάκριση μοιάζει προφανής. Στη δημόσια συζήτηση, όμως, συχνά χάνεται. Η επισήμανση της χρήσης AI αντιμετωπίζεται σταδιακά σαν να αποτελεί ταυτόχρονα προειδοποίηση, αξιολόγηση ποιότητας και έμμεση ένδειξη μειωμένης αξιοπιστίας. Σαν η προέλευση ενός περιεχομένου να αρκεί για να αποφασίσουμε πόσο πρέπει να το εμπιστευτούμε.
Ακριβώς σε αυτό το σημείο πιστεύω ότι ένα νομικά συνεπές πλαίσιο κινδυνεύει να περιγράψει λανθασμένα το πραγματικό σύστημα που προσπαθεί να ρυθμίσει.
Η εύλογη ευρωπαϊκή απάντηση
Η Ευρωπαϊκή Ένωση δεν αντιμετωπίζει την τεχνητή νοημοσύνη μόνο μέσα από την επισήμανση περιεχομένου. Ο AI Act είναι πολύ ευρύτερος: περιλαμβάνει απαγορευμένες πρακτικές, συστήματα υψηλού κινδύνου, υποχρεώσεις για παρόχους και deployers, κανόνες για μοντέλα γενικής χρήσης και απαιτήσεις διαφάνειας.
Θα ήταν επομένως άδικο και ανακριβές να ισχυριστούμε ότι ολόκληρη η ευρωπαϊκή νομοθέτηση περιορίζεται σε μια ετικέτα «AI».
Στο ειδικό πεδίο του παραγόμενου περιεχομένου, ωστόσο, η βασική ρυθμιστική απάντηση είναι πράγματι η επισήμανση και η τεχνική ανιχνευσιμότητα. Από τις 2 Αυγούστου 2026, το άρθρο 50 του AI Act προβλέπει, μεταξύ άλλων, μηχανικά αναγνώσιμη σήμανση για ορισμένο συνθετικό περιεχόμενο, γνωστοποίηση όταν κάποιος αλληλεπιδρά απευθείας με σύστημα AI και εμφανή επισήμανση για deepfakes ή για κείμενα δημοσίου ενδιαφέροντος που δημοσιεύονται χωρίς ουσιαστικό ανθρώπινο έλεγχο ή editorial responsibility. Οι σχετικές οδηγίες της Ευρωπαϊκής Επιτροπής εξηγούν αναλυτικά το πεδίο εφαρμογής και τις εξαιρέσεις.
Η λογική είναι κατανοητή. Όταν ένας πολίτης μιλά με ένα σύστημα, πρέπει να γνωρίζει ότι δεν συνομιλεί με άνθρωπο. Όταν βλέπει ένα πειστικό βίντεο ενός υπαρκτού προσώπου να λέει κάτι που δεν είπε ποτέ, πρέπει να γνωρίζει ότι το περιεχόμενο είναι τεχνητά παραγόμενο ή παραποιημένο. Η διαφάνεια είναι απαραίτητη για την αντιμετώπιση της εξαπάτησης, της πλαστοπροσωπίας και της χειραγώγησης.
Το πρόβλημα δεν είναι ότι η επισήμανση είναι λανθασμένη. Το πρόβλημα αρχίζει όταν την αντιμετωπίζουμε ως επαρκή απάντηση.
Ο νόμος χρειάζεται κατηγορίες· η πραγματικότητα λειτουργεί ως συνεχές
Κάθε νόμος χρειάζεται ορισμούς. Πρέπει να καθορίσει ποιος είναι πάροχος, ποιος είναι χρήστης, πότε ένα περιεχόμενο θεωρείται παραγόμενο από AI, ποιος οφείλει να το επισημάνει και ποια εξαίρεση εφαρμόζεται. Χωρίς σαφή όρια, δεν υπάρχει εφαρμογή, έλεγχος ή απόδοση ευθύνης.
Η ανθρώπινη–μηχανική συνεργασία, όμως, δεν υπακούει εύκολα σε δυαδικές κατηγορίες.
Ένα κείμενο μπορεί να ξεκίνησε από μια απολύτως ανθρώπινη ιδέα. Ο άνθρωπος μπορεί να διαμόρφωσε τη θέση, να έδωσε τις βασικές παραμέτρους και να ζήτησε από ένα μοντέλο μια πρώτη δομή. Στη συνέχεια μπορεί να απέρριψε μεγάλο μέρος του αποτελέσματος, να ξαναέγραψε ενότητες, να πρόσθεσε προσωπικά παραδείγματα, να έλεγξε τις πηγές και να ανέλαβε πλήρως την τελική ευθύνη.
Σε μια άλλη περίπτωση, κάποιος μπορεί να έδωσε μία πρόταση, να αποδέχθηκε το πρώτο αποτέλεσμα χωρίς έλεγχο και να το δημοσίευσε αυτούσιο.
Και τα δύο έργα θα μπορούσαν να φέρουν την ίδια ένδειξη: «δημιουργήθηκε με AI».
Η ετικέτα θα ήταν τυπικά σωστή και στις δύο περιπτώσεις. Θα περιέγραφε όμως δύο εντελώς διαφορετικές δημιουργικές, γνωστικές και υπεύθυνες διαδικασίες σαν να ήταν ισοδύναμες.
Ποιος είχε την ιδέα;
Εδώ βρίσκεται ένα ερώτημα στο οποίο η νομοθέτηση δεν έχει πειστική απάντηση — και ίσως να μην μπορεί ποτέ να αποκτήσει.
Ήταν η ιδέα ανθρώπινη ή μηχανική;
Η εύκολη απάντηση είναι ότι ο άνθρωπος έδωσε το prompt και άρα η πρόθεση ήταν δική του. Αυτό όμως δεν καλύπτει όλες τις περιπτώσεις. Ένα σύστημα μπορεί να προτείνει μια σύνδεση που ο άνθρωπος δεν είχε σκεφτεί. Ο άνθρωπος μπορεί να την απορρίψει, να την τροποποιήσει ή να αναγνωρίσει μέσα της μια διαφορετική ιδέα και να την αναπτύξει προς κατεύθυνση που το μοντέλο δεν είχε προβλέψει.
Σε ποιο σημείο ακριβώς γεννήθηκε τότε η τελική ιδέα;
Μπορούμε να πούμε ότι η AI συνέβαλε κατά 20%, 50% ή 80%; Με ποια μονάδα θα μετρηθεί αυτή η συμβολή; Με τον αριθμό των λέξεων που παρέμειναν στο τελικό κείμενο; Με την αρχική σύλληψη; Με τη δομή; Με τη δυσκολία της έρευνας; Με τις αποφάσεις που οδήγησαν στην απόρριψη των λανθασμένων προτάσεων;
Η δημιουργική εργασία δεν είναι λογιστικό φύλλο. Μια φράση μπορεί να αλλάξει ολόκληρη τη συλλογιστική ενός άρθρου, ενώ εκατοντάδες μηχανικά παραγόμενες λέξεις μπορεί να μην έχουν καμία ουσιαστική αξία. Η επιλογή, η κρίση και η απόρριψη είναι επίσης δημιουργικές πράξεις, παρότι δεν εμφανίζονται στο τελικό αποτέλεσμα.
Όσο πιο επαναληπτική γίνεται η συνεργασία ανθρώπου και συστήματος, τόσο λιγότερο νόημα έχει η προσπάθεια να αποδώσουμε ένα ακριβές ποσοστό πατρότητας. Η διαδικασία δεν είναι μια απλή μεταβίβαση εργασίας από τον έναν στον άλλο. Είναι ένας κύκλος πρότασης, αξιολόγησης, διόρθωσης, επαναπροσδιορισμού και τελικής επιλογής.
Ο νόμος μπορεί να επιβάλει γνωστοποίηση της χρήσης ενός εργαλείου. Δεν μπορεί να παρατηρήσει με βεβαιότητα πού ακριβώς γεννήθηκε μια σκέψη.
Η αδυναμία της ίδιας της ετικέτας
Η ευρωπαϊκή προσέγγιση αναγνωρίζει εν μέρει αυτή τη δυσκολία. Σύμφωνα με τις οδηγίες του άρθρου 50, ένα δημοσιευμένο κείμενο δημοσίου ενδιαφέροντος που έχει υποστεί ουσιαστικό ανθρώπινο έλεγχο ή editorial control δεν χρειάζεται την ίδια εμφανή επισήμανση. Η τυπική διόρθωση γραμματικής δεν αρκεί· απαιτείται εξέταση της ουσίας από άνθρωπο με σχετική γνώση και τελική ανθρώπινη ευθύνη.
Αυτό είναι σημαντικό. Δείχνει ότι ακόμη και η ίδια η νομοθεσία αντιλαμβάνεται πως η ανθρώπινη συμμετοχή δεν είναι πάντοτε διακοσμητική.
Παραμένει όμως ένα χονδροειδές κατώφλι: υπήρξε ή δεν υπήρξε ουσιαστικός έλεγχος. Δεν εξηγεί ποιος συνέλαβε τη θέση, ποιος επέλεξε τα δεδομένα, ποιος διαμόρφωσε το επιχείρημα, ποιος εντόπισε τα λάθη ή ποια ήταν η πραγματική κατανομή της γνωστικής εργασίας.
Κυρίως, δεν μας λέει αν το αποτέλεσμα είναι έγκυρο.
Η επισήμανση της προέλευσης είναι πληροφορία για τη διαδικασία παραγωγής. Δεν αποτελεί απόδειξη αλήθειας, ποιότητας ή αξιοπιστίας.
Ένα απολύτως ανθρώπινο κείμενο μπορεί να είναι ψευδές, πρόχειρο, ατεκμηρίωτο ή σκόπιμα χειραγωγητικό. Ένα κείμενο που δημιουργήθηκε με σημαντική βοήθεια AI μπορεί να έχει ελεγχθεί εξονυχιστικά, να στηρίζεται σε πρωτογενείς πηγές και να είναι ακριβέστερο από πολλά αμιγώς ανθρώπινα κείμενα.
Η ένδειξη δεν μας λέει ποιο από τα δύο βρίσκεται μπροστά μας.
Όταν η προέλευση αντικαθιστά το επιχείρημα
Υπάρχει και ένας βαθύτερος κίνδυνος. Η ετικέτα μπορεί να πάψει να λειτουργεί ως πληροφορία και να αρχίσει να λειτουργεί ως τρόπος αποδυνάμωσης μιας φωνής.
Είναι μια παλιά πρακτική με καινούργιο αντικείμενο. Όταν δεν θέλουμε ή δεν μπορούμε να απαντήσουμε σε όσα λέγονται, μετακινούμε τη συζήτηση προς εκείνον που τα λέει. Εξετάζουμε το πρόσωπο, τα κίνητρά του, την ιδιότητά του ή την ομάδα στην οποία ανήκει και αφήνουμε το ίδιο το επιχείρημα στο περιθώριο.
Στην κλασική μορφή της, αυτή είναι επίθεση στο πρόσωπο. Στην περίπτωση του AI περιεχομένου πλησιάζει περισσότερο σε αυτό που η λογική ονομάζει γενετική πλάνη: αποδεχόμαστε ή απορρίπτουμε έναν ισχυρισμό εξαιτίας της προέλευσής του και όχι επειδή εξετάσαμε τις αποδείξεις που τον στηρίζουν.
Η χρήση AI μπορεί έτσι να μετατραπεί σε μια εύκολη έξοδο από την ουσιαστική συζήτηση. Αντί να ρωτήσουμε «είναι σωστό;», ρωτάμε «το έγραψε AI;». Αντί να ελέγξουμε τα δεδομένα, αξιολογούμε τη γενεαλογία του κειμένου.
Κινδυνεύουμε, με άλλα λόγια, να αντικαταστήσουμε την αξιολόγηση ενός ισχυρισμού με την αξιολόγηση της καταγωγής του.
Αυτό δεν είναι πρόοδος στην κριτική σκέψη. Είναι ένας νέος τρόπος να την αποφεύγουμε.
Η προέλευση έχει σημασία — αλλά όχι για όλα
Θα ήταν εξίσου λανθασμένο να περάσουμε στο αντίθετο άκρο και να υποστηρίξουμε ότι η προέλευση δεν έχει καμία σημασία.
Έχει τεράστια σημασία όταν εξετάζουμε ένα deepfake, ένα αποδεικτικό στοιχείο, μια επιστημονική δημοσίευση, μια ιατρική ή νομική γνωμοδότηση, μια περίπτωση λογοκλοπής ή ένα έργο για το οποίο διεκδικούνται δικαιώματα πνευματικής ιδιοκτησίας. Έχει σημασία όταν πρέπει να γνωρίζουμε αν μια φωτογραφία αποτυπώνει πραγματικό γεγονός, αν ένα απόσπασμα αποτελεί αυθεντική δήλωση και ποιος φέρει την ευθύνη για μια αυτοματοποιημένη απόφαση.
Σε αυτά τα πεδία, το provenance, η αλυσίδα επιμέλειας και η δυνατότητα ελέγχου δεν είναι δευτερεύουσες λεπτομέρειες. Είναι μέρος της απόδειξης.
Αλλά άλλο πράγμα είναι να γνωρίζουμε την προέλευση και άλλο να τη χρησιμοποιούμε ως υποκατάστατο της επαλήθευσης.
Το γεγονός ότι μια εικόνα είναι συνθετική μάς λέει ότι δεν αποτελεί αυτομάτως φωτογραφικό τεκμήριο ενός πραγματικού γεγονότος. Το γεγονός ότι ένα αναλυτικό κείμενο γράφτηκε με τη βοήθεια AI δεν μας λέει αυτομάτως ότι τα επιχειρήματά του είναι λανθασμένα. Η σημασία της προέλευσης εξαρτάται από τη χρήση, τον κίνδυνο και τον ισχυρισμό που διατυπώνεται.
Η ρύθμιση επομένως δεν μπορεί να είναι μόνο οριζόντια και συμβολική. Πρέπει να είναι αναλογική προς το πραγματικό ρίσκο.
Από την ετικέτα στην ευθύνη
Αν θέλουμε ένα πλαίσιο που να ανταποκρίνεται στην πραγματικότητα, χρειαζόμαστε περισσότερα από μια γενική γνωστοποίηση χρήσης AI.
Πρώτον, πρέπει να υπάρχει σαφής ανθρώπινη ή οργανωτική ευθύνη. Το κρίσιμο δεν είναι μόνο ποιο εργαλείο χρησιμοποιήθηκε, αλλά ποιος αποφάσισε ότι το αποτέλεσμα ήταν έτοιμο να δημοσιευθεί ή να χρησιμοποιηθεί. Ποιος το υπογράφει; Ποιος είχε τη δυνατότητα να το απορρίψει; Ποιος λογοδοτεί αν προκαλέσει βλάβη;
Δεύτερον, χρειάζεται προέλευση των δεδομένων και όχι μόνο προέλευση του κειμένου. Ένα μικρό εικονίδιο που δηλώνει «AI» έχει περιορισμένη αξία αν δεν μπορούμε να γνωρίζουμε σε ποιες πηγές στηρίχθηκε ένας κρίσιμος ισχυρισμός, αν οι πηγές είναι αυθεντικές και αν τα στοιχεία παραμένουν επίκαιρα.
Τρίτον, απαιτούνται διαδικασίες επαλήθευσης ανάλογες με τον κίνδυνο. Ένα δημιουργικό κείμενο, μια διαφημιστική εικόνα, μια ιατρική σύσταση και μια απόφαση που επηρεάζει την πρόσβαση κάποιου σε εργασία ή πίστωση δεν μπορούν να αντιμετωπίζονται με την ίδια λογική συμμόρφωσης.
Τέταρτον, όπου οι συνέπειες είναι σημαντικές, χρειάζονται audit trails που να καταγράφουν όχι κάθε ανούσια πληκτρολόγηση, αλλά τις ουσιαστικές αποφάσεις: ποια δεδομένα εισήχθησαν, ποια έκδοση του συστήματος χρησιμοποιήθηκε, ποιες αλλαγές έκανε ο άνθρωπος, ποιος ενέκρινε το αποτέλεσμα και με ποια κριτήρια.
Και πέμπτον, η σήμανση πρέπει να παρουσιάζεται ως αυτό που πραγματικά είναι: μεταδεδομένο προέλευσης, όχι βαθμολογία αξιοπιστίας.
Όταν η νομική ορθότητα δεν αρκεί
Αυτό το ζήτημα αποκαλύπτει ένα γενικότερο πρόβλημα στον τρόπο με τον οποίο οι θεσμοί ρυθμίζουν σύνθετα τεχνολογικά συστήματα.
Ένα νομικό κείμενο μπορεί να είναι συνεπές, προσεκτικό και θεσμικά άρτιο. Μπορεί να ορίζει με ακρίβεια τις υποχρεώσεις, τις εξαιρέσεις και τις κυρώσεις. Και παρ’ όλα αυτά, το μοντέλο της πραγματικότητας πάνω στο οποίο στηρίζεται να είναι ανεπαρκές.
Δεν θα ήταν η πρώτη φορά που μια ευρωπαϊκή ρύθμιση με σωστό σκοπό κινδυνεύει να ταυτίσει τη συμμόρφωση με το πραγματικό αποτέλεσμα. Στην περίπτωση του GDPR, το δικαίωμα ελέγχου αποτυπώθηκε συχνά στην καθημερινότητα ως banners, δηλώσεις συγκατάθεσης και νομικά κείμενα, χωρίς ο πολίτης να μπορεί πάντοτε να γνωρίζει ποια δεδομένα διατηρούνται πραγματικά γι’ αυτόν. Αντίστοιχα, στον AI Act η παρουσία μιας ετικέτας μπορεί να αποδεικνύει ότι τηρήθηκε μια υποχρέωση διαφάνειας· όχι ότι αξιολογήθηκε η εγκυρότητα του περιεχομένου.
Όταν η νομοθέτηση σχεδιάζεται κυρίως μέσα από τη νομική οπτική, έχει την τάση να αντιμετωπίζει την τεχνολογία ως ένα αντικείμενο που μπορεί να ταξινομηθεί. Όμως τα σύγχρονα πληροφοριακά συστήματα είναι δυναμικά περιβάλλοντα. Περιλαμβάνουν δεδομένα αμφίβολης ποιότητας, αλυσίδες προμηθευτών, μοντέλα που αλλάζουν, ανθρώπους που τα χρησιμοποιούν με απρόβλεπτους τρόπους, επιχειρηματικά κίνητρα και legacy υποδομές που δεν συμμορφώνονται επειδή προστέθηκε μία νέα παράγραφος σε έναν κανονισμό.
Γι’ αυτό η τεχνολογία δεν μπορεί να ρυθμιστεί μόνο από νομικούς, όπως δεν μπορεί να ρυθμιστεί μόνο από μηχανικούς. Χρειάζονται νομικοί, μηχανικοί, αρχιτέκτονες συστημάτων, άνθρωποι της ασφάλειας, επιστήμονες δεδομένων, οικονομολόγοι, operators και επαγγελματίες που γνωρίζουν τι συμβαίνει όταν ένας κανόνας συναντά ένα πραγματικό production environment.
Ο νόμος μπορεί να είναι νομικά σωστός και ταυτόχρονα λειτουργικά ανεπαρκής.
Η επισήμανση AI είναι ένα χαρακτηριστικό παράδειγμα. Δημιουργεί μια σαφή υποχρέωση και μια ορατή πράξη συμμόρφωσης. Είναι εύκολο να ελεγχθεί αν υπάρχει μια ένδειξη. Είναι πολύ δυσκολότερο να ελεγχθεί αν το περιεχόμενο είναι ακριβές, αν οι πηγές του είναι έγκυρες και αν ο άνθρωπος που το δημοσίευσε άσκησε πραγματική κρίση.
Ο κίνδυνος είναι να μετρήσουμε το εύκολα μετρήσιμο και να θεωρήσουμε ότι λύσαμε το δύσκολο.
Η ερώτηση που πρέπει να αλλάξει
Το επόμενο στάδιο της συζήτησης δεν μπορεί να περιοριστεί στο «το έγραψε άνθρωπος ή AI;».
Η ερώτηση αυτή προϋποθέτει έναν καθαρό διαχωρισμό που σε πολλές σύγχρονες διαδικασίες δεν υπάρχει πλέον. Και ακόμη κι αν μπορούσαμε να τον εντοπίσουμε, δεν θα μας έλεγε όσα πραγματικά χρειαζόμαστε να γνωρίζουμε.
Οι ουσιαστικές ερωτήσεις είναι διαφορετικές:
Μπορεί ο ισχυρισμός να επαληθευτεί; Σε ποια δεδομένα στηρίζεται; Είναι διαθέσιμες οι πηγές; Υπήρξε ουσιαστικός ανθρώπινος έλεγχος; Ποιος έχει την τελική ευθύνη; Υπάρχει ιστορικό των κρίσιμων αποφάσεων; Ποιες θα είναι οι συνέπειες αν το αποτέλεσμα είναι λανθασμένο;
Η διαφάνεια για τη χρήση AI παραμένει χρήσιμη και σε αρκετές περιπτώσεις απολύτως αναγκαία. Αλλά δεν πρέπει να συγχέεται με την αλήθεια, ούτε να μετατρέπεται σε έναν κοινωνικά αποδεκτό τρόπο απαξίωσης ενός επιχειρήματος χωρίς εξέταση.
Η ετικέτα περιγράφει την καταγωγή του περιεχομένου. Δεν πιστοποιεί την εγκυρότητά του.
Και τελικά, το κρίσιμο δεν είναι αν μια μηχανή συμμετείχε στη διατύπωση μιας σκέψης. Το κρίσιμο είναι αν η σκέψη αντέχει στον έλεγχο — και αν υπάρχει ένας άνθρωπος ή ένας οργανισμός πρόθυμος να σταθεί πίσω από αυτήν και να αναλάβει την ευθύνη της.