Δεν είναι δύσκολο να βρει κανείς σήμερα έναν εντυπωσιακό ισχυρισμό. Μια πόλη ανακοινώνει ότι πέτυχε εξαιρετικά υψηλά ποσοστά ανακύκλωσης. Μια επιχείρηση δηλώνει ότι έγινε ουδέτερη ως προς τον άνθρακα. Ένας οργανισμός παρουσιάζει ένα νέο μοντέλο κυκλικής οικονομίας. Μια δημόσια υπηρεσία ανακοινώνει ότι ψηφιοποίησε τις διαδικασίες της. Μια εταιρεία τεχνητής νοημοσύνης υποστηρίζει ότι το νέο της σύστημα είναι ασφαλέστερο, ακριβέστερο και πιο αξιόπιστο από οτιδήποτε προηγήθηκε.
Οι ιστορίες αυτές δεν είναι από μόνες τους προβληματικές. Αντίθετα, η κοινωνία χρειάζεται παραδείγματα προόδου. Χρειάζεται να γνωρίζει ότι δύσκολα προβλήματα μπορούν να αντιμετωπιστούν, ότι υπάρχουν οργανισμοί που βελτιώνουν πραγματικά τον τρόπο λειτουργίας τους και ότι ορισμένες ιδέες μπορούν να περάσουν από τη θεωρία στην πράξη. Χωρίς θετικά παραδείγματα, η δημόσια συζήτηση θα περιοριζόταν εύκολα στη διαπίστωση των προβλημάτων και στην πεποίθηση ότι τίποτα δεν μπορεί να αλλάξει.
Πριν από λίγο καιρό διάβασα ακόμη μία τέτοια ιστορία. Αφορούσε μια προσπάθεια στον χώρο της διαχείρισης αποβλήτων και της κυκλικής οικονομίας. Παρουσιάζονταν εντυπωσιακά αποτελέσματα, υψηλά ποσοστά ανάκτησης υλικών, σημαντική εκτροπή αποβλήτων από την ταφή και η εικόνα ενός μοντέλου που θα μπορούσε να αποτελέσει παράδειγμα και για άλλες περιοχές.
Δεν είχα κανέναν λόγο να θεωρήσω ότι όσα παρουσιάζονταν ήταν ανακριβή. Πίσω από αντίστοιχες προσπάθειες μπορεί να υπάρχει πραγματική δουλειά, επιμονή, αλλαγή καθημερινών συνηθειών, επένδυση σε υποδομές και συνεργασία μεταξύ ανθρώπων που προσπαθούν να πετύχουν κάτι ουσιαστικό. Κάθε πραγματική βελτίωση στη διαχείριση των αποβλήτων αξίζει να αναδεικνύεται, ιδιαίτερα όταν η ταφή εξακολουθεί να αντιμετωπίζεται σε πολλές περιπτώσεις ως η εύκολη τελική λύση και όχι ως η τελευταία επιλογή ενός ώριμου συστήματος.
Καθώς όμως διάβαζα, συνειδητοποίησα ότι το βασικό ερώτημα δεν ήταν αν πίστευα τους αριθμούς. Δεν προσπαθούσα να αποφασίσω αν η ιστορία ήταν αληθινή ή υπερβολική. Με απασχολούσε κάτι διαφορετικό: με ποιον τρόπο θα μπορούσε ένας άνθρωπος που δεν συμμετείχε σε αυτή την προσπάθεια να επιβεβαιώσει ότι οι ισχυρισμοί της ήταν σωστοί;
Η διαφορά ανάμεσα στις δύο ερωτήσεις είναι ουσιαστική. Η πρώτη μάς αναγκάζει να επιλέξουμε ανάμεσα στην εμπιστοσύνη και στη δυσπιστία. Η δεύτερη μεταφέρει τη συζήτηση από τα πρόσωπα, τις προθέσεις και την επικοινωνία στη μεθοδολογία, στα δεδομένα και στον σχεδιασμό του ίδιου του συστήματος.
Στη διαχείριση αποβλήτων αυτό γίνεται εύκολα αντιληπτό. Ένα υψηλό ποσοστό ανακύκλωσης μπορεί να ακούγεται απολύτως ξεκάθαρο, χωρίς να είναι. Τι ακριβώς έχει μετρηθεί; Το σύνολο των αποβλήτων που παράχθηκαν, οι ποσότητες που συλλέχθηκαν χωριστά, εκείνες που εισήλθαν σε εγκαταστάσεις διαλογής ή τα υλικά που τελικά ανακτήθηκαν και επέστρεψαν στην οικονομία; Ποιες κατηγορίες αποβλήτων συμπεριλαμβάνονται και ποιες μένουν εκτός του υπολογισμού; Πώς αντιμετωπίζονται τα υπολείμματα της επεξεργασίας, οι προσμίξεις και τα υλικά που, παρότι συλλέχθηκαν χωριστά, δεν μπόρεσαν τελικά να αξιοποιηθούν;
Ανάλογη ασάφεια μπορεί να υπάρχει και στην εκτροπή από την ταφή. Ένα απόβλητο που δεν οδηγήθηκε απευθείας σε χώρο ταφής δεν σημαίνει απαραίτητα ότι ανακυκλώθηκε. Μπορεί να αποθηκεύτηκε προσωρινά, να οδηγήθηκε σε άλλη μορφή επεξεργασίας, να εξαχθεί ή να κατέληξε αργότερα σε ταφή μέσω διαφορετικής διαδρομής. Αν δεν υπάρχει σαφής ιχνηλασιμότητα από το σημείο παραγωγής έως τον τελικό προορισμό, ένα εντυπωσιακό ποσοστό μπορεί να είναι αριθμητικά σωστό και ταυτόχρονα να δημιουργεί μια ελλιπή εικόνα.
Ακόμη και ο όρος «Zero Waste» δεν έχει πάντοτε το ίδιο περιεχόμενο. Για κάποιους περιγράφει μια μακροπρόθεσμη κατεύθυνση πρόληψης, επαναχρησιμοποίησης, ανακύκλωσης και δραστικού περιορισμού της ταφής. Για άλλους χρησιμοποιείται για ένα μέρος μόνο των αποβλήτων ή για μια περιορισμένη χρονική περίοδο. Σε περιοχές με μεγάλη εποχική μεταβολή του πληθυσμού, ο χρόνος της μέτρησης μπορεί επίσης να αλλάξει ουσιαστικά το αποτέλεσμα. Μια ετήσια επίδοση, ένας μέσος όρος ή ένα ποσοστό συγκεκριμένων μηνών δεν περιγράφουν κατ’ ανάγκη την ίδια πραγματικότητα.
Οι παρατηρήσεις αυτές δεν μειώνουν την αξία μιας επιτυχίας. Τη θωρακίζουν. Όσο πιο σημαντικός είναι ένας ισχυρισμός, τόσο μεγαλύτερη αξία αποκτά όταν συνοδεύεται από ξεκάθαρους ορισμούς, κοινή μεθοδολογία, προσβάσιμα στοιχεία και μια διαδρομή που επιτρέπει σε έναν τρίτο να καταλάβει πώς προέκυψε το τελικό συμπέρασμα.
Χωρίς αυτά, δύο οργανισμοί μπορούν να ανακοινώσουν ακριβώς το ίδιο ποσοστό και να περιγράφουν δύο εντελώς διαφορετικές καταστάσεις. Κανένας από τους δύο δεν χρειάζεται να λέει ψέματα. Μπορεί απλώς να χρησιμοποιούν διαφορετικούς ορισμούς, διαφορετικά όρια συστήματος και διαφορετικές μεθόδους υπολογισμού. Οι αριθμοί από μόνοι τους δεν εξαλείφουν την ασάφεια. Μερικές φορές την κρύβουν αποτελεσματικότερα.
Από αυτή την παρατήρηση προκύπτει ένα πολύ ευρύτερο ζήτημα. Σχεδόν κάθε σημαντική απόφαση στη σύγχρονη κοινωνία βασίζεται σε ισχυρισμούς. Μια επιχείρηση υποστηρίζει ότι μείωσε το περιβαλλοντικό της αποτύπωμα. Ένας οργανισμός ανακοινώνει ότι πέτυχε τους στόχους του ESG. Μια κυβέρνηση παρουσιάζει μια δημόσια πολιτική ως επιτυχημένη. Ένα νοσοκομείο δημοσιεύει βελτιωμένους δείκτες ποιότητας. Ένα πανεπιστήμιο παρουσιάζει τα αποτελέσματα μιας έρευνας. Μια τεχνολογική εταιρεία δηλώνει ότι το προϊόν της είναι ασφαλές, αποτελεσματικό ή αμερόληπτο.
Σε όλες αυτές τις περιπτώσεις, η συζήτηση καταλήγει συνήθως στο ίδιο δίλημμα: ποιον εμπιστευόμαστε;
Εμπιστευόμαστε τον φορέα που δημοσίευσε τα στοιχεία; Τον ειδικό που τα σχολίασε; Τον θεσμό που τα ενέκρινε; Το μέσο που τα αναπαρήγαγε; Την εταιρεία που χρηματοδότησε τη μελέτη; Τον ελεγκτή που υπέγραψε την έκθεση;
Οι θεσμοί, οι ειδικοί και οι διαδικασίες ελέγχου παραμένουν απαραίτητοι. Καμία σύνθετη κοινωνία δεν μπορεί να λειτουργήσει χωρίς κάποιο επίπεδο εμπιστοσύνης σε ανθρώπους και οργανισμούς που διαθέτουν γνώση, αρμοδιότητα και ευθύνη. Το πρόβλημα αρχίζει όταν η αξιοπιστία ενός ισχυρισμού εξαρτάται αποκλειστικά από το κύρος εκείνου που τον διατυπώνει.
Για μεγάλο μέρος της ιστορίας, η εμπιστοσύνη βασιζόταν στην αυθεντία. Πιστεύαμε κάτι επειδή το έλεγε ένας αναγνωρισμένος ειδικός, ένας θεσμός, μια κυβέρνηση, ένα πανεπιστήμιο ή ένα μεγάλο μέσο ενημέρωσης. Το μοντέλο αυτό δεν εξαφανίστηκε και ούτε μπορεί να εξαφανιστεί εντελώς. Ωστόσο, γίνεται ολοένα πιο ανεπαρκές σε έναν κόσμο όπου οι ισχυρισμοί πολλαπλασιάζονται ταχύτερα από την ικανότητά μας να τους ελέγξουμε.
Η απάντηση σε αυτή την κρίση δεν μπορεί να είναι η γενικευμένη δυσπιστία. Μια κοινωνία που αμφισβητεί τα πάντα χωρίς κριτήρια δεν γίνεται περισσότερο ορθολογική. Γίνεται περισσότερο ευάλωτη στην παραπληροφόρηση, στις θεωρίες συνωμοσίας και σε κάθε αφήγηση που επιβεβαιώνει τις ήδη υπάρχουσες πεποιθήσεις της. Η δυσπιστία δεν αποτελεί από μόνη της μέθοδο ελέγχου, όπως ακριβώς και η εμπιστοσύνη δεν αποτελεί απόδειξη.
Χρειάζεται επομένως μια διαφορετική μετάβαση: από την εμπιστοσύνη που βασίζεται κυρίως στην αυθεντία, σε μια εμπιστοσύνη που στηρίζεται όσο το δυνατόν περισσότερο σε ελέγξιμα στοιχεία. Όχι επειδή οι άνθρωποι ή οι θεσμοί είναι κατ’ ανάγκη αναξιόπιστοι, αλλά επειδή ακόμη και οι πιο έντιμοι οργανισμοί μπορούν να κάνουν λάθος, να χρησιμοποιήσουν ελλιπή δεδομένα, να επιλέξουν ακατάλληλους δείκτες ή να ερμηνεύσουν τα ίδια στοιχεία με διαφορετικό τρόπο.
Εδώ βρίσκεται και η διαφορά ανάμεσα στη διαφάνεια και στη δυνατότητα επαλήθευσης. Τα δύο συχνά χρησιμοποιούνται σαν να είναι συνώνυμα, όμως δεν είναι.
Ένας οργανισμός μπορεί να δημοσιεύσει μια έκθεση εκατοντάδων σελίδων, δεκάδες πίνακες, γραφήματα και αναλυτικές περιγραφές της μεθοδολογίας του. Μπορεί να θεωρείται απολύτως διαφανής επειδή έδωσε στη δημοσιότητα μεγάλο όγκο πληροφοριών. Αν όμως ο αναγνώστης δεν μπορεί να συνδέσει τα τελικά συμπεράσματα με τα πρωτογενή δεδομένα, να αναπαράγει τους υπολογισμούς ή να καταλάβει ποιες παραδοχές επηρέασαν το αποτέλεσμα, η διαφάνεια δεν αρκεί για να δημιουργήσει εμπιστοσύνη.
Η διαφάνεια αφορά το τι επιλέγει ένας οργανισμός να δείξει. Η δυνατότητα επαλήθευσης αφορά το αν ένας ανεξάρτητος τρίτος μπορεί να ακολουθήσει την ίδια διαδρομή και να καταλήξει στο ίδιο ή σε ένα συγκρίσιμο συμπέρασμα.
Αυτή η διάκριση γίνεται ακόμη σημαντικότερη στην εποχή της τεχνητής νοημοσύνης. Μέχρι πρόσφατα, η παραγωγή μιας καλοσχεδιασμένης έκθεσης, ενός πειστικού κειμένου, μιας επαγγελματικής παρουσίασης ή ενός σύνθετου οπτικού υλικού απαιτούσε χρόνο, δεξιότητες και οικονομικούς πόρους. Η ποιότητα της παρουσίασης δεν αποτελούσε ποτέ εγγύηση αλήθειας, λειτουργούσε όμως συχνά ως έμμεσο σήμα σοβαρότητας και επένδυσης.
Αυτό το σήμα χάνει γρήγορα την αξία του. Η τεχνητή νοημοσύνη μειώνει δραστικά το κόστος παραγωγής πειστικού περιεχομένου. Ένα καλογραμμένο άρθρο, ένα εντυπωσιακό γράφημα, μια ολοκληρωμένη αναφορά ή ένα επαγγελματικό βίντεο μπορούν πλέον να παραχθούν σε ελάχιστο χρόνο. Η εξέλιξη αυτή δεν διευκολύνει μόνο το ψέμα. Διευκολύνει εξίσου την αλήθεια, την υπερβολή, το λάθος και τη μισή αλήθεια. Κυρίως, κάνει την εξωτερική τους εμφάνιση όλο και πιο δύσκολο να διαφοροποιηθεί.
Όταν το κόστος παραγωγής ενός πειστικού ισχυρισμού τείνει προς το μηδέν, η πειστικότητα παύει να αποτελεί σοβαρό κριτήριο αξιοπιστίας. Η μεγάλη πρόκληση δεν θα είναι πλέον ποιος μπορεί να δημιουργήσει την καλύτερη αφήγηση, αλλά ποιος μπορεί να τεκμηριώσει όσα ισχυρίζεται.
Αυτό αλλάζει και τον τρόπο με τον οποίο πρέπει να σχεδιάζουμε τα συστήματα.
Έχοντας ασχοληθεί για χρόνια με την αρχιτεκτονική πληροφοριακών συστημάτων, έχω καταλήξει ότι ένα σύστημα δεν αρκεί να εκτελεί σωστά μια διαδικασία. Πρέπει να διατηρεί και την ιστορία της. Πρέπει να μπορεί να δείξει ποια δεδομένα εισήλθαν, ποιος τα δημιούργησε ή τα τροποποίησε, ποιες μετατροπές εφαρμόστηκαν, ποιοι κανόνες ενεργοποιήθηκαν και πώς προέκυψε το τελικό αποτέλεσμα.
Αν αυτή η δυνατότητα δεν έχει προβλεφθεί από την αρχή, είναι πολύ δύσκολο να προστεθεί αξιόπιστα στο τέλος. Ένα report που δημιουργείται εκ των υστέρων δεν μπορεί να αναπληρώσει δεδομένα που δεν καταγράφηκαν ποτέ. Ένα dashboard δεν μπορεί να αποκαταστήσει μια αλυσίδα ιχνηλασιμότητας που δεν υπήρξε. Ένας εξωτερικός έλεγχος δεν μπορεί να επιβεβαιώσει με βεβαιότητα γεγονότα για τα οποία το σύστημα δεν έχει κρατήσει επαρκή στοιχεία.
Αυτό ισχύει εξίσου για ένα σύστημα διαχείρισης αποβλήτων, μια ψηφιακή δημόσια υπηρεσία, έναν απολογισμό βιωσιμότητας ή ένα μοντέλο τεχνητής νοημοσύνης. Η απόδειξη δεν πρέπει να αντιμετωπίζεται ως μια πρόσθετη απαίτηση αναφοράς που εμφανίζεται μετά την ολοκλήρωση της λειτουργίας. Πρέπει να αποτελεί φυσικό προϊόν της ίδιας της λειτουργίας.
Ένα ώριμο σύστημα διαχείρισης αποβλήτων δεν θα πρέπει απλώς να ανακοινώνει πόσους τόνους ανακύκλωσε. Θα πρέπει να μπορεί να συνδέσει τις εισερχόμενες ποσότητες με την πηγή τους, τα στάδια συλλογής και επεξεργασίας, τα υπολείμματα, τις παραδόσεις στους τελικούς αποδέκτες και τις μεθόδους υπολογισμού των δεικτών. Η τελική επίδοση θα πρέπει να προκύπτει από τη λειτουργία του συστήματος και όχι από μια ξεχωριστή επικοινωνιακή άσκηση στο τέλος του έτους.
Μια δημόσια ψηφιακή υπηρεσία δεν θα πρέπει απλώς να ισχυρίζεται ότι επιτάχυνε μια διαδικασία. Θα πρέπει να μπορεί να δείξει με συγκρίσιμα στοιχεία πόσο χρόνο απαιτούσε πριν, πόσο απαιτεί τώρα, ποια βήματα καταργήθηκαν, πόσες υποθέσεις ολοκληρώθηκαν και σε ποια σημεία εξακολουθούν να υπάρχουν καθυστερήσεις. Μια εταιρεία που παρουσιάζει στόχους ESG δεν θα πρέπει να περιορίζεται σε ένα καλοσχεδιασμένο report, αλλά να διαθέτει συνεπή προέλευση δεδομένων, σαφείς ορισμούς και δυνατότητα αναπαραγωγής των βασικών υπολογισμών.
Αντίστοιχα, ένα σύστημα τεχνητής νοημοσύνης δεν μπορεί να θεωρείται αξιόπιστο μόνο επειδή αποδίδει καλά σε μια σειρά δοκιμών που επέλεξε ο δημιουργός του. Χρειάζεται σαφή τεκμηρίωση των δεδομένων, των περιορισμών, των μεθόδων αξιολόγησης και των συνθηκών στις οποίες η απόδοσή του υποχωρεί. Όσο περισσότερο ένα σύστημα επηρεάζει ανθρώπινες αποφάσεις, τόσο πιο σημαντική γίνεται η δυνατότητα να ελεγχθεί όχι μόνο το αποτέλεσμα, αλλά και η διαδικασία που οδήγησε σε αυτό.
Αυτή η λογική θα μπορούσε να περιγραφεί ως «Verifiability by Design»: η δυνατότητα επαλήθευσης να μην προστίθεται μετά τη λειτουργία, αλλά να ενσωματώνεται στην ίδια την αρχιτεκτονική του συστήματος.
Δεν πρόκειται απλώς για μια τεχνική αρχή. Είναι μια διαφορετική αντίληψη για την εμπιστοσύνη. Σε ένα τέτοιο σύστημα, η αξιοπιστία δεν εξαρτάται αποκλειστικά από την καλή πρόθεση του διαχειριστή, από το κύρος του οργανισμού ή από την ποιότητα της παρουσίασης. Υποστηρίζεται από την ίδια τη δομή: από την προέλευση των δεδομένων, την ιχνηλασιμότητα, τους ελέγχους, την τεκμηρίωση και τη δυνατότητα ανεξάρτητης εξέτασης.
Αυτό δεν σημαίνει ότι κάθε πληροφορία πρέπει να δημοσιοποιείται χωρίς όρια. Υπάρχουν νόμιμες ανάγκες προστασίας προσωπικών δεδομένων, εμπορικών μυστικών, ασφάλειας και εμπιστευτικών διαδικασιών. Η δυνατότητα επαλήθευσης δεν ταυτίζεται με την πλήρη δημόσια έκθεση κάθε λεπτομέρειας. Σημαίνει ότι υπάρχουν επαρκείς μηχανισμοί ώστε οι κατάλληλοι και ανεξάρτητοι φορείς να μπορούν να ελέγξουν έναν ισχυρισμό, με σαφείς κανόνες και χωρίς να εξαρτώνται αποκλειστικά από την αφήγηση εκείνου που ελέγχεται.
Ούτε σημαίνει ότι τα δεδομένα είναι ουδέτερα ή αλάνθαστα. Τα δεδομένα μπορούν να είναι ελλιπή, λανθασμένα, μεροληπτικά ή άσχετα με το ερώτημα που επιχειρούμε να απαντήσουμε. Γι’ αυτό η επαλήθευση δεν περιορίζεται στην ύπαρξη αριθμών. Περιλαμβάνει τους ορισμούς, τη μεθοδολογία, την προέλευση, την ποιότητα, τα όρια και την ερμηνεία τους.
Το ζητούμενο δεν είναι να αντικαταστήσουμε την τυφλή εμπιστοσύνη με μια εξίσου τυφλή πίστη στα δεδομένα. Είναι να δημιουργήσουμε συστήματα στα οποία οι ισχυρισμοί μπορούν να εξετάζονται με τρόπο ουσιαστικό.
Πιστεύω ότι αυτή η ανάγκη θα γίνει μία από τις κεντρικές προκλήσεις της επόμενης δεκαετίας. Όσο αυξάνεται η ποσότητα του παραγόμενου περιεχομένου, όσο τα συστήματα γίνονται πιο σύνθετα και όσο περισσότερες αποφάσεις βασίζονται σε αυτοματοποιημένες διαδικασίες, τόσο δυσκολότερο θα είναι να αξιολογούμε την αξιοπιστία από την εμφάνιση, το κύρος ή την πειστικότητα μιας αφήγησης.
Για αυτό θα κάνω μια πρόβλεψη, ακόμη κι αν αποδειχθεί λανθασμένη: η επαληθευσιμότητα —το Verifiability— θα γίνει μία από τις σημαντικότερες έννοιες της επόμενης δεκαετίας.
Θα τη συναντήσουμε στη διαχείριση αποβλήτων και στους περιβαλλοντικούς στόχους, στις εκθέσεις βιωσιμότητας και στις χρηματοοικονομικές αναφορές, στη δημόσια διοίκηση, στην επιστήμη, στη δημοσιογραφία και κυρίως στην τεχνητή νοημοσύνη. Όχι ως μια ακόμη απαίτηση συμμόρφωσης, αλλά ως βασικό χαρακτηριστικό των συστημάτων που θέλουν να θεωρούνται αξιόπιστα.
Στον προηγούμενο αιώνα, μεγάλο μέρος της προσπάθειας κατευθύνθηκε στη δημιουργία συστημάτων που λειτουργούν γρήγορα, αποδοτικά και σε μεγάλη κλίμακα. Αυτά τα χαρακτηριστικά θα συνεχίσουν να είναι σημαντικά. Δεν θα είναι όμως αρκετά.
Τα συστήματα του μέλλοντος θα πρέπει να μπορούν να αποδεικνύουν ότι λειτούργησαν σωστά.
Ίσως τελικά αυτή να είναι η ουσιαστικότερη αλλαγή στον τρόπο με τον οποίο αντιλαμβανόμαστε την εμπιστοσύνη. Να πάψουμε να τη θεωρούμε αποτέλεσμα της επικοινωνίας, της φήμης ή της αυθεντίας και να αρχίσουμε να τη βλέπουμε ως ιδιότητα του σχεδιασμού.
Γιατί ένας σημαντικός ισχυρισμός δεν αποκτά αξία μόνο επειδή είναι αληθινός. Αποκτά πραγματική δύναμη όταν μπορεί να αποδειχθεί.
