Ποιος είναι ο πιο εύκολος τρόπος, για να ελέγξεις τους ανθρώπους;

Μερικές σκέψεις με αφορμή τις 7 ερωτήσεις του Neil Postman για την τεχνολογία. Εσύ, τι θα απαντούσες;

Mια που μιλάμε για έλεγχο, ας θυμηθούμε αυτή την άσχετη αλλά ιστορικά ενδιαφέρουσα φωτογραφία, που δείχνει τον Eugene F. Kran μπροστά στην κονσόλα του, τον Μάιο του 1965, στην αίθουσα ελέγχου στο Χιούστον, κατά τη διάρκεια μιας προσομοίωσης της αποστολής Gemini-Titan IV(Πηγή εικόνας: wikimedia commons)

Θυμάμαι πόσο είχα θυμώσει στα 14 μου χρόνια, διαβάζοντας για τον ασφυκτικό, αναπόδραστο κόσμο που περιέγραφε ο Τζορτζ Όργουελ στο «1984». Μεγαλώνοντας λίγο ακόμη, διαισθάνθηκα την άβυσσο βαθύτερων φυλακών, όταν ανακάλυψα τον «Θαυμαστό καινούργιο κόσμο» του Άλντους Χάξλεϊ.

Εκεί, σε κάποιο σημείο ο «Ελεγκτής» Μουσταφά Μοντ λέει (πάνω-κάτω) στον «Άγριο» Τζον ότι η σταθερότητα απαιτεί να θυσιαστούν η τέχνη, η επιστήμη και η θρησκεία, επειδή αυτά τα τρία προκαλούν πολλούς μπελάδες.

Αντί οι πολίτες να παλεύουν με την αλήθεια και την τραγωδία, θα ήταν τόσο απλούστερο να διατηρούνται διαρκώς ευτυχισμένοι μέσω της απόσπασης της προσοχής τους και του «soma» (πρόκειται, να υπενθυμίσω, για συνθετικό ναρκωτικό που διανέμεται δωρεάν και νόμιμα σε όλους τους πολίτες, προσφέροντας ευφορία).

Με άλλα λόγια, το αυθεντικό συναίσθημα, ο πόνος, η θλίψη, η ματαίωση, όλα τα βαθιά ανθρώπινα χαρακτηριστικά αφανίζονται στην αθόρυβη δίνη της συνθετικής ευφορίας και τελικά οι άνθρωποι οδηγούνται σε ένα είδος τεχνητής ανοσογνωσίας. Δεν σκέφτονται καν πια αυτό που λείπει.

Πώς τα θυμήθηκα όλα αυτά; Με αφορμή αυτό το βίντεο του Τristan Harris για το Center for Humane Technology, που άργησα να ανακαλύψω:

Το βίντεο πραγματεύεται και αναλύει όσα έχει υποστηρίξει ο Neil Postman, Αμερικανός κοινωνιολόγος και μελετητής των Μέσων Μαζικής Ενημέρωσης, μεταξύ άλλων στο βιβλίο του «Διασκέδαση μέχρι θανάτου».

Φυσικά, το 1985 που γράφτηκε το βιβλίο, τα σημερινά μέσα δεν υπήρχαν παρά μόνο ενδεχομένως στο μυαλό κάποιων τύπων σε εργαστήρια, οι οποίοι θεωρούνταν άκρως ιδιόρρυθμοι, αν όχι γραφικοί. Ο Ποστμαν μιλούσε για τον «δαίμονα» εκείνης της εποχής, την τηλεόραση, εξετάζοντας τι συμβαίνει όταν τα μέσα και η πολιτική μετεξελίσσονται σε απλές μορφές διασκέδασης.

Πόσο πιο επίκαιρος μπορούσε να είναι όμως, σε μια εποχή που το attention span (η ικανότητα προσήλωσης της προσοχής μας) υπολογίζεται σε μερικά δευτερόλεπτα ή λεπτά ή σε 100 λέξεις; Σε μια εποχή που η πληροφορία συχνότατα καταβροχθίζεται βουλιμικά, χωρίς να οδηγεί σε πραγματική γνώση ή δράση και η πολιτική γίνεται ολοένα και περισσότερο επικοινωνιακό σόου στα social media, με την Τεχνητή Νοημοσύνη (ΤΝ) να δημιουργεί νέα δεδομένα για χειραγώγηση και προπαγάνδα (έχω γράψει πρόσφατα για αυτό εδώ);

Ο (μακαρίτης) Postman πρότεινε επτά κρίσιμες ερωτήσεις, που πρέπει να θέτουμε όταν θέλουμε να αξιολογήσουμε την πιθανή επιρροή και τις ενδεχόμενες επιπτώσεις μιας νέας τεχνολογίας, οι οποίες νομίζω πως ταιριάζουν γάντι σε αυτή την ιδιόμορφα συναρπαστική εποχή του 21ου αιώνα. Οι ερωτήσεις αυτές πιστεύω πως χτυπάνε με έναν σμπάρο δύο τρυγόνια, καθώς όταν επιχειρώ να τις απαντήσω, βρίσκω πως αναδεικνύουν τόσο τη θετική δυναμική της ΤΝ, όσο και τους κινδύνους που εγκυμονεί η μη ορθολογική χρήση της.

Στις ερωτήσεις αυτές δεν υπάρχει μια σωστή απάντηση ή τουλάχιστον δεν είναι αυτός ο στόχος, όπως επισημαίνει ο συγγραφέας. Αυτό που επιδιώκουν είναι να κινητοποιηθεί η ίδια η λειτουργία της διερώτησης και του αναστοχασμού, ώστε να ανοίξει ο δρόμος για την κριτική σκέψη. Γι’ αυτό νομίζω πως θα είχε ενδιαφέρον να προσπαθήσουμε να τις απαντήσουμε όλες και όλοι, για να αντιληφθούμε καλύτερα τι σημαίνει ΤΝ, ποιες είναι οι ωφέλειες και ποιοι ενδεχομένως οι κίνδυνοι. Τη δική μου απόπειρα μπορείτε να τη διαβάσετε αμέσως παρακάτω, με έμπνευση και από όσα άκουσα στο βίντεο.

Nα και ο Neil Postman, ποζάροντας μπροστά σε ένα γραφιστικό με το εξώφυλλο του βιβλίου του

Ποιες είναι οι επτά ερωτήσεις του Postman;

Παραθέτω τις επτά ερωτήσεις. Πώς θα τις απαντούσατε εσείς;

1.Ποιο είναι το πρόβλημα, το οποίο υποστηρίζεται πως μπορεί να λύσει η συγκεκριμένη τεχνολογία;

Προφανώς στην περίπτωση της ΤΝ τα προβλήματα στα οποία μπορεί να δώσει λύσεις, εφόσον χρησιμοποιηθεί σωστά, είναι αμέτρητα, μεταξύ άλλων στην ιατρική, την κλιματική κρίση, τη βιολογία, την ενέργεια, την εκπαίδευση, την πολιτική προστασία, την εξερεύνηση του Διαστήματος και ουκ έσται τέλος στη λίστα. Μπορεί να μετασχηματίσει θετικά τον κόσμο μας με έναν τρόπο που δεν ήταν δυνατός πριν από την εμφάνισή της, γιατί έχει τη δυνατότητα να επεξεργάζεται πάρα πολύ γρήγορα έναν τεράστιο όγκο δεδομένων και να ενώνει μεταξύ τους φαινομενικά ασύνδετες κουκίδες (κατά έναν ομολογουμένως μπακαλίστικο υπολογισμό του Claude, ένας άνθρωπος θα χρειαζόταν περίπου 200.000 χρόνια συνεχούς ανάγνωσης -οκτώ ώρες την ημέρα, κάθε μέρα, χωρίς ποτέ να σταματήσει- για να «διαβάσει» το κείμενο που «βλέπει» ένα μοντέλο ΤΝ κατά την εκπαίδευσή του, χωρίς να υπολογιστεί ο χρόνος που θα απαιτείτο για την κατανόηση, ανάλυση ή απομνημόνευση αυτού του όγκου πληροφορίας).

2.Ποιανού είναι το πρόβλημα που υποστηρίζεται πως μπορεί να λύσει η συγκεκριμένη τεχνολογία;

Νομίζω πως η απάντηση σε αυτό το ερώτημα ξεκινά από δύο άλλες ερωτήσεις: ποιος έθεσε αρχικά το πρόβλημα ως πρόβλημα και ποιος ωφελείται από τη λύση; Ας αφήσουμε για λίγο τα συλλογικά προβλήματα της ανθρωπότητας, όπως η κλιματική κρίση και ας πάμε σε αυτά που γίνονται πιο αισθητά σε επίπεδο ατόμου. Για παράδειγμα, το «πρόβλημα» της χαμηλής παραγωγικότητας είναι των εργαζόμενων ή των εταιρειών, που θέλουν μεγαλύτερη απόδοση με χαμηλότερο κόστος; Όταν οι εταιρείες τεχνολογίας μιλούν για τα οφέλη της ελεύθερης ροής πληροφορίας, έχουν στον νου τους τη δημοκρατία ή τη συγκέντρωση δεδομένων, την άσκηση επιρροής, τον έλεγχο και τον εθισμό των χρηστών, ώστε να ενισχύσουν περαιτέρω τη θέση τους στην αγορά; Αν τα άτομα και οι κοινωνίες κατόρθωναν να ορίσουν με σοφία τα προβλήματά τους, θα κατέληγαν άραγε να ορίσουν όντως ως επιθυμητές τις λύσεις που δίνει (ή υπόσχεται να δώσει στο μέλλον) η ΤΝ;

3.Ποια νέα προβλήματα θα δημιουργηθούν;

Εδώ νομίζω πως η λίστα είναι τόσο μακροσκελής, όσο και εκείνη με τις πιθανές ωφέλειες. Κατά τη γνώμη μου βέβαια χρειάζεται να υπάρχει πάντα η λέξη «πιθανώς» σε τέτοιες ερωτήσεις. Ποια νέα προβλήματα πιθανώς θα δημιουργηθούν; Άνιση πρόσβαση και άνθρωποι πολλών ταχυτήτων ως προς την απόλαυση των οφελών, αδυναμία δημοκρατικού ελέγχου, εθισμός, αποδυνάμωση της κριτικής σκέψης και χειραγώγηση είναι μερικά μόνο από τα πιθανά, εξαιρετικά σημαντικά, προβλήματα, που ενδέχεται να δημιουργήσει (και σε έναν βαθμό ήδη δημιουργεί) η Τεχνητή Νοημοσύνη.

4.Ποιοι άνθρωποι και θεσμοί θα ζημιωθούν περισσότερο από τα νέα προβλήματα;

Κατά τη γνώμη μου, σε έναν βαθμό όλες και όλοι μας, αφού το δικό μας «soma», το δικό μας συνθετικό ναρκωτικό, είναι το ατελείωτο scrolling (στο οποίο βοηθά εξαιρετικά η ΤΝ) και το γεγονός ότι ολοένα συχνότερα πιάνουμε στα χέρια μας το κινητό χωρίς καν να ξέρουμε γιατί το κάνουμε, χωρίς να χρειαζόμαστε κάτι (έγραψα και την προηγούμενη εβδομάδα για το «πρόβλημα των δύο οθονών» εδώ). Σε χειρότερη μοίρα είναι όσοι δεν έχουν πρόσβαση σε εκπαίδευση για να αναγνωρίζουν τους κινδύνους και, στο μέλλον, όσες και όσοι δεν θα έχουν την οικονομική δυνατότητα να αγοράσουν προϊόντα και υπηρεσίες ΤΝ, που θα τους καθιστούν πιο υγιείς, πιο ανταγωνιστικούς, πιο επιθυμητούς.

5.Ποιες αλλαγές προωθούνται στη γλώσσα;

Βρίσκω αυτό το ερώτημα, που αναλύεται στο βίντεο του Tristan, τρομερά ενδιαφέρον, γιατί εξετάζει πώς η τεχνολογία επαναπροσδιορίζει τις λέξεις, μεταβάλλει τον τρόπο που σκεφτόμαστε γύρω από κάποιες έννοιες και τελικά επηρεάζει το πώς δρούμε. Σκεφτείτε το εξής απλό: τον όρο «κοινότητα». Κάποτε περιέγραφε ανθρώπους που συμβίωναν σε φυσικούς χώρους, που χρειαζόταν να βρουν κοινά και να ξεπεράσουν διαφορές και διαφωνίες, που διαπραγματεύονταν λύσεις και συμφωνίες και κατέληγαν σε λύσεις που στόχος ήταν να είναι αμοιβαία επωφελείς (ασχέτως του αν το τελευταίο δεν το πετύχαιναν πάντα).

Σήμερα, όταν μιλάμε για κοινότητα, συχνά πλέον σκεφτόμαστε έναν ψηφιακό χώρο, από όπου μπορούμε να αποχωρήσουμε με ένα απλό κλικ στην πρώτη διαφωνία, κάτι που δεν αποκλείεται να μας φορέσει παρωπίδες, να μας εγκλωβίσει ακόμη περισσότερο σε δωμάτια αντήχησης¹ και τελικά να μας οδηγήσει σε μια σολιψιστική θεώρηση του κόσμου, όπου οι άνθρωποι νιώθουμε σίγουροι μόνο για τις δικές μας σκέψεις και απόψεις και συσχετιζόμαστε μόνο με όσους τις καθρεφτίζουν.

Όταν λοιπόν, ο όρος «κοινότητα» αλλάζει με τον συγκεκριμένο τρόπο, πώς μεταφέρεται η αντίληψή μας για αυτόν στον φυσικό κόσμο; Ποιες απαιτήσεις διαμορφώνονται από τους ανθρώπους στις κοινότητες του πραγματικού κόσμου (μια ακόμη έκφανση του ίδιου προβλήματος που ενδέχεται να δημιουργήσουν οι ψηφιακοί ερωτικοί σύντροφοι και φίλοι, για το οποίο σας έχω γράψει εδώ).

6.Ποιες μετατοπίσεις στην οικονομική και πολιτική εξουσία είναι πιθανό να προκύψουν;

Ιδιαίτερο ενδιαφέρον στη συζητηση γύρω από αυτό το ερώτημα θα είχε η εξοικείωση με τα όσα πρεσβεύει το κίνημα του «Σκοτεινού Διαφωτισμού²», για το οποίο είχαμε συζητήσει με τον δρα Βαγγέλη Λυμπουρίδη εδώ. Ήδη βλέπουμε πώς εταιρείες τεχνολογίας αποκτούν ολοένα στενότερη σχέση με την πολιτική και χρηματοδοτούν γενναιότατα τις προεκλογικές καμπάνιες των ίδιων πολιτικών, που καλούνται να ρυθμίσουν τα προϊόντα και τις υπηρεσίες τους. Φυσικά, δεν είναι η πρώτη φορά που εταιρείες-κολοσσοί χρηματοδοτούν πολιτικούς και κόμματα (το έχουμε ήδη να συμβαίνει τις προηγούμενες δεκαετίας με πετρελαϊκούς γίγαντες, εταιρείες σιδηροδρόμων κ.ά,), αλλά όπως έχω ήδη γράψει αρκετές φορές εδώ, η ΤΝ ως τεχνολογία έχει κάποια χαρακτηριστικά, που απαιτούν ακόμη περισσότερη προσοχή στο πώς προσεγγίζουμε αυτή την πραγματικότητα.

7.Ποια εναλλακτικά μέσα θα μπορούσαν να προκύψουν από την εν λόγω τεχνολογία;

Αυτό το ερώτημα διερευνά τις διαφορετικές μορφές ή χρήσεις που θα μπορούσε να πάρει μια τεχνολογία και νομίζω πως εδώ «κολλάει» τέλεια το παράδειγμα του Διαδικτύου, που από τη μια έδωσε πρωτοφανείς δυνατότητες για εκπαίδευση, επικοινωνία και περισσότερη δημοκρατία και από την άλλη δημιούργησε χώρο για το «dark web» και έκανε εφικτή την εθιστική (όταν δεν χρησιμοποιούνται σωστά) κινούμενη άμμο των social media και επέτρεψε σε μεμονωμένα άτομα να προσεγγίζουν -ουσιαστικά ανώνυμα- τεράστιες ομάδες ανθρώπων, βομβαρδίζοντάς τους με περιεχόμενο ψευδές, παραπλανητικό ή τοξικό.

Θόρυβος αντί για γνώση

Κάποτε στον κόσμο δεν υπήρχε αρκετή πληροφορία και όση υπήρχε προοριζόταν για λίγους και ισχυρούς, που μέσω αυτής πολλαπλασίαζαν τη δύναμη και την επιρροή τους. Σήμερα αντιμετωπίζουμε το αντίθετο πρόβλημα. Σε πολλές περιπτώσεις, η πληροφορία δεν είναι πια γνώση, αλλά θόρυβος, κάτι που μας κατακλύζει, χωρίς να μπορούμε να το αξιοποιήσουμε για να αναλάβουμε δράση, με αποτέλεσμα να οδηγούμαστε τελικά στην παθητικότητα και την απάθεια.

Σκεφτείτε επίσης πόσες φορές αισθανθήκαμε ότι αναλάβαμε κοινωνική δράση επειδή κάναμε re-share σε ένα ποστ για τα ανθρώπινα δικαιώματα ή για τα αδέσποτα ζώα, χωρίς ποτέ να βγούμε στον δρόμο για να ταΐσουμε ή να δροσίσουμε ένα.

Προσθέστε τώρα στην εξίσωση την «κάμβρια» έκρηξη περιεχομένου, που δημιουργεί η ΤΝ, αυξάνοντας εκθετικά τη διαθέσιμη διαδικτυακά πληροφορία (σε πολλές περιπτώσεις ψευδή και παραπλανητική) και έχετε μπροστά σας το πλήρες μέγεθος του προβλήματος.

H εικόνα από το νησί Tarutao στην Ταϊλάνδη, όπου η Κάμβρια περίοδος άφησε έντονα τα ίχνη της στους βραχώδεις σχηματισμούς. Η σημερινή κάμβρια έκρηξη πληροφορίας αφήνει κι αυτή βαθύ αποτύπωμα, πρώτα από όλα στο μυαλό μας. Πηγή εικόνας: Vyacheslav Argenberg, wikimedia commons

Άρχισα αυτό το κείμενο ρωτώντας σας ποιος πιστεύετε ότι είναι ο πιο εύκολος τρόπος να θέσεις τους ανθρώπους υπό έλεγχο. Ένας ακόμη τρόπος είναι η ροή της παραπληροφόρησης να είναι τόση και η δυσκολία διάκρισης της αλήθειας από το ψέμα τέτοια, που οι άνθρωποι δεν θα πιστεύουν πια σε τίποτα. Και με ανθρώπους που δεν πιστεύουν σε τίποτα, μπορείς να κάνεις ό,τι θέλεις, όπως πολιτικοί επιστήμονες και φιλόσοφοι σπεύδουν συχνά να μας υπενθυμίσουν και να μας προειδοποιήσουν.

Αυτά για σήμερα (μακροσκελές το σημερινό, αλλά δεν ήθελα να το …πασαλείψω, καθώς προσπαθούσα να κατανοήσω κι εγώ περισσότερα, καθώς το έγραφα).

Πριν σας αποχαιρετίσω για σήμερα, τη βοήθειά σας:

Μέχρι την επόμενη φορά, περιφρουρείστε την περιέργεια, την ανθρωπιά και την ανθρωπινότητά σας.

1. Τα δωμάτια αντήχησης (echo chambers) είναι κοινωνικά ή επικοινωνιακά περιβάλλοντα -συνήθως ψηφιακά, όπως social media, forums, ή ομάδες συνομιλίας- στα οποία ένα άτομο εκτίθεται κυρίως ή αποκλειστικά σε απόψεις, πληροφορίες και ερμηνείες που επιβεβαιώνουν τις ήδη υπάρχουσες πεποιθήσεις του, ενώ αποκλείονται ή υποβαθμίζονται αντίθετες ή διαφορετικές οπτικές.

Βασικά χαρακτηριστικά:

1. Επιλεκτική έκθεση: Το άτομο επιλέγει (συχνά ασυνείδητα) να ακολουθεί, να διαβάζει, ή να αλληλεπιδρά μόνο με πηγές που συμφωνούν με τις δικές του απόψεις.

2. Αλγοριθμική ενίσχυση: Στα social media, οι αλγόριθμοι προτεραιοποιούν περιεχόμενο που ταιριάζει με το ιστορικό αλληλεπίδρασης του χρήστη, ενισχύοντας τεχνητά αυτό το φαινόμενο, καθώς του δείχνουν όλο και περισσότερο ό,τι του έχει ήδη «αρέσει» στο παρελθόν.

3. Κοινωνική επιβεβαίωση: Η επανάληψη των ίδιων απόψεων από πολλά διαφορετικά άτομα μέσα στην ίδια «φούσκα» δημιουργεί την ψευδαίσθηση ότι μια άποψη είναι πιο διαδεδομένη, σωστή, ή αδιαμφισβήτητη απ’ ό,τι πραγματικά είναι.

4. Πόλωση: Με την πάροδο του χρόνου, η επαναλαμβανόμενη έκθεση σε ομοιόμορφες απόψεις μπορεί να οδηγήσει σε ολοένα πιο ακραίες θέσεις, καθώς και σε αυξημένη δυσπιστία ή εχθρότητα προς όσους σκέφτονται διαφορετικά.

Σχετικές έννοιες:

• Filter bubble (φούσκα φίλτρου): Αναφέρεται πιο συγκεκριμένα στον τεχνολογικό/αλγοριθμικό μηχανισμό που περιορίζει τι βλέπει ο χρήστης (π.χ. Google search results, Facebook feed), ενώ το «δωμάτιο αντήχησης» τονίζει περισσότερο την κοινωνική/ψυχολογική διάσταση, δηλαδή την ενεργή επιλογή του ατόμου να παραμείνει σε ομοϊδεατές κοινότητες.

• Confirmation bias (προκατάληψη επιβεβαίωσης): Το ψυχολογικό υπόβαθρο που κάνει τα δωμάτια αντήχησης τόσο αποτελεσματικά, η φυσική τάση των ανθρώπων να αναζητούν και να αποδέχονται πληροφορίες που επιβεβαιώνουν όσα ήδη πιστεύουν.

2. Ο Σκοτεινός Διαφωτισμός λοιπόν, είναι ένα νεοαντιδραστικό κίνημα, μερικές φορές συντομογραφημένο ως «NRx», μια αντιδημοκρατική, αντι-εξισωτική, αντιδραστική φιλοσοφία που ιδρύθηκε από τον Κέρτις Γιάρβιν (Curtis Yarvin), έναν Αμερικανό μηχανικό λογισμικού και μπλόγκερ με το ψευδώνυμο «Mencius Moldbug», και αναπτύχθηκε περαιτέρω από τον Άγγλο φιλόσοφο Νικ Λαντ (Nick Land). Η ιδεολογία αυτή γενικά απορρίπτει την αντίληψη ότι η ιστορία ακολουθεί αναπόφευκτη πορεία προς τη μεγαλύτερη ελευθερία και τον διαφωτισμό, η οποία κορυφώνεται στη φιλελεύθερη δημοκρατία ή έστω στη συνταγματική μοναρχία.

Τη θεωρία του Σκοτεινού Διαφωτισμού ενστερνίζονται άνθρωποι όπως ο 57χρονος Peter Thiel (συνιδρυτής των PayPal και Palantir Technologies και ο πρώτος εξωτερικός επενδυτής στη Facebook) και ο γνωστός μας Elon Musk, οι οποίοι ξεκάθαρα θεωρούν ότι ο τρόπος με τον οποίο τα εθνικά κράτη διοικούν δεν λειτουργεί πια, ότι η δημοκρατία έχει αποτύχει και ότι ήρθε η ώρα να αναλάβουν την εξουσία όσοι ξέρουν τι πρέπει να κάνουν. Αυτοί οι ίδιοι δηλαδή.