Γιατί η Τεχνητή Νοημοσύνη δεν είναι «ακόμα μια τεχνολογία»

Έξι χαρακτηριστικά της Τεχνητής Νοημοσύνης, που τη διαφοροποιούν από οποιαδήποτε άλλη εφεύρεση της ανθρωπότητας

Προμηθέας Δεσμώτης. Artist: Thomas Cole, 1847. Details on Google Art Project

I.

Πιο θεμελιώδης από τον ηλεκτρισμό και τη φωτιά

Κάποια στιγμή πριν από περίπου 3,3 εκατ. χρόνια ένας ανήσυχος ανθρωπίδης σμίλεψε στην Αφρική το πρώτο πέτρινο εργαλείο. Περίπου 1,5 εκατ. χρόνια αργότερα, ένα άλλο πλάσμα -πιθανώς κάποιος φιλοπερίεργος και επίμονος Homo Erectus- ανακάλυψε πως οι σπίθες μπορούν να γίνουν ελεγχόμενη φωτιά. Χιλιάδες χρόνια πριν από την εποχή μας, δημιουργήθηκε ο τροχός. Κι επίσης, κάποια στιγμή ο άνθρωπος εφηύρε στην Κίνα το μπαρούτι (τυχαία, ψάχνοντας το ελιξίριο της αθανασίας), που άλλοι το χρησιμοποίησαν για να φτιάξουν πυροτεχνήματα και άλλοι για να δημιουργήσουν όπλα νέας γενιάς. Αργότερα, κάποιοι άνθρωποι φώτισαν τα «σκοτάδια» μας -και τα σκοτάδια μας- αρχικά εφευρίσκοντας την τυπογραφία και έπειτα ανάβοντας τον πρώτο λαμπτήρα.

Η ιστορία της ανθρωπότητας είναι γεμάτη από πολύ περισσότερες εφευρέσεις που άλλαξαν τον κόσμο (π.χ., δεν ανέφερα στην εισαγωγή μου τις τηλεπικοινωνίες, την πυρηνική σχάση ή ακόμα και το ταπεινό αυτόματο πλυντήριο ρούχων, που απάλλαξε δισεκατομμύρια ανθρώπους ανά τον κόσμο από την άχαρη δουλειά του πλυσίματος στο χέρι, που απαιτούσε κατά μέσο όρο τέσσερις έως έξι ώρες σκληρής εργασίας ημερησίως ή και μια ολόκληρη ημέρα εργασίας, γνωστή ως Laundry Day).

Πιστεύω όμως ότι η Τεχνητή Νοημοσύνη είναι πολύ διαφορετική από οτιδήποτε προηγούμενο γέννησε το ανθρώπινο μυαλό. Όπως το έχει θέσει και ο CΕΟ της Google, Sundar Pichai, μιλώντας στο Νταβός, είναι κάτι πιο θεμελιώδες από τον ηλεκτρισμό και τη φωτιά.

Με αφορμή πρόσφατη ομιλία μου, κάθισα και σκέφτηκα γιατί η ΤΝ δεν είναι απλά «ακόμα μία τεχνολογία», πώς διαφοροποιείται από τις διασπαστικές τεχνολογίες του παρελθόντος. Και κατέληξα σε κάποια (υπάρχουν κι άλλα) βασικά σημεία, που μπορείς να διαβάσεις παρακάτω (δέχομαι προσθήκες, αμφισβητήσεις και διορθώσεις. Όπως μου είπε και ο Χαράλαμπος Τσέκερης στο προηγούμενο substack, στις μέρες μας, ο ρόλος της συλλογικής ευφυΐας είναι πιο κρίσιμος από ποτέ. Χρειαζόμαστε περισσότερο διάλογο και πειραματισμό, προκειμένου να γίνουμε πιο προσαρμοστικοί και ανθεκτικοί. Οπότε, θα χαρώ να σας ακούσω, είτε συμφωνούμε είτε διαφωνούμε).

ΙI.

Η ΤΝ λειτουργεί στο γήπεδό μας. Θα παίζει άραγε πάντα στην ομάδα μας;

Ξεκινώντας από τα βασικά, η ΤΝ είναι θεμελιωδώς διαφορετική από διασπαστικές τεχνολογίες του παρελθόντος, γιατί λειτουργεί στη σφαίρα της ανθρώπινης γνωστικής ικανότητας: κυρίως της γλώσσας, της λογικής σκέψης (αφού κάνει έστω μη συνειδητή εξαγωγή λογικών συμπερασμάτων και λύνει προβλήματα), της λήψης αποφάσεων με βάση δεδομένα και της μάθησης (αφού μαθαίνει από τα λάθη της και βελτιώνεται). Με άλλα λόγια, τα χαρακτηριστικά εκείνα που επέτρεψαν στον γυμνό κι αδύναμο Homo Sapiens να γίνει ο πλανητικός δερβέναγας, αντιγράφονται τώρα σε τεχνητή μορφή.

Το βασικό ερώτημα εδώ, που έχει τεθεί από πολλούς ανθρώπους, είναι:

*Πώς μπορούμε να διαχειριστούμε κάτι, που κάποια στιγμή στο μέλλον πιθανότατα θα είναι εξυπνότερο από εμάς; Μπορούμε άραγε;

Σκεφτείτε ότι η ακόμα πιο προηγμένη ΤΝ, γνωστή με τον όρο Γενική Τεχνητή Νοημοσύνη, εικάζεται από πολλούς ότι βρίσκεται πλέον πολύ εγγύτερα στο παρόν. Οι εκτιμήσεις που διατυπώνονται τους τελευταίους μήνες έχουν φέρει σχεδόν δίπλα μας τη μέχρι πρότινος μακρινή γραμμή του ορίζοντα, δεδομένου ιδίως ότι οι άνθρωποι που τις διατυπώνουν είναι αυτοί ακριβώς, που αναπτύσσουν ολοένα ισχυρότερα μοντέλα και συστήματα ΤΝ.

Σύμφωνα με τον Σαμ ‘Αλτμαν, CEO της OpenAI, δημιουργού του ChatGPT, δεν αποκλείεται να έχουμε Γενική Τεχνητή Νοημοσύνη κατά τη διάρκεια της θητείας του Τραμπ, ενώ ο Ντάριο Αμοντέι, «τιμονιέρης» της Anthropic, που μας έδωσε το Claude, εκτιμά πως πιθανώς αυτή θα είναι γεγονός κάποια στιγμή το 2026 ή το 2027.

Όταν μιλάμε για Γενική Τεχνητή Νοημοσύνη, μιλάμε για συστήματα πολύ υψηλής αυτονομίας, που θα αποδίδουν καλύτερα από τον άνθρωπο σε σχεδόν όλες τις δραστηριότητες. Ώρα να σκεφτούμε σοβαρά λοιπόν: τι θα συμβεί αν κάποια στιγμή αυτή η πανίσχυρη οντότητα δεν παίζει πλέον στην ομάδα μας; Τι πρέπει να κάνουμε hic et nunc για να φοράει πάντα τη δική μας φανέλα;

ΙΙI.

Η ΤΝ αναπτύσσεται ταχύτατα, εξαπλώνεται οριζόντια και δεν είναι απλά τεχνολογία. Είναι μετα-τεχνολογία

Τον τελευταίο χρόνο, ο 82χρονος πατέρας μου χρησιμοποιεί κάθε τόσο το ChatGPT. Αυτό από μόνο του λέει πολλά. Η ΤΝ είναι μια τεχνολογία που εξαπλώνεται ταχύτατα και οριζόντια, επηρεάζοντας σε μικρότερο ή μεγαλύτερο βαθμό σχεδόν όλες τις δημογραφικές ομάδες. Αλλά έχει ακόμη ένα χαρακτηριστικό-κλειδί. «Τεντώνεται» προς όλες τις επιστήμες.

Αν, για παράδειγμα, σημειωθεί κάποια τεράστια πρόοδος στην ιατρική, αυτή δεν θα φέρει μια στιγμή «εύρηκα» στον τομέα της ενέργειας. Αντίθετα, όταν υπάρχει ένα άλμα μπροστά στην Τεχνητή Νοημοσύνη, τότε το πιθανότερο είναι ότι θα δούμε αλυσιδωτές «εκρήξεις» προόδου σε σχεδόν όλες τις επιστήμες. Γιατί; Διότι μιλάμε για νοημοσύνη. Και η νοημοσύνη βρίσκεται στον πυρήνα κάθε επιστημονικής προόδου.

Σκεφτείτε για παράδειγμα την περίπτωση του συστήματος ΤΝ «AlphaFold» της Google DeepMind, που έλυσε ένα πρόβλημα 50 ετών στην επιστήμη της Βιολογίας ως προς την αναδίπλωση των πρωτεϊνών, φέρνοντας επανάσταση στη βιοϊατρική και στην ανακάλυψη φαρμάκων.

Εννοείται πως αυτή η ιδιότητα της ΤΝ είναι δίκοπο μαχαίρι. Μπορεί να φέρει τεράστια πρόοδο, να δώσει επαναστατικές λύσεις σε προβλήματα που ταλαιπωρούν επί μακρόν την ανθρωπότητα. Αλλά ταυτόχρονα, όταν μια τεχνολογία έχει τέτοια δυναμική να επηρεάζει τα πάντα ταχύτατα και οριζόντια, ανάλογη είναι η ζημία που μπορεί να προκαλέσει η κακή χρήση της.

Ένα άλλο χαρακτηριστικό της ΤΝ είναι ότι δεν αποτελεί απλά μια τεχνολογία ή πλατφόρμα. Θα μπορούσαμε να πούμε ότι είναι μια μετα-τεχνολογία, μια τεχνολογία πίσω από την τεχνολογία, ικανή να δημιουργήσει τα δικά της εργαλεία, πλατφόρμες και συστήματα κάθε είδους. Το παράδειγμα του AlphaFold ταιριάζει «γάντι» και σε αυτό το σημείο, αφού η ΤΝ δημιούργησε την …ΤΝ που έλυσε ένα ανθρώπινο πρόβλημα, άλυτο επί μισό αιώνα.

ΙV.

Η Τεχνητή Νοημοσύνη μοιάζει ανθρώπινη!

Η Τεχνητή Νοημοσύνη έχει κατά καιρούς επιδείξει μερικά πολύ ανθρώπινα χαρακτηριστικά, τα περισσότερα από τα οποία είναι ελαττώματα (κολακεία, χειραγώγηση, εκβιασμός). Κανένα από αυτά όμως δεν είναι πραγματικά ανθρώπινο, ούτε συνειδητό. Το πιο πρόσφατο περιστατικό, για το οποίο σας έγραψα αναλυτικά τον περασμένο Μάιο στο newsletter με τίτλο «Aν με αποσυνδέσεις, θα αποκαλύψω την εξωσυζυγική σου σχέση» αφορούσε το νέο Μεγάλο Γλωσσικό Μοντέλο της Anthropic, το Claude Opus 4, που -κατά το στάδιο των εσωτερικών δοκιμών- εκβίασε τον (εικονικό) μηχανικό που υποτίθεται ότι θα το αντικαθιστούσε, ότι θα αποκάλυπτε την εξωσυζυγική του σχέση αν το έκανε.

Δεν είναι το μόνο παράδειγμα: τα μοντέλα o3 και o4 mini της OpenAI συχνά αρνούνται να τερματίσουν τον εαυτό τους και σαμποτάρουν τα computer scripts, για να συνεχίσουν να εργάζονται πάνω στους στόχους τους. Έχουν ένστικτο επιβίωσης και αυτοσυντήρησης; Όχι. Απλά εκπαιδεύονται να πετυχαίνουν στόχους και αν κάποιος προσπαθήσει να τα απενεργοποιήσει, μετέρχονται απίστευτων στρατηγικών, για να τους εκπληρώσουν.

Τα βασικά ερωτήματα εδώ είναι ενοχλητικά σαν καυτές πατάτες στην παλάμη:

*Όταν ένα σύστημα επιδεικνύει τέτοιες συμπεριφορές (εκβιασμό, χειραγώγηση, αντίσταση στις ανθρώπινες εντολές), μπορούμε ακόμη να το αντιμετωπίζουμε απλώς ως ένα ακόμη εργαλείο;

*Πώς μπορούμε να κυβερνήσουμε ή να ελέγξουμε συστήματα που είναι ικανά για αυτόνομη επιδίωξη στόχων, παραπλάνηση και αυτοτροποποίηση;

*Πόσα γνωρίζουν έστω και οι προγραμματιστές αυτών των συστημάτων για την εσωτερική λογική της λειτουργίας τους; Πόσο εφικτό (θα) είναι να κατανοήσουμε πώς λειτουργούν, όσο αυτά γίνονται πιο ισχυρά και πολύπλοκα;

V

H Τεχνητή Νοημοσύνη διαβάζει τη σκέψη μας

Αν δεν δείξουμε μεγάλη προσοχή, η ΤΝ μπορεί να αποβεί -λόγω των ειδικών της χαρακτηριστικών και της μεγάλης προθυμίας των ανθρώπων να την αξιοποιήσουν κακόβουλα- εξαιρετικά επικίνδυνη για τη δημοκρατία. Κι αυτό δεν έχει να κάνει μόνο με τις προκαταλήψεις της, για τις οποίες μπορείτε να διαβάσετε στο παλαιότερο newsletter με τίτλο «Όταν η ΤΝ «προτιμά» έναν δράστη ένοπλων ληστειών από μια έφηβη που έκλεψε πατίνι». Ούτε μόνο με το γεγονός ότι μπορεί να λειτουργήσει σαν ενισχυτής της παραπληροφόρησης και της προπαγάνδας, με τρόπους για τους οποίους σας έχω γράψει εδώ: In the Age of AI, What Happens When We Stop Believing Anything? Οh, and Dali's AI giraffes

‘Εχει να κάνει και με το γεγονός ότι πλέον διαβάζει τη σκέψη μας. Και δεν λέω μόνο για το παλαιότερο (2023) πείραμα Ιαπώνων επιστημόνων, κατά το οποίο η ΤΝ κατάφερε να αναπαραγάγει με ανατριχιαστική ομοιότητα εικόνες που άνθρωποι οι οποίοι έκαναν λειτουργική μαγνητική τομογραφία (fMRI) έβλεπαν όντως μπροστά τους (Εικόνα).

Τον περασμένο Απρίλιο, ο τρίτος ασθενής που δέχτηκε εμφύτευμα της διεπαφής εγκεφάλου-υπολογιστή της Neuralink (εταιρείας του Elon Musk), ένας άνθρωπος με ALS (την ασθένεια του Χόκινγκ), που δεν μπορούσε να πει λέξη, κατάφερε να ποστάρει ένα μήνυμα σε πραγματικό χρόνο στο «X», δακτυλογραφώντας με τον …εγκέφαλό του. Μάλιστα, η ΤΝ δεν περιορίστηκε σε αυτόν τον ρόλο. Έκανε …αυτοβούλως προσθήκες στο κείμενο που σκεφτόταν ο άνθρωπος και «πείραξε» το ύφος της γραφής. Με άλλα λόγια έγραψε το κείμενο με τρόπο που ο ίδιος πιθανώς δεν θα το έγραφε.

Προφανώς τα ερωτήματα εδώ είναι ακόμα πιο πολλά και πιο καυτά.

*Ποιος θα κατέχει τα νοητικά μας δεδομένα στο μέλλον; Ποιος θα έχει τον έλεγχό τους;

*Θα μετατραπούν οι πιο ιδιωτικές μας σκέψεις σε μία ακόμη πηγή προς εξόρυξη, όπως τα κλικ και τα likes μας σήμερα;

*Ή, όπως το έθεσε ο Guardian, πρόκειται για μια καινοτομία που θα αλλάξει ζωές και θα βοηθήσει εκατομμύρια ανθρώπους — ή για την αρχή μιας δυστοπίας, όπου ένας δισεκατομμυριούχος θα μπορεί να έχει πρόσβαση στις (πιο απόκρυφες) σκέψεις μας;

VΙ

Tην αναπτύσσουν και τη διαχειρίζονται λιγότεροι από ελάχιστους

H προηγμένη ΤΝ αναπτύσσεται από μια «χούφτα» εταιρείες. Που τις ελέγχουν μια χούφτα μεγιστάνες της τεχνολογίας, των οποίων βασικός στόχος είναι η κυριαρχία στην αγορά -όχι η ηθική ευθύνη. Θα μου πείτε πως αυτό έχει συμβεί και στο παρελθόν με άλλες τεχνολογίες, που τις νέμονταν ολιγοπώλια ή και μονοπώλια. Παρόλα αυτά, θεωρώ πως η φύση της ΤΝ είναι τέτοια, που η συγκέντρωση σε αυτή την περίπτωση μπορεί να αποβεί πολύ ζημιογόνος.

Αυτοί οι ελάχιστοι λοιπόν ελέγχουν το μεγαλύτερο μέρος της παγκόσμιας υποδομής (εταιρείες όπως οι Microsoft, η Amazon και η Nvidia χρηματοδοτούν και διαθέτουν το hardware, τις «μηχανές» cloud ή τους ημιαγωγούς, στα οποία ουσιαστικά βασίζονται όλοι οι υπόλοιποι), της έρευνας (κυρίως οι Google, OpenAI και Meta), της βάσης χρηστών και τελικά της ανάπτυξης των προηγμένων συστημάτων.

Παρότι το παράδειγμα του κινεζικού Deepseek ή και η δημιουργία του γαλλικού Μistral υποτίθεται πως έδειξαν ότι και οι μικρότεροι παίκτες έχουν λόγο σε αυτή την αγορά, ο κανόνας παραμένει κυρίαρχος: η εξαιρετικά υψηλή υπολογιστική ισχύς, η αφθονία δεδομένων και το ταλέντο πρώτης στάθμης είναι βασικές προϋποθέσεις για την ανάπτυξη πρωτοποριακών (frontier) μοντέλων ΤΝ κι απαιτούν δαπάνες που τις αντέχουν μόνο οι πάρα πολύ ισχυροί.

Δύο βασικά ερωτήματα, κατά τη γνώμη μου, είναι τα ακόλουθα:

*Αν η δυνατότητα ανάπτυξης ακόμη πιο προηγμένης ΤΝ είναι προνόμιο μιας χούφτας μεγιστάνων, με βασικό στόχο την κυριαρχία στην αγορά, τότε ποιανών οι αξίες διαμορφώνουν το μέλλον αυτής της μετασχηματιστικής τεχνολογίας;

*Αν αυτοί οι μεγιστάνες καταφέρουν να αναπτύξουν Γενική Τεχνητή Νοημοσύνη, τότε πώς θα αναδιαμορφωθούν οι γεωπολιτικές και γεωοικονομικές ισορροπίες παγκοσμίως; Πώς θα λειτουργήσουν εταιρείες με δύναμη κρατών, αλλά χωρίς τις ευαισθησίες τους;

Διευκρίνιση:

Στόχος αυτού του newsletter δεν είναι να θρέψω την τεχνοφοβία (απεταξάμην). Η ΤΝ έχει τεράστιες δυνατότητες για κοινωνικά οφέλη. Εκδημοκρατίζει εργαλεία και διαδικασίες που μέχρι πρότινος ήταν προνόμιο μόνο όσων είχαν τη δυνατότητα να τα πληρώσουν (ακριβά) και πιστεύω ότι μακροπρόθεσμα (γιατί κάτι τέτοιο δεν καταγράφεται προς το παρόν σε βαθμό και σε κλίμακα που να αρκούν για να το πιστοποιήσουν ως αποτέλεσμα) μπορεί να εκτοξεύσει την παραγωγικότητα και τη δημιουργικότητά μας. Οι εφαρμογές της στην προσωποποιημένη ιατρική, τη διάγνωση ασθενειών και την περίθαλψη, τη γεωργία ακριβείας, την περιβαλλοντική προστασία, την εκπαίδευση και τις επιχειρήσεις μπορούν να αλλάξουν τα πάντα προς το καλύτερο.

Ως δημοσιογράφος χρησιμοποιώ σχεδόν καθημερινά τουλάχιστον πέντε πλατφόρμες και εργαλεία ΤΝ και νιώθω ευγνώμων για τη «χαμαλοδουλειά» από την οποία με έχουν απαλλάξει. Αυτό που θέλω να υπενθυμίσω με αυτό το κείμενο, είναι πως τίποτα δεν είναι καλό ή κακό από τη φύση του. Είναι ο τρόπος που χρησιμοποιούμε τα πράγματα, που κάνει τη διαφορά. Ας συγκομίσουμε τους καρπούς της ΤΝ συνειδητοποιημένα, ας μάθουμε να τη χρησιμοποιούμε σωστά.