Από ατόφιο εγωισμό. Κι επιθυμία

Γιατί στη συζήτηση για την ΤΝ χρειάζεται να λάβουμε υπόψη τον ανθρώπινο εγωισμό. Ένα wearable με «τηλεπάθεια», το ρίσκο της ψύχωσης και μια έρευνα για τις σχέσεις των ελληνικών ΜΜΕ με την ΤΝ

Aκόμη και όσοι δημιουργούν σφιχτά κλεισμένοι στο κουκούλι τους, πιθανότατα έχουν εγωισμό και επιθυμία για αναγνώριση, υστεροφημία και ευχαρίστηση. Πηγή εικόνας: Selfish Shellfish by Anthere/PixelACHE, 20 April 2005

Ι.

Ξέρω ότι δημιουργώ ένα τέρας, αλλά δεν μπορώ να σταματήσω

«Αυτό που δημιουργούμε τώρα είναι ένα τέρας, η επίδραση του οποίου θα αλλάξει την ιστορία, με την προϋπόθεση πως θα έχει μείνει κάποια ιστορία για να την αλλάξει. Όμως θα ήταν αδύνατο να μην το φέρουμε σε πέρας, όχι μόνο για στρατιωτικούς σκοπούς, αλλά και επειδή θα ήταν ανήθικο από την πλευρά των επιστημόνων να μην κάνουν αυτό που ξέρουν πως είναι εφικτό, όσο τρομερές συνέπειες και αν θα μπορούσε να έχει».

Η φράση αυτή αποδίδεται στον Τζον Φον Νάιμαν, συνεργάτη του Οπενχάιμερ στο Σχέδιο Μανχάταν, τον ασύλληπτα ιδιοφυή Αυστροαμερικανό, που εφηύρε μεγάλο μέρος της ατομικής βόμβας και θεμελίωσε τη κβαντική μηχανική. Ανατριχιάζω καθώς τη διαβάζω, γιατί προσθέτει ένα εξαιρετικά κρίσιμο -και κάπως παραγνωρισμένο- στοιχείο στη συζήτηση που σήμερα γίνεται για τα αίτια της σχεδόν άναρχης ανάπτυξης της Τεχνητής Νοημοσύνης και τους πιθανούς κινδύνους που ανακύπτουν από αυτή.

Την ίδια την ανθρώπινη φύση. Τον ανθρώπινο εγωισμό.

Πριν από λίγες ημέρες, σε μια συζήτηση στα σχόλια της αγγλικής εκδοχής ενός substack μου με έναν άλλον substacker, τον Houston Wood, μου έγραψε ότι, κατά τη γνώμη του, ο μόνος τρόπος για να μην ξεφύγουν τα πράγματα με την ΤΝ είναι να υπάρξει παύση στην ανάπτυξη της (με τον τρόπο που αυτή γίνεται σήμερα). Του απάντησα πως θεωρώ ότι ένα τέτοιο σενάριο δεν θα ήταν ρεαλιστικό, γιατί είναι πολύ το χρήμα και τεράστια η ισχύς που θα εξασφαλίσει όποιος φτάσει πρώτος στην επίτευξη ακόμη πιο εξελιγμένης ΤΝ ή και της Γενικής Τεχνητής Νοημοσύνης (αν αυτή γίνει κάποτε πραγματικότητα, γιατί δεν είναι λίγοι οι αναλυτές που ακόμη και σήμερα αμφισβητούν ότι είναι εφικτή).

Για εμένα ήταν ανέκαθεν ξεκάθαρο -γι’ αυτό και η περίφημη επιστολή¹ με τις χιλιάδες βαρυσήμαντες υπογραφές για προσωρινή παύση στην ανάπτυξη της ΤΝ, εξαρχής δεν είχε, κατά τη γνώμη μου, οποιαδήποτε πιθανότητα επιτυχίας: η ΤΝ εξελίσσεται με ιλιγγιώδη ταχύτητα, γιατί επιχειρήσεις και κυβερνήσεις «σπρώχνουν» με μανία αυτή την ανάπτυξη. Λογικό για τις επιχειρήσεις (που πραγματοποιούν τεράστιες επενδύσεις για να βρεθούν στην πρώτη γραμμή, προσβλέποντας στα αντίστοιχα κέρδη και δύναμη), λογικό ακόμη και για τα κράτη, γιατί όσα από αυτά δεν ανέβουν σε αυτό το τρένο θα βρεθούν εγκλωισμένα σε μια αποβάθρα-φάντασμα, στο απόλυτο περιθώριο των γεωπολιτικών και γεωοικονομικών εξελίξεων: θα χάσουν από την επικράτειά τους τις εταιρείες που «μετρούν», θα χάσουν τα πιο δυνατά ανθρώπινα μυαλά, θα βιώσουν την απίσχνανση της οικονομικής και γεωπολιτικής τους ισχύος, θα ξεγυμνώσουν την άμυνά τους και θα δουν την ήδη εύθραστη εμπιστοσύνη των πολιτών τους να διαβρώνεται ακόμη περισσότερο. Θα χάσουν πιθανότατα ακόμη και την ίδια την ικανότητά τους να παράγουν επιδραστικό πολιτισμό και τελικά θα αντιμετωπίσουν πραγματικό υπαρξιακό κίνδυνο.

Οι παραμυθένιας ομορφιάς εικόνες του σιδηροδρομικού σταθμού-φάντασμα προέρχονται από την αριστουργηματική ταινία “Spirited Away” του Hayao Miyazaki. Πηγή εικόνας: https://share.google/images/sBdj3RK8bEn4Jth1V

Όταν έγραψα στον Χιούστον τους λόγους για τους οποίους θεωρώ ότι δεν είναι ρεαλιστικό να σκεφτόμαστε ότι είναι εφικτή μια παύση στην ανάπτυξη της ΤΝ, έφερα στο μυαλό μου τις φιλοδοξίες και τα συμφέροντα επιχειρήσεων, μετόχων και κυβερνήσεων, αλλά δεν σκέφτηκα καθόλου το εγώ των επιστημόνων, οι οποίοι είναι τόσο άνθρωποι, όσο όλοι μας. Μετά όμως, θυμήθηκα κάτι που είχα διαβάσει τον Αύγουστο, τινάζοντας κάθε τόσο την άμμο από τις σελίδες, στο βιβλίο του Μουσταφά Σουλεϊμαν, Το Επερχόμενο Κύμα, για το οποίο σας έχω ήδη γράψει.

Αναφέρει ο Σουλεϊμάν:

«Το να γράψεις ιστορία, να κάνεις κάτι που έχει σημασία, να βοηθήσεις τους άλλους, να νικήσεις τους άλλους, να εντυπωσιάσεις έναν ενδεχόμενο συνέταιρο, να εντυπωσιάσεις έναν προϊστάμενο, συναδέλφους, αντιπάλους· όλα αυτά είναι μέρος της διαρκώς παρούσας ώθησης να αναλαμβάνεις ρίσκα, να δοκιμάζεις όρια, να ανοίγεις περισσότερο στο άγνωστο. Να δημιουργήσεις κάτι νέο. Να αλλάξεις τους όρους του παιχνιδιού. Να κατακτήσεις την κορυφή.

»Είτε έχεις ευγενή και ανώτερα κίνητρα είτε ταπεινά και άκρως ανταγωνιστικά, όταν εργάζεσαι στην τεχνολογία συνήθως είναι αυτή η πτυχή, ακόμη περισσότερο από τις φιλοδοξίες των κρατών ή τις επιταγές μακρινών μετόχων, που κινεί τις διαδικασίες. Βρες έναν πετυχημένο επιστήμονα ή τεχνολόγο και κάπου εκεί μέσα θα διακρίνεις έναν άνθρωπο που έχει ως κίνητρο τον ατόφιο εγωισμό».

ΙΙ.

Ποτέ δεν θα αποκτήσουμε αρκετή τεχνολογία

Δεν είναι, κατά τη γνώμη μου, ο εγωισμός το μοναδικό στοιχείο της ανθρώπινης φύσης, που καθιστά πρακτικά αδύνατη την όποια παύση στην αλματώδη ανάπτυξη της ΤΝ. Είναι κι η ανθρώπινη επιθυμία και η ανάγκη για το περισσότερο και το καλύτερο, ο αγώνας μας για ευχαρίστηση, our Struggle for Pleasure, που θα έλεγε στη γλώσσα της μουσικής ο Wim Mertens (oυδόλως έχοντας στον νου του την Τεχνητή Νοημοσύνη το 1982, όταν συνέθετε αυτό το αριστουργηματικό κομμάτι, που λίγα χρόνια αργότερα χρησιμοποιήθηκε στο soundtrack της ταινίας «Η κοιλιά του αρχιτέκτονα» του Peter Greenaway).

Όσες κατάρες κι αν έχουμε κατά καιρούς εκσφενδονίσει προς το μέρος της, η τεχνολογία ποτέ δεν μας φτάνει, ποτέ δεν έχουμε αρκετή. Όταν μια τεχνολογία που μας διευκολύνει ή μας ομορφαίνει τη ζωή είναι διαθέσιμη, πολλοί από εμάς τη θέλουμε αυτομάτως (κι όταν δεν την έχουμε πιθανώς νιώθουμε πως υστερούμε), με λίγη ή καθόλου μέριμνα ή περιέργεια για τα όποια «ψιλά γράμματα». Όταν δε η εμπορική της τιμή -συνήθως υψηλή όταν λανσάρεται- πέσει στο ύψος του προσωπικού μας προϋπολογισμού, το πιθανότερο είναι ότι θα επιδιώξουμε να την αποκτήσουμε.

Κι όταν ο καταναλωτής τη θέλει, ακόμη και αν ο «χ» εφευρέτης ή δημιουργός της απεμπολήσει το δικαίωμά του στο κέρδος, σιγάσει τον εγωισμό του και την επιθυμία του για αναγνώριση και υστεροφημία κι αποφασίσει για κάποιο λόγο να βάλει φρένο στην παραγωγή της, πίσω του υπάρχει ολόκληρη σειρά άλλων ανθρώπων με παντοδύναμα εργαλεία στη διάθεσή τους (η ΤΝ είναι η τεχνολογία πίσω από αναρίθμητες άλλες τεχνολογίες στην τελική), που θα σπεύσει να ικανοποιήσει την ακόρεστη ανάγκη μας. Το τρένο αυτό δεν σταματάει -δεν μένει καν πάνω στις ράγες.

Ο ανθρώπινος εγωισμός, όπως και η επιθυμία, δεν ξεριζώνονται εύκολα και σε έναν (πολύ σημαντικό κατά τη γνώμη μου) βαθμό καθοδηγούν την πρόοδο της ανθρωπότητας επί αιώνες: δεν είναι τυχαίο πόσο ελάχιστοι υπήρξαν οι σιωπηλοί και ταπεινοί δημιουργοί και εφευρέτες και πόσο πολλοί εκείνοι που διεκδίκησαν -και φρόντισαν να κατοχυρώσουν- την αναγνώριση για το προϊόν της διανοίας τους (διάβασε κι αυτό αν σε ενδιαφέρει το θέμα). Θα ήθελα να σε ακούσω: τι ρόλο παίζει, κατά τη γνώμη σου, ο ανθρώπινος εγωισμός στην απροθυμία μας να φρενάρουμε ακόμη και δυνητικά επικίνδυνες εκφάνσεις μιας τεχνολογίας που δημιουργούμε;

ΙΙΙ.

Μαθαίνοντας περισσότερα

Ο εγωισμός και η επιθυμία έχουν μεν πολύ βαθιές ρίζες, αλλά η εκπαίδευση, όταν εξελίσσεται σε παιδεία, μπορεί να μας βοηθήσει να μάθουμε να βάζουμε όρια, ακόμη κι όταν πρέπει να τα θέσουμε για έναν κόσμο που τώρα διαμορφώνεται, για έναν κόσμο που δεν υπάρχει ακόμη. Χρειαζόμαστε διεπιστημονική γνώση.

Κομίζω γλαύκας εις Αθήνας και κάρβουνο στο Κάρντιφ, το ομολογώ, το έχουν πει τόσο πολλοί άνθρωποι πριν από εμένα, αλλά θέλω να το υπενθυμίσω: δεν είναι δυνατόν να εργάζεσαι πάνω στην ανάπτυξη προηγμένων μοντέλων ΤΝ και να μην έχεις εντρυφήσει στη φιλοσοφία ή την ηθική. Αντίστοιχα, δεν είναι δυνατόν να βγάζεις τα προς το ζην με ένα πτυχίο κοινωνιολογίας ή ψυχολογίας και να γυρίζεις πλάτη στα μεγάλα ζητήματα της εποχής σου.

Ήρθε (προ πολλού) η ώρα να τερματίσουμε τη μονοκαλλιέργεια στη γνώση. Το να μιλάμε απλά για επικαιροποίηση ή αναβάθμιση τεχνολογικών δεξιοτήτων δεν είναι αρκετό. Είναι πολύ λίγο. Ώρα να επιδιώξουμε να μάθουμε περισσότερα και να μαθαίνουμε διαρκώς.

Κι επίσης, καθώς μαθαίνουμε περισσότερα, ώρα να κάνουμε και κάτι ακόμη. Να κρατήσουμε αποστάσεις από τον φαταλισμό. Το έχω ξαναγράψει: το να θεωρούμε αναπόδραστη μια «Αποκάλυψη της Τεχνητής Νοημοσύνης», απλά την κάνει πιθανότερη.

ΙV.

Η Αντιγόνη, πάντως, τον έθαψε τον Πολυνείκη

Στο μεταξύ, όλο αυτό μου έφερε στο μυαλό μια συζήτηση που είχαμε το 2021 με τον δρα Βαγγέλη Λυμπουρίδη, Έλληνα ερευνητή με έδρα το Λος Άντζελες, που ζει «μέσα» στην τεχνολογία και βιοπορίζεται από αυτή, αλλά έχει ως στόχο να δουλεύει πρώτα για τον Άνθρωπο στην εποχή των αλγορίθμων και της Εικονικής Πραγματικότητας (VR). Μεταξύ άλλων, ο γεννηθείς το 1978 Βαγγέλης έχει συνεργαστεί με τους εν ζωή «Queen», προκειμένου να σχεδιάσει μια εμπειρία VR βασισμένη στο θρυλικό «Bohemian Rhapsody», την οποία βρήκα μαγική (μπήκα στον κόσμο της με γυαλιά VR μέσα σε ένα κατάμεστο και θορυβώδες καφέ στη Θεσσαλονίκη και χάθηκα σε ένα αλλόκοσμο και ταυτόχρονα βαθύτατα ανθρώπινο σύμπαν).

Μου είχε πει λοιπόν τότε:

«Το πρόβλημά μας δεν είναι η τεχνολογία, αλλά η έλλειψη ηθικής. Η τεχνολογία θα υπηρετήσει τις αξίες του ανθρώπου. Αν η μόνη αξία είναι το χρήμα, το αποτέλεσμα είναι προφανές. Σε κάθε περίπτωση, ο φόβος δεν βοηθάει, όποιος τρομοκρατεί και όποιος τρομοκρατείται φέρουν την ίδια ευθύνη. Ο Κρέοντας είπε στην Αντιγόνη "μη θάψεις τον Πολυνείκη", αλλά η Αντιγόνη έθαψε τον αδερφό της. Δεν ήταν ηθική απέναντι στους νόμους, ήταν ηθική στην πράξη. Εντέλει μιλάμε για ευθύνη. Αντί να ακολουθούμε πιστά όσα σενάρια προτάσσονται ως αναπόφευκτα, μπορούμε να δημιουργούμε καινούργια παραδείγματα. Δεν υπάρχει ένα μέλλον συγκεκριμένο, αλλά άπειρα, τα οποία όλοι εμείς υφαίνουμε».

V.

Φλερτάροντας με την τηλεπάθεια

Aν βρισκόσουν σε ένα δωμάτιο όπου δύο άνθρωποι αλληλεπιδρούσαν φορώντας αυτό το wearable, θα μπορούσες να εικάσεις ότι επικοινωνούν τηλεπαθητικά. Το ίδιο αν έβλεπες κάποιον απ’ τους δύο να χρησιμοποιεί το κινητό του, δίνοντας σιωπηλές εντολές στην ΤΝ της συσκευής. Δεν πρόκειται για τηλεπάθεια όμως, αλλά για το wearable που δημιούργησε εταιρεία-τεχνοβλαστός του ΜΙΤ Media Lab. Και το όνομα αυτού Alterego. Σκέψου ότι όταν το φοράς, μπορείς να σκεφτείς, για παράδειγμα, ότι θέλεις να βάλεις μια υπενθύμιση στο κινητό σου, για να μην ξεχάσεις να πάρεις τα ορειβατικά σου παπούτσια σε ένα ταξίδι. Δεν μιλάς, αλλά η υπενθύμιση δημιουργείται ως δια μαγείας.

Ή ότι έχεις μπροστά σου έναν πίνακα και αναρωτιέσαι σιωπηλά ποιος είναι ο ζωγράφος. Η ΤΝ στην καρδιά του Αlterego θα σου απαντήσει σε δευτερόλεπτα. Ή ότι βρίσκεσαι στο σούπερ μάρκετ και θέλεις να αθροίσεις τις τιμές των προϊόντων που αγοράζεις. Κοιτάζεις το ταμπελάκι, λες «από μέσα σου» την τιμή και η ΤΝ σού προσθέτει τις διάφορες τιμές και σου βγάζει τον λογαριασμό πριν φτάσεις στο ταμείο. Την ίδια στιγμή, δύο άνθρωποι που φορούν αμφότεροι το wearable, θα μπορούν να συνομιλήσουν χωρίς να πουν λέξη (όλοι το έχουμε δει να συμβαίνει με βλέμματα, αλλά αυτό έχει ακρίβεια …λέξης).

Η συσκευή δεν διαβάζει το μυαλό σου πάντως (προς το παρόν τουλάχιστον). Απλά περιλαμβάνει μικροσκοπικές κάμερες που εντοπίζουν ακόμη και τις μικρότερες κινήσεις στη σιαγόνα και τον λαιμό του χρήστη, την ώρα που αυτός σκέφτεται, και η ΤΝ καταφέρνει να μετατρέψει αυτά τα ανεπαίσθητα σήματα σε εντολές.

Κατά την ομάδα, το Alterego μπορεί να δουλέψει μια χαρά σε χώρους με θόρυβο, αλλά και να διευκολύνει τη σιωπηλή επικοινωνία σε πολλές γλώσσες. Το πρότζεκτ δεν είναι καινούργιο (μπήκε στην αφετηρία το 2018), αλλά μόλις φέτος μεταμορφώθηκε σε μια μη κερδοσκοπική νεοφυή επιχείρηση, που σκοπεύει να βγάλει το προϊόν στην αγορά. Το πότε δεν διευκρινίστηκε, αλλά μπορείς να πάρεις μια γεύση για το πώς λειτουργεί σε αυτή την πρόσφατη ανάρτηση στο X ή σε αυτό το παλαιότερο βίντεο:

VI

Σε πρώιμο στάδιο υιοθέτησης της ΤΝ οι ελληνικές ΜΜΕ, αλλά με διάθεση να την αξιοποιήσουν

Μέτριο ή χαμηλό επίπεδο ψηφιακής ωριμότητας διαθέτουν -με βάση τις ψηφιακές και τεχνολογικές τους υποδομές και τα συστήματα δεδομένων τους- πάνω από οκτώ στις δέκα μικρομεσαίες επιχειρήσεις της Θεσσαλονίκης (ποσοστό 82%), που συμμετείχαν σε σχετική έρευνα, ενώ στην πλειονότητά τους βρίσκονται σε πρώιμο στάδιο υιοθέτησης των εφαρμογών της Τεχνητής Νοημοσύνης (ΤΝ). Σε ό,τι αφορά τις παρατηρούμενες αλλαγές στην οργανωτική δομή των επιχειρήσεων έπειτα από την εφαρμογή ΤΝ, οι επιχειρηματίες ανέφεραν μεταβολές στη διανομή ρόλων και καθηκόντων (26%), τη δημιουργία νέων θέσεων εργασίας που σχετίζονται με την ΤΝ (10%) και την αναδιάρθρωση των ιεραρχικών επιπέδων (5%), Ωστόσο, στην πλειονότητά τους (ποσοστό 65%), οι ερωτηθέντες δεν διαπίστωσαν κάποια σημαντική αλλαγή.

VII

Το ρίσκο της ψύχωσης

Σε πρόσφατο newsletter του με τίτλο We must build AI for people; not to be a person, Seemingly Conscious AI is Coming ο Μουσταφά Σουλεϊμάν δεν χτυπά απλά ένα καμπανάκι, αλλά σημάνει συναγερμό. Γράφει ότι ανησυχεί ολοένα και περισσότερο γι’ αυτό που γίνεται γνωστό ως «κίνδυνος ψύχωσης» γύρω από την ΤΝ. «Δεν πιστεύω ότι αυτό θα περιοριστεί σε όσους βρίσκονται ήδη σε κίνδυνο για ψυχικά προβλήματα. Με απλά λόγια, η βασική μου ανησυχία είναι ότι πολλοί άνθρωποι θα αρχίσουν να πιστεύουν τόσο έντονα στην ψευδαίσθηση της ΤΝ ως συνειδητής οντότητας, ώστε σύντομα θα συνηγορούν υπέρ των “δικαιωμάτων” της, της “ευημερίας” των μοντέλων και ακόμα και της “ιθαγένειας” της ΤΝ. Αυτή η εξέλιξη θα είναι μια επικίνδυνη στροφή στην πρόοδο της ΤΝ και αξίζει την άμεση προσοχή μας» προειδοποιεί και συνεχίζει: «Πρέπει να δημιουργήσουμε την ΤΝ για τους ανθρώπους· όχι για να είναι ένα ψηφιακό πρόσωπο».

VIII

Στοιχίζει ακριβά όταν οι «πιλότοι» ΤΝ σπάζουν τα μούτρα τους

Αυτά για τον εγωισμό, τη γνώση και τον φόβο. Έχω ειδήσεις να μοιραστώ μαζί σας. Πρόσφατη μελέτη του MIT πιθανώς έκανε πολλούς CEO πανίσχυρων εταιρειών της λίστας Fortune 500 να χάσουν τον ύπνο τους: σύμφωνα με αυτή, το 95% των προγραμμάτων δοκιμών ΤΝ στις επιχειρήσεις αποτυγχάνουν να αποδώσουν οικονομικά, παρά τις τεράστιες επενδύσεις, ύψους 30–40 δισ. δολαρίων, που γίνονται στη δημιουργική (ή γεννητική) τεχνητή νοημοσύνη (GenAI).

Παρότι το 80% των εταιρειών πειραματίζονται με εφαρμογές-πιλότους TN και το 40% έχει ήδη προχωρήσει σε υλοποίηση, τα ουσιαστικά αποτελέσματα στους ισολογισμούς τους είναι αμελητέα. Οι περισσότερες μεγάλες επιχειρήσεις παραμένουν παγιδευμένες σε έναν φαύλο κύκλο ατελείωτων πιλότων και πειραμάτων, χωρίς να καταφέρνουν να ξεφύγουν από τον λεγόμενο «βάλτο του proof-of-concept».

H λέξη της εβδομάδας: λυτρισμικό

Έτσι αποδίδεται στα ελληνικά το γνωστό μας ransomware, το κακόβουλο λογισμικό, που χρησιμοποιούν οι κυβερνοεγκληματίες για να μπλοκάρουν την πρόσβαση, να καταστρέψουν ή να δημοσιεύσουν κρίσιμα δεδομένα ενός θύματος, εκτός εάν καταβληθούν λύτρα. Πώς σου φαίνεται αυτή η μετάφραση;

1. Άνθρωποι όπως ο φυσικός του ΜΙΤ και συγγραφέας Μax Tegmark, ο επιστήμονας υπολογιστών Stuart Russel, ο Yoshua Bengio, ο οποίος συχνά αναφέρεται ως ένας από τους νονούς της Τεχνητής Νοημοσύνης, αλλά και ο Elon Musk υπέγραψαν τον Μάρτιο του 2023 κοινή επιστολή, με την οποία ζητούσαν να υπάρξει εξάμηνη παύση στην ανάπτυξη συστημάτων πιο ισχυρών από το GPT-4, επικαλούμενοι τους πιθανούς κινδύνους για την κοινωνία. Η επιστολή συντάχθηκε με πρωτοβουλία του Ινστιτούτου για το Μέλλον της Ζωής, που ίδρυσε ο Tegmark και η επιχειρηματολογία της ήταν αφοπλιστική: «Ισχυρά συστήματα ΤΝ πρέπει να αναπτύσσονται μόνο όταν νιώθουμε βεβαιότητα ότι ο αντίκτυπός τους θα είναι θετικός και τα ρίσκα που προκύπτουν εξαιτίας αυτών διαχειρίσιμα». Την επιχειρηματολογία αυτή προσυπέγραψαν χιλιάδες άτομα.