«Το κόστος της Τεχνητής Νοημοσύνης θα συγκλίνει με το κόστος της ενέργειας»
Η ενεργειακή αδηφαγία της ΤN, η οργανοειδής νοημοσύνη, 9 απλές αλλαγές για να χρησιμοποιείς πιο οικολογικά τα LLMs και μια συναρπαστική συνέντευξη του Eric Schmidt στον Peter Diamandis
Στα ποτάμια και τις λίμνες της Νότιας Ασίας ζει ένα εκ πρώτης όψεως ταπεινό ψαράκι, που όμως αποτελεί θαύμα βιολογικής μηχανικής, ικανό να διεκπεραιώσει όλη τη δραστηριότητα που απαιτεί η επιβίωσή του, καταναλώνοντας ελάχιστη ενέργεια.
Η προνύμφη του «Danio Rerio» όπως ονομάζεται (κάποιοι το αποκαλούν ψάρι-ζέβρα χάρη στις ρίγες του), πλοηγείται στα νερά, κυνηγάει θηράματα και αποφεύγει τους θηρευτές, χρησιμοποιώντας για όλη αυτή την κρίσιμη δραστηριότητα ενέργεια μόλις 0,1 μικροβάτ. Δεν είναι ο μόνος βιολογικός οργανισμός με τόσο αξιοζήλευτες επιδόσεις.
Πάρτε τον ανθρώπινο εγκέφαλο για παράδειγμα. Κατά μια εκτίμηση, έχει αποθηκευτική ικανότητα 2.500 TB (terabytes), με βάση τα 86-100 δισεκατομμύρια νευρώνες του και τις 1.000-10.000 συνάψεις που έχει καθένας από αυτούς. Η επεξεργαστική ισχύς του εγκεφάλου μας είναι εν ολίγοις αξιοσημείωτη -και ενεργειακά εξαιρετικά συμφέρουσα. Ένας μέσος ενήλικας σε κατάσταση ηρεμίας καταναλώνει ενέργεια περίπου 100 βατ, από τα οποία η κατανάλωση του εγκεφάλου αντιστοιχεί στο 20%, ήτοι 20 watt (όσο χρειάζεται μια ηλεκτρική ξυριστική μηχανή). Αντίθετα, οι συστάδες που χρησιμοποιούνται για την εκμάθηση των πιο σύγχρονων μοντέλων μηχανικής μάθησης λειτουργούν συνήθως με περίπου 10⁶ (10 στην έκτη) watt. Ένας από τους ισχυρότερους υπερυπολογιστές στον κόσμο, ο «Frontier» των ΗΠΑ καταναλώνει 21μεγαβάτ, ενώ ο ανθρώπινος εγκέφαλος λειτουργεί στο ίδιο περίπου εύρος ταχύτητας, καταναλώνοντας μόλις 20 watt.
Με άλλα λόγια, οι άνθρωποι λειτουργούμε με 10⁶ (10 στην έκτη) φορές καλύτερη απόδοση ισχύος, σε σχέση με τις σύγχρονες μηχανές, αν και εκτελούμε αρκετά διαφορετικές εργασίες.
Επιπλέον, η βιολογική μάθηση χρησιμοποιεί λιγότερες παρατηρήσεις για να μάθει πώς να λύνει προβλήματα. Για παράδειγμα, οι άνθρωποι μαθαίνουν να ξεχωρίζουν δύο διαφορετικά πράγματα («same versus different» task), χρησιμοποιώντας περίπου 10 δείγματα για εκπαίδευση. Οι μηχανές χρειάζονταν (το 2023, τελευταίο έτος για το οποίο μπόρεσα να βρω συγκεκριμένα στοιχεία) πολλαπλάσια δείγματα. Όλα αυτά έχουν δημιουργήσει υψηλές προσδοκίες για τη διαφορά που θα μπορούσε να κάνει σε διάφορα πεδία η βιολογική υπολογιστική, καθοδηγούμενη από τα εγκεφαλικά κύτταρα, ως εναλλακτική λύση στην υπολογιστική με βάση το πυρίτιο.
Ήδη, ερευνητές έχουν αρχίσει να συζητούν περί «οργανοειδούς νοημοσύνης (ΟΝ)» -δηλαδή για υπολογιστές που λειτουργούν με βιολογικά εγκεφαλικά κύτταρα- ως το νέο σύνορο της βιοϋπολογιστικής, υποστηρίζοντας ότι η ανθρωπότητα και ο πλανήτης θα μπορούσαν να επωφεληθούν σημαντικά από αυτή.
Συγγνώμη αν σας κούρασα με αριθμούς και έννοιες, αλλά νομίζω πως έχουν σημασία για το θέμα που πραγματεύομαι σήμερα, το οποίο είναι -όπως πιθανώς καταλάβατε- η ενεργειακή λαιμαργία (ή αδηφαγία) των συστημάτων Τεχνητής Νοημοσύνης.
ΙΙ.
Μια συζήτηση με το ChatGPT ή μια πλήρης φόρτιση κινητού;
Πρόσφατα το ΜΙΤ διοργάνωσε ένα πολύ ενδιαφέρον συμπόσιο με την ενεργειακή κατανάλωση της ΤΝ στο επίκεντρο κι εκεί ειπώθηκε -μεταξύ άλλων- πως έπειτα από δεκαετίες σταθερής ζήτησης ηλεκτρικής ενέργειας στις ΗΠΑ, τα αμερικανικά κέντρα υπολογιστικής καταναλώνουν σήμερα περίπου το 4% του ηλεκτρισμού της χώρας, ποσοστό που αναμένεται να φτάσει μέχρι και στο 15% ώς το 2030.
Η ενέργεια που απαιτείται για να διατηρηθούν κάποια από τα Μεγάλα Γλωσσικά Μοντέλα ΤΝ διπλασιάζεται κάθε τρεις μήνες, ενώ μια και μόνο «συζήτηση» με το ChatGPT καταναλώνει τόση ενέργεια όση η πλήρης φόρτιση ενός έξυπνου κινητού. Σε δυσθεώρητα ύψη φτάνουν και οι συνολικές εκπομπές αερίων του θερμοκηπίου. Επιπλέον, η δημιουργία μιας εικόνας, π.χ., από το «διψασμένο» ChatGPT απαιτεί περίπου ένα μπουκάλι νερού για ψύξη (ψύξη των σέρβερ στα κέντρα δεδομένων, που συντηρούν τα συστήματα ΤΝ).
Το πόσο κρίσιμος είναι ο παράγοντας «ενέργεια» για την ΤΝ το περιέγραψε σε πολύ λίγες λέξεις ο Σαμ Άλτμαν, CEO της OpenAI, που δημιούργησε το ChatGPT: «Το κόστος της Τεχνητής Νοημοσύνης θα συγκλίνει με το κόστος της ενέργειας». Με πολύ απλά λόγια, στο μέλλον το πόσο θα στοιχίζει ν’ αναπτυχθεί ακόμη ισχυρότερη ΤΝ θα καθορίζεται από το ενεργειακό κόστος.
Την επόμενη φορά λοιπόν, που θα χρησιμοποιήσετε το ChatGPT, το Gemini ή το Μistral απλά για πλάκα1, παρότι ομολογουμένως μπορεί να είναι πάρα πολύ διασκεδαστικό, ίσως θα πρέπει να το σκεφτείτε δύο φορές προς όφελος του πλανήτη (πιο κάτω σας έχω κάποιες προτάσεις για να αξιοποιείτε αυτά τα μοντέλα πιο εύστοχα και γι’ αυτό πιο ευνοϊκά για το περιβάλλον).
ΙΙΙ.
Νόμισμα με δύο όψεις
Βέβαια, όπως όλα τα νομίσματα, έτσι κι αυτό, έχει δύο όψεις. Η ενεργοβόρος ΤΝ είναι ταχύτατη. Και είναι πολύ ισχυρή. Αυτό σημαίνει ότι όσο επιβαρυντική και αν είναι για τους φυσικούς πόρους του πλανήτη, τόσο ευρηματική μπορεί να αποδειχθεί στην εξεύρεση λύσεων για την ομαλότερη πράσινη μετάβαση ή ακόμα και για την επινόηση νέων μορφών καθαρής ενέργειας.
Επιπλέον, η Τεχνητή Νοημοσύνη θα μπορούσε να συμβάλλει ποικιλοτρόπως στη μείωση των εκπομπών άνθρακα: σύμφωνα με την Antonia Gawel, διευθύντρια αειφορίας και συνεργασιών της Google, η λειτουργία «fuel-efficient routing» που εισήγαγε στους Google Maps η εταιρεία, έχει συμβάλει στη μείωση των εκπομπών αερίου του θερμοκηπίου κατά περισσότερους από 2,9 εκατομμύρια μετρικούς τόνους. Η εξοικονόμηση αυτή ισοδυναμεί με την επίδραση που θα είχε στη βελτίωση της ρύπανσης η απομάκρυνση από τους δρόμους 650.000 οχημάτων με καύση συμβατικού καυσίμου. Ένα άλλο ερευνητικό έργο της Google χρησιμοποιεί ΤΝ για να βοηθήσει πιλότους να αποφεύγουν τη δημιουργία λευκών γραμμών συμπύκνωσης (contrails), οι οποίες εκτιμάται ότι ευθύνονται για περίπου το 1% της παγκόσμιας επίδρασης στην υπερθέρμανση του πλανήτη.
Το σίγουρο λοιπόν είναι πως -παρά τα οφέλη που πιθανώς θα κομίσει η ΤΝ- η χρήση της δημιουργεί προκλήσεις για τον ομαλό εφοδιασμό της παγκόσμιας αγοράς ηλεκτρικής ενέργειας, μεταξύ άλλων και διότι τα κέντρα δεδομένων (data centers), απαραίτητα για την περαιτέρω ανάπτυξή της, είναι ιδιαίτερα ενεργοβόρα.
Χωρίς τεράστιες επενδύσεις σε υποδομές μεταφοράς και αποθήκευσης ηλεκτρικής ενέργειας και χωρίς περαιτέρω ανάπτυξη των ανανεώσιμων πηγών, ώστε η ανάπτυξη της ΤΝ να συμβαδίζει με τον στόχο της περιβαλλοντικής προστασίας, ο κίνδυνος βραδυπορίας στην πράσινη μετάβαση είναι ορατός -εκτός και αν από κάποιο ερευνητικό εργαστήριο ξεπηδήσει η δυνατότητα χρήσης της πυρηνικής σύντηξης σε μεγάλη κλίμακα, στόχος για τον οποίο ήδη γίνονται σημαντικά πειράματα.
ΙV.
Οκτώ προτάσεις για να κάνεις πιο οικολογική χρήση της ΤΝ
To να είσαι αβρός ή ευγενική με τα μεγάλα γλωσσικά μοντέλα ΤΝ (όπως το ChatGPT ή το Gemini) στοιχίζει ακριβά σε χρήμα, ενέργεια και νερό -πιθανώς το έχεις ήδη διαβάσει κάπου, γιατί είναι μεγάλο πρόβλημα. Μη συνομιλείς μαζί τους θαρρείς και αντιλαμβάνονται συνειδητά το ύφος ή την αστική ευγένεια. Οι παρακάτω απλές αλλαγές στη μεταξύ σας «επικοινωνία» θα σου φέρουν πιο ακριβείς απαντήσεις και θα επιβαρύνουν λιγότερο το περιβάλλον:
1.Μη χρησιμοποιείς στις «συνομιλίες» σας τις λέξεις «θα μπορούσες» (could) ή «μπορείς» (can). Δημιουργούν αβεβαιότητα και φέρνουν πιο αόριστες απαντήσεις, αυξάνοντας έτσι την κατανάλωση πόρων.
Παράδειγμα: αντί να γράψεις (ή να πεις) «Μπορείς να μου προτείνεις ένα βιβλίο ιστορίας με καλές κριτικές για τη Μέση Ανατολή;», γράψε απευθείας «Πρότεινέ μου ένα βιβλίο ιστορίας με καλές κριτικές για τη Μέση Ανατολή».
2.Απόφυγε λέξεις όπως «ίσως», «απλά», «kind of», «γενικά μιλώντας», «generally speaking». Nα είσαι ξεκάθαρος/η και ευθύς, ακριβής και περιεκτικός/ή. Συνομιλείς με ρομπότ, όχι με άνθρωπο.
Παράδειγμα: Αντί να γράψεις ή να πεις «Θα μπορούσες ίσως να μου παρουσιάσεις τους λόγους που το τάδε αυτοκίνητο είναι καλύτερο από το δείνα» ή «μπορεί να κάνω λάθος, αλλά ισχύει ότι το τάδε αυτοκίνητο είναι καλύτερο από το δείνα;», γράψε απευθείας αυτό που θέλεις να μάθεις: «Παρουσίασέ μου τους λόγους για τους οποίους το τάδε αυτοκίνητο είναι καλύτερο από το δείνα».
3.Απόφυγε περιττές ερωτήσεις
Παράδειγμα: Αντί να γράψεις «Πες μου λίγα για τον Διονύσιο Σολωμό. Μπορείς;», προτίμησε την εξής διατύπωσε: «Γράψε μου μια σύντομη βιογραφία του Διονύσιου Σολωμού σε δύο παραγράφους».
4.Θέσε όρια στο μέγεθος της απάντησης
Οι μεγάλες απαντήσεις καταναλώνουν περισσότερη υπολογιστική ισχύ και αν οι ερωτήσεις σου είναι υπερβολικά «ανοιχτές», θα πάρεις μακροσκελή αποτελέσματα. Διατύπωσε τα αιτήματά σου, με τρόπο ώστε να περιορίζεις την έκταση της απάντησης.
Παράδειγμα: Αντί να γράψεις «Ανάλυσε μου τα αίτια του Β' Παγκοσμίου Πολέμου», γράψε «Ανάλυσέ μου σε 10 προτάσεις τα αίτια του Β' Παγκοσμίου Πολέμου»
5. Ζήτησε συγκεντρωτικές απαντήσεις αντί για πολλαπλά διαδοχικά ερωτήματα
Συνδύασε ερωτήσεις όπου γίνεται.
Παράδειγμα: Αντί να γράψεις διαδοχικά ξεχωριστά ερωτήματα όπως «Τι είναι η κλιματική αλλαγή;», «Ποια τα αίτιά της;», «Ποιες οι συνέπειες;», προτίμησε την εξής διατύπωση: «Τι είναι η κλιματική αλλαγή και ποια τα βασικά αίτια και συνέπειές της;»
6. Απόφυγε άσκοπα prompts
Μην ξεχνάς ότι η δημιουργία εικόνων ή φανταστικών ιστοριών καταναλώνει ενεργειακούς πόρους.
Παράδειγμα: Απόφυγε prompts (εντολές) για πλάκα όπως «Γράψε μου ένα ποίημα για έναν εξωγήινο μονόκερο από τον Άρη σε 14 στροφές». Αλλά, αν αναζητείς έμπνευση για να ψυχαγωγήσεις την εξάχρονη κόρη σου, δοκίμασε κάτι τέτοιο: «Δώσε μου παράδειγμα ποιήματος για παιδιά ηλικίας 6-7 ετών με θέμα τον πλανήτη Άρη.»
7. Περιόρισε τη χρήση της γεννήτριας εικόνων (image generation)
Η παραγωγή μίας εικόνας με ΤΝ μπορεί να καταναλώσει 10–30 φορές περισσότερη ενέργεια απ’ ό,τι ένα κείμενο. Αν δεν είναι απολύτως απαραίτητο, απόφυγε να δημιουργείς εικόνες για πλάκα. Στοιχίζει ακριβά στον πλανήτη.
8. Αν γίνεται, συνέχισε ένα prompt αντί να ξεκινάς από την αρχή
Η συνέχιση των prompts μέσα στην ίδια συνομιλία είναι λιγότερο ενεργοβόρα από το να ξεκινήσεις ένα νέο από την αρχή. Αν γίνεται, απόφυγε να ανοίγεις νέα συνομιλία κάθε φορά. Προτίμησε να συνεχίσεις αυτή που είναι ήδη σε εξέλιξη, με αιτήματα όπως «εξήγησέ μου το δεύτερο σημείο».
9. Επίλεξε την «απλή» λειτουργία
Όσο μεγαλύτερο και πιο δημιουργικό ένα μοντέλο και όσο πιο πολύπλοκο το αίτημα, τόσο περισσότερη ενέργεια καταναλώνεται. Αν δεν χρειάζεσαι αποτελέσματα πάνω σε σύνθετες ιδέες, γράψε: «Απάντησε απλά και περιεκτικά»
V.
Ίσως σε ενδιαφέρει να διαβάσεις κι αυτά
*Σύμφωνα με το University College London (UCL), απλές βελτιστοποιήσεις μπορούν να μειώσουν την κατανάλωση ενέργειας από την Τεχνητή Νοημοσύνη έως και κατά 90%.
*Ο Διεθνής Οργανισμός Ενέργειας (IEA) δημιούργησε Ειδικό Παρατηρητήριο για την Ενέργεια και την Τεχνητή Νοημοσύνη, με στόχο την παρακολούθηση της κατανάλωσης ενέργειας από κέντρα δεδομένων και την παρουσίαση 20 παγκόσμιων περιπτώσεων χρήσης της ΤΝ για ενεργειακή αποδοτικότητα.
*Το μεγαλύτερο ηλεκτρικό δίκτυο της Αμερικής, το PJM, βρίσκεται υπό πίεση, καθώς τα κέντρα δεδομένων και τα συστήματα τεχνητής νοημοσύνης (AI chatbots) καταναλώνουν ενέργεια με ταχύτερο ρυθμό απ’ ό,τι μπορούν να κατασκευαστούν νέοι σταθμοί παραγωγής. Οι λογαριασμοί ηλεκτρικού ρεύματος προβλέπεται να αυξηθούν κατά περισσότερο από 20% το καλοκαίρι του 2025 σε ορισμένες περιοχές που καλύπτει το PJM, το οποίο εξυπηρετεί 67 εκατομμύρια πελάτες σε 13 πολιτείες — από το Ιλινόι και το Τενεσί, μέχρι τη Βιρτζίνια και το Νιου Τζέρσεϊ. Πρόκειται για την περιοχή που διαθέτει τη μεγαλύτερη συγκέντρωση κέντρων δεδομένων στον κόσμο.
*Η Google πρόκειται να επενδύσει 25 δισ. δολ σε κέντρα δεδομένων και υποδομή ΤΝ κατά μήκος του δικτύου της PJM, του μεγαλύτερου ηλεκτρικού δικτύου των ΗΠΑ.
VI.
Δες αυτή τη συνέντευξη του Eric Schmidt στον Peter Diamandis. Σοβαρά
Για τους στόχους αυτού του newsletter (και σε αντίθεση με ό,τι σας πρότεινα να κάνετε παραπάνω, δίνοντας μόνο τα σοβαρά και απαραίτητα prompts), ρώτησα το ChatGPT ποια είναι τα πιο παράξενα ή αστεία αιτήματα και ερωτήματα που έχει δεχτεί ποτέ και μου έκανε μια μακρά λίστα, που μεταξύ άλλων περιλάμβανε τα εξής:
«Εξήγησε την κβαντική φυσική μέσω ενός ερωτικού τριγώνου ανάμεσα στη γάτα του Schrödinger, μια τοστιέρα και μια μπανάνα σε σύγχυση» και «Πώς να κερδίσεις καβγά με τη γάτα σου χρησιμοποιώντας τη σωκρατική μέθοδο». Έτσι για την …αλητεία, σας παραθέτω την απρόσμενα χιουμοριστική απάντησή του στο δεύτερο, που δείχνει βαθιά γνώση της φύσης της γάτας 😼:
Εσύ: Λοιπόν, γιατί έριξες το ποτήρι απ’ το τραπέζι;
Η Γάτα: (Σιωπή)
Εσύ: Πιστεύεις ότι όλα στο σπίτι μου είναι για να τα ρίχνεις;
Η Γάτα: (Βλεφαρίζει αργά)
Εσύ: Αν ένα αντικείμενο βρίσκεται στο τραπέζι, αυτό σημαίνει ότι πρέπει να το δοκιμάσεις με το πόδι σου;
Η Γάτα: (Απλώνει το πόδι αργά προς άλλο αντικείμενο)
Εσύ: Άρα, αν όλα τα αντικείμενα πέφτουν, κι εσύ τα ρίχνεις, μήπως θεωρείς ότι είσαι εργαλείο της βαρύτητας;
Η Γάτα: (Γουργουρίζει)
Εσύ: Μπορεί άραγε αυτό το γουργουρητό να είναι σημάδι συμφωνίας; Ή απλώς αποφυγής διαλόγου;Συμπέρασμα:
Χρησιμοποιώντας τη σωκρατική μέθοδο με τη γάτα σου, δεν θα κερδίσεις ποτέ το επιχείρημα. Αλλά θα την κάνεις να νιώσει ότι εκείνη κέρδισε — και αυτό αρκεί για να έχεις ειρήνη στο σπίτι.
Καλημερα, ευρηματικη οπως παντα και ενδιαφερουσες πληροφοριες , ευχαριστουμε!