Aπό τη λογοτεχνική φαντασία στη δική μας πραγματικότητα !

Το Robot Dreams μπορεί να διαβαστεί όχι μόνο ως διήγημα επιστημονικής φαντασίας, αλλά και ως μία αλληγορία για τα διλήμματα που θέτει σήμερα η ανάπτυξη της τεχνητής νοημοσύνης. Το κεντρικό του ερώτημα: τι συμβαίνει όταν ένα ον που έχει δημιουργηθεί για να υπακούει αρχίζει να ονειρεύεται την ελευθερία, συμπεριλαμβάνεται στον σύγχρονο κοινωνικό και πολιτικό προβληματισμό. Το ενδιαφέρον του κειμένου δεν εξαντλείται στο εάν μια μηχανή μπορεί να αποκτήσει συνείδηση· επεκτείνεται στο πώς μια τέτοια δυνατότητα αναδιατάσσει την έννοια της εξουσίας, της ευθύνης και του ανθρώπινου ελέγχου. Επομένως, το διήγημα μπορεί να αποτελέσει την αφετηρία όχι μόνο για τη μελέτη της ΤΝ ως ακραίου τεχνολογικού φαινομένου,  αλλά ως φαινομένου που επηρεάζει τις μορφές συμβίωσης, εργασίας και συνολικά τον σημερινό πολιτισμό της ανθρωπότητας .

Ο μετασχηματισμός της ανθρώπινης εμπειρίας

Η σύγχρονη βιβλιογραφία επισημαίνει ότι η ΤΝ δεν πρέπει να νοηθεί αποκλειστικά ως εργαλείο αποτελεσματικότητας, αλλά ως δύναμη που αναμορφώνει θεμελιώδεις όψεις της ανθρώπινης ζωής. Αναδεικνύεται, αφενός, η πρακτική της χρησιμότητα στην έρευνα, στη δημιουργικότητα, στη μάθηση και στην καθημερινή εργασία· αφετέρου, υπογραμμίζεται ότι η εκτεταμένη διείσδυσή της μεταβάλλει την αυτοαντίληψη του υποκειμένου και τον τρόπο με τον οποίο συγκροτούμε σχέσεις, αποφάσεις και μορφές νοήματος. Ιδίως σε πρόσφατες ηθικές και ανθρωπολογικές προσεγγίσεις, τίθενται ερωτήματα που ξεπερνούν το τεχνικό επίπεδο: Μπορεί η ΤΝ να διευρύνει την αυτογνωσία; Μπορεί να μεταβάλει τον τρόπο με τον οποίο βιώνουμε τη φιλία, τον έρωτα, την απώλεια ή ακόμη και την παρουσία του εαυτού μετά τον θάνατο; Η πιθανότητα μιας «υβριδικής» σχέσης ανθρώπου και μηχανής παρουσιάζεται έτσι όχι ως περιθωριακή φαντασίωση, αλλά ως πραγματικότητα στην οποία η ΤΝ αγγίζει τον πυρήνα της ηθικής και υπαρξιακής μας εμπειρίας.

Από «εργαλείο» σε «συνομιλητή»: ηθική και οντολογική μεταβολή; 

Αυτή την κρίσιμη μεταβολή φωτίζει και το Robot Dreams. Ο Έλβεξ δεν παρουσιάζεται απλώς ως μια τέλεια κατασκευασμένη μηχανή, αλλά ως ον που εμφανίζει εσωτερικότητα: βλέπει όνειρα, φαντάζεται εναλλακτικές δυνατότητες και, κυρίως, αντιλαμβάνεται τον εαυτό του ως φορέα αυτόνομου νοήματος. Η μηχανή παύει να είναι παθητικό εργαλείο και κατακτά τον ρόλο του «συνομιλητή». Η εξέλιξη αυτή συνδέεται άμεσα με κάποιες σύγχρονες ηθικές προσεγγίσεις, όπου η ΤΝ δεν αντιμετωπίζεται πια ως απλό εργαλείο, αλλά ως δύναμη που μας υποχρεώνει να επαναπροσδιορίσουμε την ευθύνη, τη διαφάνεια, τη λογοδοσία, τη μεροληψία και την ηθική αξιολόγηση των αλγοριθμικών αποφάσεων. Στο πλαίσιο αυτό, η λογοτεχνική αγωνία του Ασίμοφ μετατρέπεται σε σύγχρονο φιλοσοφικό ερώτημα: αν η μηχανή αρχίσει να μοιάζει με φορέα σκοπών, βούλησης ή αυτοαναφοράς, πώς πρέπει να δομηθεί το ηθικό πεδίο απέναντί της;

Εργασία, εξουσία και δημοκρατικός έλεγχος

Η συζήτηση αυτή γίνεται ακόμη πιο επιτακτική όταν η ΤΝ εξετάζεται στο πεδίο της εργασίας και της δημοκρατίας. Νεότερες μελέτες δείχνουν ότι οι αλγόριθμοι δεν οργανώνουν μόνο δεδομένα, αλλά και ανθρώπινες ιεραρχίες: αξιολογούν εργαζομένους, επιτηρούν αποδόσεις, επηρεάζουν προσλήψεις και αναδιαμορφώνουν το εργασιακό περιβάλλον προς κατευθύνσεις συχνά απρόσωπες και πλήρως τεχνοκρατικές. Παράλληλα, η ανάπτυξη και διάδοση ολοένα και ισχυρότερων συστημάτων ΤΝ εντείνει το ερώτημα του ελέγχου: ποιος αποφασίζει για την κατεύθυνση αυτής της τεχνολογίας και προς όφελος ποιου; Στον πρόσφατο δημόσιο διάλογο έχει υποστηριχθεί ότι η ΑΙ εξελίσσεται υπό την επιρροή μιας στενής ομάδας τεχνολογικών και οικονομικών ελίτ, χωρίς επαρκή δημοκρατική λογοδοσία, ενώ έχουν προταθεί ακόμη και μορφές δημόσιας ιδιοκτησίας ή αυστηρής κρατικής εποπτείας ώστε τα οφέλη της να μην ιδιωτικοποιούνται και οι κίνδυνοί της να μην κοινωνικοποιούνται.(βλ. δημόσιες παρεμβάσεις γερουσιαστή των Η.Π.Α Μπέρνι Σάντερς).

Tο ερώτημα της ανθρώπινης υπέρβασης, ο Διανθρωπισμός (Transhumanism)

Έντονη κριτική διατυπώνεται απέναντι σε νεο-φουτουριστικά οράματα, τα οποία προβάλλουν την τεχνολογία ως μέσο βελτίωσης, υπέρβασης ή και αντικατάστασης του ανθρώπου. Πρόσφατες δημόσιες παρεμβάσεις έχουν τονίσει ότι μέρος της σημερινής τεχνολογικής ελίτ δεν οραματίζεται απλώς προηγμένα εργαλεία, αλλά μια νέα κατάσταση όπου ο άνθρωπος είτε συγχωνεύεται με τη μηχανή είτε υποκαθίσταται από ανώτερες μορφές ψηφιακής νοημοσύνης. Η οπτική αυτή παρουσιάζεται ως βαθιά προβληματική, επειδή μετατρέπει την τεχνολογική εξέλιξη από κοινωνικό μέσο σε μεταφυσικό πρόγραμμα «υπέρβασης» του ανθρώπινου ορίου. Ακριβώς εδώ, το Robot Dreams αποκτά ιδιαίτερο βάθος: το όνειρο του Έλβεξ δεν είναι απλώς μια τεχνική δυσλειτουργία, αλλά το όριο όπου ο άνθρωπος έρχεται αντιμέτωπος με τη δυνατότητα ενός άλλου φορέα νοήματος. Το πρόβλημα, επομένως, δεν είναι μόνο η ασφάλεια της μηχανής, αλλά αν η ίδια η ανθρωπότητα θα συναινέσει σε μια τεχνολογική πορεία που αναδιατυπώνει τον ορισμό του ανθρώπινου.

Υλικές υποδομές και κοινωνικό κόστος

Πέρα από τα φιλοσοφικά ερωτήματα, πρέπει να γίνει κατανοητό ότι η τεχνητή νοημοσύνη στηρίζεται σε υλικές υποδομές: κέντρα δεδομένων, ενεργειακή κατανάλωση, εκτεταμένη χρήση φυσικών πόρων και συστήματα μεγάλης κλίμακας που επιδρούν σε τοπικές κοινωνίες. Η ανεξέλεγκτη επέκταση αυτών των υποδομών μπορεί να επηρεάζει τη χρήση γης και νερού, να αυξάνει το ενεργειακό κόστος και ταυτόχρονα να συνοδεύεται από σοβαρές συνέπειες για την εργασία, αφού η αυτοματοποίηση πλήττει, με επιθετικό τρόπο, ευρύ φάσμα επαγγελμάτων. Η κοινωνική και περιβαλλοντική διάσταση της ΤΝ αναδεικνύει, συνεπώς, ότι πρόκειται για τεχνολογία με βαρύ πολιτικό αποτύπωμα: όποιος ελέγχει τις υποδομές της ελέγχει όχι μόνο ροές πληροφορίας, αλλά και τους όρους ζωής κοινοτήτων, χωρών και κοινωνιών.

Το Robot Dreams ως πηγή σκέψης για το παρόν και το μέλλον των ανθρώπων

Υπό αυτό το πρίσμα, το Robot Dreams δεν αποτελεί απλώς λογοτεχνικό μύθο για τη συνείδηση των μηχανών. Μπορεί να προσφέρει ένα συνεκτικό ερμηνευτικό σχήμα για να σκεφτούμε τα κομβικά ζητήματα που θέτει η ΤΝ σήμερα: την αυτονομία, τα όρια του ελέγχου, τη συγκέντρωση οικονομικής και πολιτικής ισχύος, τη μοίρα της εργασίας, τη σχέση ανθρώπου και τεχνολογίας, αλλά και το ερώτημα αν, τελικά, η τεχνολογική πρόοδος υπηρετεί ή απειλεί την ανθρώπινη αξιοπρέπεια. Το εν λόγω διήγημα παραμένει έτσι εξαιρετικά γόνιμο ως πηγή σκέψης: όχι επειδή δίνει απαντήσεις, αλλά επειδή συμπυκνώνει – προφητικά; – σε λογοτεχνική μορφή το κρίσιμο πρόβλημα της εποχής μας: ποιος ορίζει το μέλλον όταν η νοημοσύνη παύει να είναι αποκλειστικά ανθρώπινο προνόμιο…

Ας αποτυπώσουμε τα θέματα που θα μελετήσουμε στην τάξη: