Aνθρώπινη κρίση, άγχος και ευθύνη: Από την αρχαία τεχνολογία στην τεχνητή νοημοσύνη

Το τεχνολογικό άγχος δεν είναι ένα απολύτως σύγχρονο φαινόμενο. Τείνουμε να το συνδέουμε με οθόνες, αλγορίθμους, ειδοποιήσεις που δεν σταματούν και συστήματα που λαμβάνουν αποφάσεις χωρίς να τα κατανοούμε πλήρως. Κι όμως, το συναίσθημα που περιγράφει, η ένταση που γεννιέται όταν τεχνολογικά εργαλεία μοιάζουν να λειτουργούν πέρα από τον έλεγχό μας, είναι πολύ παλαιότερο. Ήδη στην αρχαιότητα, η εμπειρία της τεχνολογίας συνοδευόταν από θαυμασμό αλλά και από ανησυχία γύρω από τη μετατόπιση της ανθρώπινης κρίσης και ευθύνης προς αδιαφανείς τεχνικές διαδικασίες, καθώς οι Έλληνες και οι Ρωμαίοι δεν αντιμετώπιζαν την τεχνολογία ως ουδέτερο μέσο αλλά ως δύναμη που αναδιαμορφώνει τον τρόπο με τον οποίο οι άνθρωποι δρουν, αποφασίζουν και αναλαμβάνουν ευθύνη. Η τεχνολογία περιελάμβανε όχι μόνο υλικά και μηχανικά επιτεύγματα αλλά και γνωστικές πρακτικές, όπως η γραφή, η οποία, ακριβώς επειδή αποθήκευε, μετέφερε και «αυτονομούσε» τη γνώση, εγείρει ήδη από νωρίς προβληματισμούς γύρω από τη λειτουργία της μνήμης, της κρίσης και της ευθύνης μέσα σε ένα τεχνικό σύστημα γραμμάτων. Από την ελληνιστική εποχή και εξής, ο όρος μηχανή συνδέεται ολοένα και περισσότερο με μηχανικές διατάξεις, αυτοματισμούς και συστηματοποιημένες τεχνικές διαδικασίες που λειτουργούν με σχετική αυτονομία από τον άμεσο ανθρώπινο χειρισμό. Σημαντικό, ωστόσο, είναι ότι παράλληλα ο όρος μπορούσε να δηλώνει επινόηση, τέχνασμα ή δραστική παρέμβαση σε οριακές συνθήκες (βλ. τον ἀπὸ μηχανῆς θεό στο αρχαίο δράμα) -μια σημασιολογική περιοχή που συχνά συνοδεύεται από καχυποψία και φόβο για την παράκαμψη της ανθρώπινης κρίσης. Έτσι, όπως και σήμερα, το άγχος δεν προερχόταν από την καινοτομία καθαυτή αλλά από την αίσθηση ότι η ανθρώπινη κρίση κινδυνεύει να παραγκωνιστεί.
Στον πόλεμο, η εμφάνιση μηχανικών όπλων, όπως οι καταπέλτες, εισήγαγε μια ριζικά νέα σχέση με την έννοια του ηρωισμού. Η δράση μπορούσε πλέον να ασκηθεί από απόσταση, με μικρότερη σωματική εμπλοκή και εξασθενημένο το άμεσο αίσθημα προσωπικής ευθύνης. Η νίκη δεν εξαρτιόταν πια από τη φυσική ανδρεία ή τη μετωπική σύγκρουση αλλά από την αποτελεσματική λειτουργία ενός μηχανισμού. Χαρακτηριστική είναι η αντίδραση που διασώζει ο Πλούταρχος: όταν ο Αρχίδαμος Γ΄ είδε για πρώτη φορά ένα είδος καταπέλτη, που είχε μεταφερθεί από τη Σικελία, αναφώνησε «Ω θεοί, χάθηκε η ανθρώπινη ανδρεία». Δεν πρόκειται απλώς για τεχνοφοβία αλλά για την επίγνωση ότι η πολεμική επιτυχία αποσυνδέεται από την ανθρώπινη αρετή. Το ερώτημα που αναδύεται είναι σαφές: όταν η υπεροχή επιτυγχάνεται μέσω τεχνικών μέσων, ποιος φέρει την ευθύνη της νίκης; Ο χειριστής, ο κατασκευαστής ή το ίδιο το σύστημα;
Στην ιατρική η ένταση αυτή λαμβάνει διαφορετική αλλά εξίσου αποκαλυπτική μορφή. Τα τεχνικά μέσα θεωρούνταν αναγκαία από τους ιπποκρατικούς γιατρούς αλλά ταυτόχρονα δυνητικά επικίνδυνα όταν αποκόπτονταν από την προσεκτική εκτίμηση της ανθρώπινης κατάστασης. Ο φόβος δεν αφορούσε την ίδια την τεχνολογία αλλά την υπερβολική εμπιστοσύνη στη χρήση της. Όταν το εργαλείο μετατρέπεται σε αυτοσκοπό, η θεραπεία κινδυνεύει να εκφυλιστεί σε μηχανική διαδικασία, απογυμνωμένη από κρίση, μέτρο και ευθύνη. Το κρίσιμο ερώτημα για τους αρχαίους ιατρικούς συγγραφείς ήταν ποιος αποτελεί τον πραγματικό γνώστη: εκείνος που κατέχει τη θεωρητική γνώση και σέβεται τη φύση του ανθρώπινου σώματος ή εκείνος που, μέσω εντυπωσιακών μηχανικών παρεμβάσεων, μπορεί να παράγει γρήγορα και θεαματικά αποτελέσματα, ενθουσιάζοντας τα πλήθη;
Ακόμη και η γραφή, ίσως η πιο διαδεδομένη και λιγότερο «θεαματική» τεχνολογία ή τεχνική για εμάς, προκαλούσε στην αρχαιότητα έντονη αμφιθυμία. Ήδη στον Φαίδρο του Πλάτωνα, στο περίφημο επεισόδιο με τον Θευθ και τον βασιλιά της Αιγύπτου, η γραφή παρουσιάζεται ως τεχνική που υπόσχεται μνήμη και γνώση αλλά στην πραγματικότητα απειλεί να τις αποδυναμώσει. Το γραπτό κείμενο, υποστηρίζεται στον πλατωνικό διάλογο, λειτουργεί ανεξάρτητα από τον δημιουργό του: κυκλοφορεί, επαναλαμβάνεται και ερμηνεύεται χωρίς δυνατότητα άμεσης διόρθωσης ή διαλόγου, ενώ μοιάζει να «γνωρίζει» πολλά χωρίς να κατανοεί τίποτα. Η γνώση αποκτά διάρκεια αλλά χάνει την ευκαμψία της· η μνήμη ενισχύεται εξωτερικά, ενώ εσωτερικά ατροφεί. Το πρόβλημα, ωστόσο, δεν είναι ότι η γραφή διατηρεί τη γνώση αλλά ότι μπορεί να υποκαταστήσει την ενεργή σκέψη με αποθηκευμένη πληροφορία. Όπως επισημαίνει ο Σωκράτης στον Φαίδρο, το γραπτό κείμενο προσφέρει υπόμνηση, όχι επιστήμη: υπενθύμιση χωρίς κρίση. Η ανησυχία αυτή δεν στρέφεται κατά της τεχνολογίας καθαυτής αλλά κατά της δυνατότητάς της να δημιουργεί την ψευδαίσθηση κατανόησης εκεί όπου απουσιάζει η ζωντανή, υπεύθυνη πράξη της σκέψης.
Σε όλες αυτές τις περιπτώσεις, η αρχαία εμπειρία της τεχνολογίας χαρακτηρίζεται από ένα κοινό μοτίβο: τα τεχνολογικά μέσα αποκτούν δυναμική που δεν ταυτίζεται πλέον με τις προθέσεις των χρηστών τους. Η τεχνολογία αρχίζει να διαμορφώνει τις αποφάσεις, αντί απλώς να τις εξυπηρετεί. Το άγχος γεννιέται ακριβώς σε αυτή τη μετατόπιση, όταν η ανθρώπινη παρέμβαση γίνεται λιγότερο ορατή και λιγότερο καθοριστική.
Η σημερινή συζήτηση γύρω από την τεχνολογία, και ειδικότερα γύρω από την τεχνητή νοημοσύνη και εργαλεία όπως το ChatGPT, φωτίζει με ιδιαίτερη ένταση μια ανησυχία που δεν είναι καινούργια. Το άγχος που εκφράζεται δεν αφορά μόνο την «αντικατάσταση» της σκέψης από τη μηχανή, ούτε αποκλειστικά την ηθική διάσταση της αντιγραφής. Αφορά κάτι βαθύτερο: τη δυσκολία εντοπισμού του σημείου όπου παράγεται η κρίση. Δεν είναι πλέον σαφές ποιος συνθέτει, ποιος κατανοεί, ποιος αξιολογεί και τελικά ποιος φέρει την ευθύνη για τον λόγο που παράγεται.
Σε αυτό το πλαίσιο, η τεχνητή νοημοσύνη λειτουργεί όχι απλώς ως εργαλείο αλλά ως ενδιάμεσο μεταξύ υποκειμένου και γνώσης. Η γλώσσα παράγεται χωρίς να είναι πάντα ξεκάθαρο αν συνοδεύεται από κατανόηση· η γνώση κινδυνεύει έτσι να μετατραπεί σε διαδικασία, σε αποτέλεσμα χωρίς εμπειρία, σε λόγο χωρίς εσωτερική δοκιμασία. Το άγχος που γεννιέται δεν είναι τεχνοφοβικό· είναι φιλοσοφικό.
Ακριβώς αυτός ο φόβος καθιστά την τρέχουσα συζήτηση αναγνωρίσιμη μέσα από την αρχαία εμπειρία. Η δυσπιστία απέναντι στη γραφή, στις ιατρικές ή πολεμικές μηχανές δεν στρεφόταν εναντίον της τεχνολογίας καθαυτής αλλά εναντίον της πιθανότητας να αποσυνδεθεί η πράξη από την ευθύνη και η απόφαση από την ανθρώπινη κρίση. Αυτό που φοβούνται οι αρχαίοι, και που επιστρέφει σήμερα με νέα ένταση, είναι η στιγμή κατά την οποία η σκέψη παύει να είναι ορατή, επειδή έχει ενσωματωθεί τόσο πλήρως σε τεχνικές διαδικασίες ώστε μοιάζει να λειτουργεί «από μόνη της». Αν κάτι μας διδάσκει η ελληνορωμαϊκή εμπειρία είναι ότι η τεχνολογία καθίσταται προβληματική όχι όταν εξελίσσεται αλλά όταν παύει να υποβάλλεται στη δοκιμασία της κρίσης και του λόγου. Όταν οι τεχνικές διαδικασίες λειτουργούν χωρίς να γίνονται αντικείμενο σκέψης, η ανθρώπινη ευθύνη δεν αναιρείται· απλώς καθίσταται αόρατη. Η τεχνολογία δεν υποκαθιστά την κρίση αλλά αποκαλύπτει με οξύτητα το ερώτημα αν και πώς εξακολουθούμε να κρίνουμε.
*Καθηγήτρια, Τμήμα Κλασικών Σπουδών, Johns Hopkins University
Βιβλιογραφία
Gerolemou, M. (επιμ. μαζί με T. Bur και I. A. Ruffell), Technical Animation in Classical Antiquity, Oxford University Press, Οξφόρδη, 2024.
Gerolemou, M. (επιμ. μαζί με G.-M. Chesi), Body Technologies in the Greco-Roman World: Technosôma, gender and sex, Liverpool University Press, Λίβερπουλ, 2023.
Gerolemou, M. (επιμ. μαζί με G. Kazantzidis), Body and Machine in Classical Antiquity, Cambridge University Press, Κέιμπριτζ, 2023.
Gerolemou, M., «From Hand-Bows to Torsion Artillery Devices». Στο: M. Flohr, St. Mols, T. Tieleman (επιμ.), Anchoring Technology, Brill, Λέιντεν, 2023.