Βρισκόμαστε στην αρχή του 2025, αλλά η «νέα εποχή» φαίνεται να έχει ξεκινήσει κάμποσο καιρό τώρα με την ορμητική εξέλιξη της Τεχνητής Νοημοσύνης (ΤΝ). Στο πεδίο πρόκειται να εισαχθεί και η Ελλάδα, καθώς θα είναι μία από τις 7 χώρες που θα λάβουν χρηματοδότηση από την ΕΕ για τη δημιουργία των πρώτων εργοστασίων Τεχνητής Νοημοσύνης. Στην Εποχή πριν «καβαλήσουμε το άλογο» των εξελίξεων, συζητάμε με τον Θεοφάνη Τάση, καθηγητή Σύγχρονης Πρακτικής Φιλοσοφίας στο Alpen-Adria Universitat της Αυστρίας και συγγραφέα πολλών έργων επί του ζητήματος, για το τι είναι η ΤΝ και πώς μπορεί να μετασχηματίσει από διάφορες δραστηριότητές μας, μέχρι τις διακρατικές σχέσεις και την αντίληψή μας για το ανθρώπινο.
Η ανάπτυξη και διάδοση της Τεχνητής Νοημοσύνης φαίνεται να είναι ραγδαία. Να το πάρουμε, όμως, από την αρχή; Κατά πόσο η ΤΝ είναι νοημοσύνη από την άποψη της επινοητικότητας και δημιουργίας; Ο Noam Chomsky έχει εκφράσει τις αντιρρήσεις του, η δική σας άποψη;
Η δημιουργικότητα για μένα συνδέεται με την επιθυμία. Συνδέεται, δηλαδή, με συναισθήματα και προϋποθέτει μια σωματικότητα. Αν κοιτάξω, για παράδειγμα, από τη βεράντα και δω τον όμορφο ουρανό και ακούσω το κελάηδισμα ενός πουλιού, θα αισθανθώ την επιθυμία να γράψω κάτι ή θα αναπολήσω μια στιγμή στο παρελθόν, θα συνθέσω μια μουσική κτλ. Το έργο που θα δημιουργήσω μπορεί να έχει μια υψηλή ποιότητα ή όχι, να είναι ρηξικέλευθο ή όχι, σε κάθε περίπτωση όμως θα πηγάζει από τη δική μου αυθόρμητη επιθυμία. Σε μια τεχνητή νοημοσύνη θα μπορούσε να ανατεθεί να γράψει κάτι, πχ να της δώσω την εντολή ότι με βάση αυτή την ώρα, αυτό το χρώμα του ουρανού, γράψε μου μια μελαγχολική μελωδία. Αυτό που θα έγραφε η ΤΝ πιθανώς να ήταν καλύτερο ποιοτικά όσον αφορά τη μορφή απ’ αυτό που θα έγραφα εγώ. Ωστόσο, η ριζική διαφορά είναι ότι η ΤΝ δεν είχε από μόνη της την επιθυμία να το γράψει αυτό, δεν ένιωσε ότι έπρεπε να εκφραστεί εκείνη τη στιγμή όπως ο άνθρωπος, δεν προέκυψε μέσα από τη δική της σωματική ύπαρξη μέσα στον κόσμο. Έτσι διαχωρίζω την ανθρώπινη δημιουργικότητα από τη «δημιουργικότητα» της ΤΝ.
Παρόλ’ αυτά, βλέπουμε ότι η ΤΝ εισάγεται σε τομείς που μέχρι τώρα αποτελούσαν «μονοπώλιο» του ανθρώπου, όπως κρίσης, γνώσης, δημιουργίας κτλ. Πρόσφατα, μάλιστα, η OpenAI με το Πανεπιστήμιο Duke συζητάνε τη δημιουργία ενός προγράμματος ΤΝ «ηθικής πυξίδας». Τα νέα δεδομένα πώς μπορούν να επηρεάσουν την αντίληψη και νοηματοδότηση μας για το ανθρώπινο;
Όντως, αν αυτοπροσδιοριζόμασταν ή υπάρχει μια αντίληψη που κατανοεί το ανθρώπινο ως ορθολογικό συγκριτικά με τα υπόλοιπα ζώα που δεν είναι ορθολογικά ή με τις μηχανές που δεν μπορούσαν να σκεφτούν ορθολογικά, θα πρέπει να αναθεωρήσουμε. Εγώ, όμως, δεν θεωρώ πως η ορθολογικότητα −το αριστοτελικό ότι ο άνθρωπος είναι το έλλογο ζώον− είναι αυτό που μας προσδιορίζει πρωτίστως. Πιστεύω ότι η ορθολογικότητα είναι η κορυφή του παγόβουνου. Η κάθε ορθολογικότητα είναι εμποτισμένη με −και αναδύεται από− πάθη, από το σώμα μας. Δεν είμαστε απολύτως ορθολογικοί, ίσα-ίσα ο άνθρωπος χαρακτηρίζεται από την αντιφατικότητα και την αμφιθυμία του. Ούτε τα συναισθήματά μας είναι καθαρά, δεν καθοριζόμαστε από συναισθήματα που είναι μοναδικά, αλλά υπάρχουν πολλά συναισθήματα που αναδύονται συγχρόνως και κάποια είναι ισχυρότερα από τα άλλα και μερικές φορές είναι εξίσου ισχυρά. Ο άνθρωπος, λοιπόν, είναι μια ύπαρξη, για μένα, που χαρακτηρίζεται από μία παραστασιακή, αισθηματική, βουλητική ροή. Κάθε φορά, δηλαδή, όπου κι αν βρισκόμαστε, έχουμε εικόνες που συνοδεύονται από συναισθήματα, που συνοδεύονται από επιθυμίες και η σκέψη είναι η στιγμή που συνειδητοποιούμε ένα θραύσμα από αυτή τη ροή. Δεν χαρακτηρίζει αυτό τους υπολογιστές. Ένας υπολογιστής «τρέχει» ένα λογισμικό, η λειτουργία του δεν συναντάται με το υπόβαθρο, τον μηχανισμό, τους μικροεπεξεργαστές. Αν οι μικροεπεξεργαστές παρουσιάσουν βλάβη, το σύστημα δεν θα λειτουργεί, αλλά κατά τ’ άλλα η λειτουργία του λογισμικού δεν έχει μια διαλλακτική σχέση με το υπόβαθρο. Για να το εξηγήσω με ένα παράδειγμα: Αυτή τη στιγμή συνομιλώ μαζί σας και είμαι σχετικά ευδιάθετος καθώς είναι παραμονή εορτών, η ευδιαθεσία μου αυτή καθορίζει και αυτά που σας λέω. Αν είχα έναν πονοκέφαλο, θα ήταν αλλιώς. Το σώμα καθορίζει το δικό μας «λογισμικό», όχι με την έννοια της βλάβης, αλλά επειδή το σώμα και η σκέψη στον άνθρωπο συνδέονται. Αν, πχ, μου λέγατε κάτι προσβλητικό, θα ένιωθα τους σφυγμούς μου να ανεβαίνουν. Το ανθρώπινο «λογισμικό» επηρεάζει το σώμα μας και το σώμα μας επηρεάζει αντίστοιχα το «λογισμικό» μας. Αυτή η ενότητα σώματος – ψυχικού δεν βρίσκει αντίστοιχο στη σχέση λογισμικό – υλικό ενός υπολογιστή, είναι οντολογικά δύο τελείως διαφορετικές καταστάσεις. Οπότε όταν χρησιμοποιούμε λέξεις όπως δημιουργικότητα, ευφυία κτλ για τους υπολογιστές, τις χρησιμοποιούμε διασταλτικά και υπό μία έννοια ανθρωπομορφίζοντας. Με αυτό δεν θέλω να πω πως οι υπολογιστές δεν διαθέτουν ένα είδος ευφυίας και δημιουργικότητας, αλλά αν θέλουμε να χρησιμοποιούμε αυτές τις λέξεις για να περιγράψουμε τις δραστηριότητες των υπολογιστών, την ίδια στιγμή θα πρέπει να έχουμε επίγνωση ότι είναι ριζικά διαφορετικές όταν τις χρησιμοποιούμε για τα ανθρώπινα όντα.
Υπάρχει κίνδυνος η ΤΝ, όταν εισέρχεται μέχρι και σε ζητήματα ηθικής αλλά όχι μόνο, να ιδωθεί σαν έκφραση αυθεντίας, το απόλυτο ορθολογικό μέσο; Και τι επιπτώσεις θα είχε αυτό, ιδίως στο πολιτικό επίπεδο;
Δεν είναι εύκολο να χρησιμοποιούμε την ΤΝ γνωμοδοτικά για ηθικά ζητήματα. Θα μπορούσαμε να θέσουμε σε μια ΤΝ ηθικά διλλήματα, αλλά με ποιο τρόπο θα τα απαντούσε; Θα είχε, πρώτα απ’ όλα, εκπαιδευτεί σε έναν τεράστιο όγκο δεδομένων, έργων φιλοσοφικής σκέψης, και δεύτερον, φαντάζομαι, η ΤΝ θα διέθετε αισθητήρες και θα κατέγραφε αλληλεπιδράσεις μεταξύ ανθρώπων σε ηθικά ζητήματα. Θα συνδύαζε, πιθανώς, το ένα με το άλλο και θα μπορούσε να καταλήξει σε συμπέρασμα. Τα προβλήματα, όμως, είναι τα εξής: Οι φιλόσοφοι δεν έχουμε καταλήξει σε μία ηθική θεωρία, η οποία να θεμελιώνεται πλήρως ορθολογικά με ένα τρόπο αντικειμενικό και αδιαμφησβήτητο. Διαθέτουμε πάρα πολλές διαφορετικές ηθικές θεωρίες, οι οποίες μάλιστα είναι αλληλοσυγκρουόμενες μεταξύ τους. Αν, λοιπόν, μια ΤΝ εκπαιδευτεί με βάση τις δικές μας ηθικές φιλοσοφίες, θα περιλαμβάνει εξαρχής τις ίδιες αντιφάσεις που θα έχουμε εμείς. Δεύτερον, όσον αφορά την παρατήρηση των αλληλεπιδράσεων μεταξύ ανθρώπων στις οποίες θα εκπαιδευτεί, αυτές είναι εξίσου πολύπλοκες, ρευστές και αντιφατικές και καθορίζονται από την πρόσληψή τους. Αν εμείς οι δύο παρακολουθήσουμε μια λογομαχία, θα έχουμε μια πολύ διαφορετική πρόσληψη για το ποιος έχει δίκιο και ποιος έχει άδικο. Αντίστοιχα, μια ΤΝ τη στιγμή μιας καταγραφής θα πρέπει να ερμηνεύσει και να επιλέξει με βάση τις φιλοσοφικές θεωρίες στις οποίες θα έχει εκπαιδευτεί ότι αυτός έχει δίκιο ή άδικο, το οποίο όμως είναι προβληματικό. Τέλος, το σημαντικότερο απ’ όλα, είναι ότι η ηθική πράξη δεν εξαντλείται ορθολογικά. Το τι είναι καλό, τι είναι σωστό και τι όχι, είναι κάτι που κάθε φορά συνοδεύεται από συναισθήματα. Η ηθική πράξη χαρακτηρίζεται από μεταμέλεια, ντροπή, αιδώ. Οπότε επιστρέφουμε σ’ αυτό που ανέφερα πρωτύτερα, στο ζήτημα της σωματικότητάς μας. Η προϋπόθεση μιας ηθικής πράξης είναι πάλι τα συναισθήματα και μια σωματικότητα. Υπό αυτή την έννοια, δεν πιστεύω ότι θα μπορούσαμε να έχουμε μια ηθική ΤΝ. Από εκεί και πέρα, θα ήταν χρήσιμο να έχουμε ένα «φιλόσοφο» δίπλα μας, δηλαδή κάποιον που γνωρίζει όλες τις ηθικές φιλοσοφίες και μπορεί με κάποιον τρόπο να τις εφαρμόζει. Αλλά αυτό για μένα θα ήταν ένα είδος αριθμομηχανής της ηθικής. Το ίδιο ισχύει και στην πολιτική που αναφέρατε, επειδή η πολιτική πράξη αφορά ζητήματα που δεν είναι πλήρως ορθολογικά. Δεν είναι, δηλαδή, επιστημονικά, είναι ζητήματα που αφορούν φόβους, επιθυμίες, ταυτότητα και εν τέλει το νόημα. Η πολιτική, βέβαια, διαθέτει μια διάσταση που είναι περισσότερο εργαλειακή, δηλαδή τεχνοκρατική, που αφορά πχ από πού πρέπει να περάσει η Εθνική Οδός που θα συνδέει την Αθήνα με την Ηγουμενίτσα κτλ. Αυτά είναι ζητήματα που εμπεριέχουν μια ορθολογικότητα, υπάρχει δηλαδή ένας αντικειμενικός τρόπος να ορίσεις ποια είναι η βέλτιστη διαδρομή με βάση τον χρόνο, τη μορφολογία του εδάφους κ.ο.κ Όσον αφορά τέτοια ζητήματα, μια ΤΝ θα μπορούσε να λειτουργήσει γνωμοδοτικά, αλλά όπως ξέρουμε οι αποφάσεις αυτές σε πολιτικό επίπεδο δεν λαμβάνονται αποκλειστικά με ορθολογικά κριτήρια, αλλά και υπόψιν τοπικά και άλλα συμφέροντα. Οπότε θα μπορούσαμε να έχουμε μια περιορισμένη χρήση της ΤΝ στην πολιτική, αλλά να ενδώσουμε στον πειρασμό να προτείνουμε μια αλγοριθμοκρατία, επειδή αυτή θα ήταν αδιάφθορη, αδιάβλητη, αντικειμενική και ορθολογική, μου φαίνεται λανθασμένο και επικίνδυνο.
Είναι και το ζήτημα που θέσατε, με βάση ποιες αρχές τροφοδοτούμε, προγραμματίζουμε την ΤΝ να τρέχει. Ποιος αποφασίζει και πώς γι’ αυτό το ζήτημα. Έχουν εξεταστεί ζητήματα ασφάλειας και κοινωνικών επιπτώσεων ή έχουμε «καβαλήσει το κύμα» και πάμε;
Δυστυχώς, ισχύει το δεύτερο. Η ΤΝ στο παρόν στάδιο της εξέλιξής της δεν είναι ότι εμείς την προγραμματίζουμε με βάση κάτι. Η ΤΝ μαθαίνει να μαθαίνει μόνη της και εμείς απλά την ανατροφοδοτούμε για τα αποτελέσματα που κατέληξε αν είναι σωστά ή όχι και μετά με βάση αυτή την ανατροφοδότηση από εμάς, η ΤΝ βελτιώνεται ακόμα περισσότερο. Η δυσκολία είναι ότι, πρώτον, οι εταιρείες ΤΝ δεν έχουν βρει τον τρόπο και ούτε έχουν την επιθυμία να κινηθούν στην κατεύθυνση δημιουργίας μιας ασφαλούς ΤΝ, γιατί κάτι τέτοιο προϋποθέτει και να γνωρίζουν πώς ακριβώς να το κάνουν −που δεν το γνωρίζουν και θα έπρεπε να χρηματοδοτήσουν σχετικές ομάδες− και να δώσουν έμφαση στην ασφάλεια, που θα απόβαινε σε βάρος της ταχύτητας ανάπτυξης της ΤΝ και άλλες εταιρείες που έχουν λιγότερες ηθικές αναστολές, θα κέρδιζαν την κούρσα, καθώς μιλάμε ουσιαστικά για έναν αγώνα ταχύτητας. Αυτό σημαίνει ότι αναπτύσσουμε μια ΤΝ σήμερα, λίγο έως πολύ, σαν να κατασκευάζουμε έναν πυρηνικό αντιδραστήρα, χωρίς να έχουμε λύσει ακόμα το πρόβλημα της ελεγχόμενης σχάσης. Η λογική που επικρατεί είναι «ας ξεκινήσουμε να το φτιάχνουμε και όταν φτάσουμε στο σημείο να ξεκινήσουμε τον αντιδραστήρα, θα το λύσουμε». Δεν γίνεται αυτό, όμως, γιατί αν η σχάση δεν είναι ελεγχόμενη από την αρχή, τότε έχεις πυρηνική βόμβα. Αυτό συμβαίνει σήμερα και γι’ αυτό έχουμε πρωτεργάτες στην ΤΝ, όπως ο Geoffrey Hinton που πήρε και το Νόμπελ Φυσικής, να δηλώνουν ότι −χωρίς να θέλω να ακουστώ καταστροφολόγος− εγκυμονείται ένας υπαρξιακός κίνδυνος για την ανθρωπότητα. Γιατί πολύ απλά, η ταχύτητα με την οποία αναπτύσσεται η ΤΝ, μας οδηγεί σε ένα σημείο που η δυνατότητα παρέμβασής μας σε αυτή γίνεται πολύ μικρότερη. Με αυτό δεν θέλω να υποτιμήσω καθόλου τα οφέλη της ΤΝ, τα οποία προφανώς και θα είναι ριζικά και θα μετασχηματίσουν σχεδόν κάθε πτυχή της ανθρώπινης δραστηριότητας, αλλά θα πρέπει να επιλέξουμε μεταξύ μιας φρόνιμης στάσης, η οποία θα μας οδηγήσει σε ένα αυτοπεριορισμό, και μιας στάσης διακινδύνευσης, η οποία με έπαθλο έναν «πλανήτη», όπως υπόσχονται οι ευαγγελιστές αυτής της θεώρησης, όπου όλα θα έχουν λυθεί, είμαστε διατεθειμένοι να διακινδυνέψουμε και το ίδιο μας το μέλλον ως ανθρώπινο είδος.
Η μεγαλύτερη αισιοδοξία για τα οφέλη της ΤΝ συνήθως εντοπίζεται στο πεδίο της ιατρικής. Τίθεται, βέβαια, και το ζήτημα της ανθρώπινης αναβάθμισης, με το οποίο έχετε καταπιαστεί συχνά στο έργο σας. Να μας πείτε λίγο περισσότερα;
Η ανθρώπινη αναβάθμιση μέσω της τεχνικής ορίζεται ως οποιαδήποτε παρέμβαση στο ανθρώπινο σώμα που δεν αφορά ή υπερβαίνει τη διατήρηση ή αποκατάσταση της υγείας. Για παράδειγμα αν κάποιος κάνει μια επέμβαση λέιζερ στα μάτια γιατί έχει μυωπία, αυτό δεν είναι αναβάθμιση, αλλά είναι αποκατάσταση της υγείας. Αν όμως η επέμβαση επέτρεπε σε κάποιον να έβλεπε, πχ, στο υπέρυρθρο, τότε αυτό συνιστά αναβάθμιση, γιατί ξεπερνάται αυτό που μπορεί να κάνει η ανθρώπινη όραση. Την ανθρώπινη αναβάθμιση υπερασπίζεται ένα ρεύμα παρεπιστημονικό −και καλλιτεχνικό, πολιτικό, ακόμη και θρησκευτικό− που ονομάζεται Υπερανθρωπισμός. Αυτός πρεσβεύει πως θα πρέπει να αξιοποιήσουμε την τεχνική ούτως ώστε να εξυψώσουμε το ανθρώπινο είδος, να αναπληρώσουμε όλα τα μειονεκτήματά του και να οδηγηθούμε στη «θέωση». Ένα πολύ επικίνδυνο, για μένα, ρεύμα, το οποίο σήμερα με τη χρήση της ΤΝ μεταβαίνει στο επόμενο στάδιο, υπό την έννοια, πρώτον, ότι η ΤΝ εφαρμοζόμενη σ’ αυτή την κατεύθυνση θα δώσει εκπληκτικά νέα αποτελέσματα, με πολύ μεγάλη ταχύτητα, και, δεύτερον, οι υπερανθρωπιστές πρεσβεύουν ότι ο μόνος τρόπος για να προφυλαχθούμε από τις απειλές που συζητήσαμε νωρίτερα, από μία ενδεχόμενη κυριαρχία της ΤΝ, είναι να αναβαθμιστούμε οι ίδιοι, προκειμένου να μπορέσουμε να αντιμετωπίσουμε την ΤΝ −κυρίως να αναβαθμιστούμε διανοητικά πρώτα απ’ όλα.
Οι επιπτώσεις όλων αυτών θα ήταν κατακλυσμιαίες σε πολλά επίπεδα, μεταξύ άλλων και όσον αφορά το ζήτημα των ανισοτήτων. Η ΤΝ τελικά μπορεί να οξύνει ή να αμβλύνει τις υπάρχουσες κοινωνικές, αλλά και διακρατικές ανισότητες, κατά τη γνώμη σας;
Οι γεωπολιτικές συνέπειες της ανάπτυξης της ΤΝ είναι ήδη ορατές όσον αφορά την εξεύρεση των αναγκαίων υλικών για τους μικροεπεξεργαστές, αλλά θα γίνουν ακόμα περισσότερο δραματικές όταν κάποιες χώρες πετύχουν την ανάπτυξη μιας γενικής ΤΝ και ακολούθως μιας πιθανώς υπερ-ΤΝ. Η διαφορά αυτών των χωρών απ’ όσων δεν θα το έχουν πετύχει, θα είναι πολύ μεγαλύτερη από τη διαφορά που είχαν παλαιότερα οι βιομηχανοποιημένες χώρες και οι μη. Παράλληλα, υπάρχει ένα ακόμη ζήτημα, που είναι ότι οι ίδιες εταιρείες που αναπτύσσουν την ΤΝ είναι πια τόσο ισχυρές, ώστε να δρουν ανταγωνιστικά προς τα έθνη κράτη. Το βλέπουμε αυτή τη στιγμή στην περίπτωση του Ίλον Μασκ. Με αρχή αυτόν και ακόλουθους τις υπόλοιπες εταιρείες ΤΝ, έχουμε πια έναν πόλο εξουσίας εντός των ΗΠΑ που λειτουργεί ανταγωνιστικά σε σχέση με την πολιτική εξουσία. Αυτό θα γίνει πολύ εντονότερο στη συνέχεια. Δεν ξέρω κατά πόσο, δηλαδή, θα μπορέσουν τα έθνη κράτη να ελέγξουν τις εταιρείες ΤΝ ή αν αυτές θα είναι σε θέση εν τέλει, παρεμβαίνοντας με άμεσους ή έμμεσους τρόπους, να ελέγξουν τα έθνη κράτη. Σε ό,τι αφορά τις κοινωνικές ανισότητες, εικάζω πως θα υπάρξει κάτι αντίστοιχο με την ανάπτυξη του διαδικτύου, μόνο που θα είναι, επίσης, σε πολύ μεγαλύτερο βαθμό. Θα έχουμε, δηλαδή, μια διαφορά σε όσους θα έχουν ταχεία, άμεση και υψηλότερης ποιότητας πρόσβαση στην ΤΝ, συγκριτικά με όσους δεν έχουν αυτού του είδους την πρόσβαση ή δεν γνωρίζουν καν πως μπορούν να χρησιμοποιήσουν την ΤΝ στην καθημερινότητά τους. Το συγκριτικό πλεονέκτημα των πρώτων είναι σαφώς πολύ μεγαλύτερο.
Άρα, κατά τη γνώμη σας, θα έπρεπε να τεθούν κάποιου είδους περιορισμοί στην ΤΝ; Ποιοι θα ήταν αυτοί; Είναι δυνατόν να διεκδικηθεί και να εφαρμοστεί κάτι τέτοιο;
Ιδίως τώρα μετά τις πρόσφατες αμερικανικές εκλογές που το λόμπι της ΤΝ, ο Ίλον Μασκ και οι υπόλοιποι, έχουν πρόσβαση άμεση στον Λευκό Οίκο και η φιλοσοφία από την οποία διέπονται γενικότερα, είναι ότι δεν πρέπει να επιβληθούν όρια στην αγορά και στην ανάπτυξη της ΤΝ, εκεί στην παρούσα φάση είμαι σκεπτικός κατά πόσο θα μπορούσαμε να πετύχουμε αυτή τη ρύθμιση στην ανάπτυξη της ΤΝ −λόγω και του ανταγωνισμού με την Κίνα. Όσον αφορά στην Ευρώπη τα πράγματα είναι πολύ καλύτερα, αλλά η Ευρώπη βρίσκεται και αυτή πιο πίσω. Από αυτή την άποψη, το ότι έχουμε το καλύτερο νομοθετικό πλαίσιο αυτή τη στιγμή και είμαστε πάντα διατεθειμένοι να βελτιώνουμε αυτό το πλαίσιο, δεν αφήνει περιθώρια για πολλή αισιοδοξία όσον αφορά την κατάσταση του πλανήτη γενικά. Όσον αφορά, όμως, εμάς ως πολίτες και ανθρωπότητα, γιατί εμείς είμαστε αποδέκτες αυτού του προϊόντος και δεν πρέπει να ξεχνάμε ότι η ΤΝ είναι και ένα προϊόν που πωλείται σ’ αυτή τη φάση της καπιταλιστικής ανάπτυξης, το ερώτημα που θα πρέπει να θέσουμε στους εαυτούς ως άτομα, αλλά συγχρόνως και ως κοινωνίες, είναι ποιες ανθρώπινες δραστηριότητες επιθυμούμε να διατηρήσουμε για εμάς τους ίδιους, επειδή διαθέτουν αυταξία και ποιες επιθυμούμε να διαθέσουμε στην ΤΝ επειδή είναι επικίνδυνες, πληκτικές, αδιάφορες κτλ. Ο κίνδυνος εδώ είναι, λόγω της ευκολίας, βαθμιαία να αναθέσουμε όλες μας τις δραστηριότητες στην ΤΝ, το οποίο θα σήμαινε και την απώλεια της αυτονομίας μας και εν τέλει της ανθρωπινότητάς μας.