Σενάριο επιστημονικής φαντασίας; Οχι.
Νευροκαπιταλισμός
Η τεχνολογία ανάγνωσης του εγκεφάλου έρχεται. Το Φέισμπουκ και η Eλονς Nευρολίνκ δημιουργούν τεχνολογία για να διαβάζουν το μυαλό σας – κυριολεκτικά.
«Τίποτα δεν ήταν το δικό σου εκτός από τα λίγα κυβικά εκατοστά μέσα στο κρανίο σου». Αυτό είναι από το μυθιστόρημα του Τζορτζ Οργούλ το 1984, που δημοσιεύθηκε το 1949.
Το σχόλιο έχει σκοπό να υπογραμμίσει την καταπιεστική κατάσταση επιτήρησης που ζουν οι χαρακτήρες αλλά αν το εξετάσουμε διαφορετικά, δείχνει και πόσο τυχεροί είναι:
Τουλάχιστον οι εγκέφαλοί τους είναι ακόμα ιδιωτικοί.
Στην εποχή του νευροκαπιταλισμού, ο εγκέφαλός σας χρειάζεται νέα δικαιώματα.
Η εταιρεία του Μάρκ Ζούκεμπεργκ χρηματοδοτεί έρευνα σε διεπαφές εγκεφάλου-υπολογιστή (BCI), οι οποίες μπορούν να αντλήσουν σκέψεις απευθείας από τους νευρώνες σας και να τις μεταφράσουν σε λέξεις. Οι ερευνητές λένε ότι έχουν ήδη δημιουργήσει έναν αλγόριθμο που μπορεί να αποκωδικοποιήσει τις λέξεις από την εγκεφαλική δραστηριότητα σε πραγματικό χρόνο.Και η εταιρεία του Μάσκ έχει δημιουργήσει ευέλικτα «νήματα» που μπορούν να εμφυτευτούν σε έναν εγκέφαλο και θα σας επιτρέψουν μία μέρα να ελέγχετε το έξυπνο τηλέφωνο ή τον υπολογιστή σας μόνο με τις σκέψεις σας. Ο Mάσκ θέλει να ξεκινήσει τις δοκιμές στους ανθρώπους μέχρι τα τέλη του επόμενου έτους, δηλαδή μέχρι το τέλος του 2020.
Άλλες εταιρείες όπως η Kernel, η Emotiv και η Neurosky εργάζονται επίσης στην τεχνολογία του εγκεφάλου. Λένε ότι την αναπτύσουν για ηθικούς σκοπούς, όπως βοηθώντας τους ανθρώπους με παράλυση να ελέγχουν τις συσκευές τους.
Αυτό μπορεί να ακούγεται σαν επιστημονική φαντασία, αλλά έχει ήδη αρχίσει να αλλάζει τη ζωή των ανθρώπων. Κατά τα τελευταία δέκα χρόνια, ένας αριθμός παράλυτωνν ασθενών έλαβε εμφυτεύματα εγκεφάλου που τους επιτρέπουν να μετακινούν έναν δρομέα υπολογιστή ή να ελέγχουν ρομποτικά άκρα. Τα εμφυτεύματα που μπορούν να διαβάσουν τις σκέψεις θέλουν κάποια χρόνια ακόμα για να διατεθούν σε εμπορική διαθεσιμότητα, αλλά η έρευνα στον τομέα κινείται γρηγορότερα από ό, τι συνειδητοποιούν οι περισσότεροι.
Ο εγκέφαλός σας, το τελικό σύνορο της ιδιωτικής ζωής, μπορεί να μην είναι ιδιωτικός για πολύ ακόμα.
Ορισμένοι νευροεπιστήμονες ισχυρίζονται ότι η δυνατότητα κακής χρήσης αυτών των τεχνολογιών είναι τόσο μεγάλη που χρειαζόμαστε αναμορφωμένους νόμους για τα ανθρώπινα δικαιώματα – μια νέα «νομολογία του νου» – για να προστατευτούμε.
Οι τεχνολογίες έχουν τη δυνατότητα να παρεμβαίνουν στα δικαιώματα που είναι τόσο βασικά ώστε δεν μπορούμε να τα σκεφτόμαστε ούτε καν σαν δικαιώματα, όπως η ικανότητά μας να καθορίζουμε πού τελειώνουμε εμείς και που αρχίζουν οι μηχανές.
Οι ισχύοντες νόμοι μας δεν είναι ικανοί να το αντιμετωπίσουν.
4 νέα δικαιώματα που ίσως χρειαστούν να κατοχυρωθούν με νόμοΟρισμένες χώρες σκέφτονται ήδη πώς να χειριστούν τα «δικαιώματα του νού».
Στη Χιλή, χάρη εν μέρει στην υπεράσπιση του νευροεπιστήμονα Rafael Yuste, η κυβέρνηση συμφώνησε τον Οκτώβριο να παράσχει επίσημη υποστήριξη για μια ατζέντα νευροπροστασίας που θα καθιστούσε την προστασία των δεδομένων του εγκεφάλου ανθρώπινο δικαίωμα.
Στην Ευρώπη, ο ΟΟΣΑ ενέκρινε τον Δεκέμβριο ένα σύνολο εννέα νέων αρχών για τη ρύθμιση της χρήσης δεδομένων για τον εγκέφαλο – το πρώτο διεθνές πρότυπο στον τομέα αυτό.
Ένας από τους κύριους ανθρώπους που πιέζουν για αυτά τα νέα ανθρώπινα δικαιώματα είναι ο ειδικός σε θέματα ηθικής της νευροεπιστήμης Marcello Ienca, ερευνητής στο ETH Zurich, ένα από τα κορυφαία πανεπιστήμια της Ευρώπης στον τομέα της επιστήμης και της τεχνολογίας.
http://www.cognitiveliberty.org/ccle1/10jcl/jcl_vol4num1.pdf
Το 2017, κυκλοφόρησε ένα έγγραφο που περιγράφει τέσσερα συγκεκριμένα δικαιώματα για την εποχή της νευροτεχνολογίας που πιστεύει ότι πρέπει να κατοχυρωθούν δια νόμου.
Τον ρώτησα τι σκέφτεται για τις πρόσφατες αποκαλύψεις από το Φέισμπουκ και την Νεύραλινκ.
«Είμαι πολύ ανήσυχος για την εμπορευματοποίηση των δεδομένων του εγκεφάλου στην καταναλωτική αγορά», ανέφερε. «Και δεν μιλάω για ένα απίθανομέλλον. Έχουμε ήδη καταναλωτική νευροτεχνολογία, με ανθρώπους που εμπορεύονται τα δεδομένα του εγκεφάλου τους για υπηρεσίες από ιδιωτικές εταιρείες. » Αναφέρθηκε στο neurogaming, όπου ελέγχετε τις κινήσεις σας σε ένα βιντεοπαιχνίδι χρησιμοποιώντας τη δραστηριότητα του εγκεφάλου σας παρά έναν παραδοσιακό ποντίκι και την αυτο-παρακολούθηση, όπου χρησιμοποιείτε φορητές συσκευές για να ελέγχετε, για παράδειγμα, τον ύπνο σας. «Μπήκα στον πειρασμό να το ονομάσω νευροκαπιταλισμό.»
Η BCI τρεχνολογία περιλαμβάνει συστήματα που «διαβάζουν» τη νευρική δραστηριότητα για να αποκωδικοποιήσουν αυτό που έχει ήδη ειπωθεί, συχνά με τη βοήθεια του λογισμικού επεξεργασίας AI και συστήματα που «εγγράφουν» στον εγκέφαλο, δίνοντάς του νέες πληροφορίες για να αλλάξει στην πραγματικότητα την λειτουργία του. Ορισμένα συστήματα κάνουν και τα δύο.
Όταν ρώτησα τον Ienca να εξηγήσει καθένα από τα τέσσερα ανθρώπινα δικαιώματα που πιστεύει ότι χρειαζόμαστε και να δώσουμε ένα συγκεκριμένο παράδειγμα για το πώς μπορεί να τα παραβιάσει η νευροτεχνολογία, ήρθε με κάποια τρομακτικά σενάρια, μερικά από αυτά ήδη σε εξέλιξη. Ας τα αναλύσουμε.
1. Το δικαίωμα στη γνωστική ελευθερία
Θα πρέπει να έχετε το δικαίωμα να αποφασίσετε ελεύθερα εαν θέλετε να χρησιμοποιήσετε μια δεδομένη νευροτεχνολογία ή να την αρνηθείτε.
Στην Κίνα, η κυβέρνηση μαζεύει ήδη δεδομένα από τους εγκεφάλους κάποιων εργαζομένων με το να τους φοράει συσκευές που σαρώνουν τα εγκεφαλικά τους κύματα για κατάθλιψη, άγχος, οργή ή κόπωση. «Εάν ο εργοδότης σας θέλει να φορέσετε μια συσκευή εγκεφαλογραφήματος EEG για να παρακολουθείτε τα επίπεδα προσοχής σας, αυτό μπορεί να χαρακτηριστεί ως παραβίαση της αρχής της γνωσιακής ελευθερίας», δήλωσε ο Ienca, διότι ακόμα κι αν σας πει ότι η χρησιμοποίηση της συσκευής είναι προαιρετική,πιθανότατα θα αισθάνονται έμμεσες πιέσεις για να το κάνουν, δεδομένου ότι δεν θέλετε να βρίσκεστε σε ανταγωνιστικό μειονέκτημα.
Πρόσθεσε ότι ο στρατός των ΗΠΑ εξετάζει επίσης τις νευροτεχνολογίες για να καταστήσει τους στρατιώτες πιο κατάλληλους για το καθήκον. Κάτω από τη γραμμή, αυτό θα μπορούσε να περιλαμβάνει τρόπους για να τους καταστήσει λιγότερο ενσυναισθητικούς και πιο πολεμοχαρείς. Οι στρατιώτες ενδέχεται να πιεστούν για να δεχθούν παρεμβάσεις.
«Υπάρχει ήδη στρατιωτική χρηματοδότηση για να διαπιστωθεί εάν μπορούμε να παρακολουθούμε τις μειώσεις στα επίπεδα προσοχής και συγκέντρωσης, με υβριδικά ΒΚΚ που μπορούν να΄΄ διαβάσουν ΄΄τα ελλείμματα στα επίπεδα προσοχής και να ΄΄ γράψουν ΄΄στον εγκέφαλο για να αυξήσουν την εγρήγορση μέσω της νευροδιαμόρφωσης. Υπάρχουν προγράμματα χρηματοδοτούμενα από την DARPA που επιχειρούν να το κάνουν «, ανέφερε ο Ienca, αναφερόμενος στο προηγμένο ερευνητικό γραφείο του Τμήματος Άμυνας.
2. Το δικαίωμα στην ιδιωτική ζωή
Θα πρέπει να έχετε το δικαίωμα να αποκλείσετε τα δεδομένα του εγκεφάλου σας από το να τα μοιραστείτε δημοσίως.
Ο Ienca τόνισε ότι η νευροτεχνολογία έχει τεράστιες επιπτώσεις στην επιβολή του νόμου και στην επιτήρηση της κυβέρνησης. «Αν οι συσκευές ανάγνωσης εγκεφάλου έχουν την ικανότητα να διαβάζουν το περιεχόμενο των σκέψεων», ανέφερε, «τα επόμενα χρόνια οι κυβερνήσεις θα ενδιαφέρονται να χρησιμοποιήσουν αυτή την τεχνολογία για ανακρίσεις και έρευνες».
Το δικαίωμα να παραμείνειτε σιωπηλός και η αρχή κατά της αυτοενοχοποίησης – που κατοχυρώνεται στο Σύνταγμα των ΗΠΑ – θα μπορούσε να καταστεί άνευ αντικειμένου σε έναν κόσμο όπου οι αρχές έχουν την εξουσία να παρακολουθούν την ψυχική σας κατάσταση χωρίς τη συγκατάθεσή σας.
Είναι ένα σενάριο που θυμίζει το επιστημονικό περιοδικό Minority Report, στο οποίο μια ειδική αστυνομική μονάδα που ονομάζεται PreCrime Division εντοπίζει και συλλαμβάνει δολοφόνους πριν διαπράξουν τα εγκλήματά τους.
3. Το δικαίωμα στη διανοητική ακεραιότητα
Θα πρέπει να έχετε το δικαίωμα να μην υποστείτε σωματική ή ψυχολογική βλάβη από τη νευροτεχνολογία.Η BCI τεχνολογία εξοπλισμένη με μια λειτουργία «εγγραφής» μπορεί να επιτρέψει νέες μορφές πλύσης εγκεφάλου, επιτρέποντας θεωρητικά σε όλα τα είδη των ανθρώπων να ασκούν έλεγχο πάνω στο νου μας: θρησκευτικές αρχές που θέλουν να κατηχήσουν τους ανθρώπους, πολιτικά καθεστώτα που θέλουν να ακυρώσουν αντιπάλους, τρομοκρατικές ομάδες που αναζητούν νέους ανθρώπους.
Επιπλέον, συσκευές όπως αυτές που κατασκευάστηκαν (ήδη ;;;;) από το Φέισμπουκ και το Νεύρολινκ ενδέχεται να είναι ευάλωτες σε χάκινγκ. Τι συμβαίνει εάν χρησιμοποιείτε μια από αυτές και ένας κακόβουλος παρακολουθεί το σήμα Bluetooth, αυξάνοντας ή μειώνοντας την τάση του ρεύματος που πηγαίνει στον εγκέφαλό σας – με αποτέλεσμα να καταστείτε πιο καταθλιπτικός, ας πούμε, ή πιο συμμορφωμένος;
Οι νευροεπιστήμονες το αναφέρουν ως εγκεφαλικό χακάρισμα. «Αυτό εξακολουθεί να είναι υποθετικό, αλλά η δυνατότητα έχει αποδειχθεί σε μελέτες απόδειξης ιδεών», δήλωσε ο Ienca, προσθέτοντας, «Ένα τέτοιο χακάρισμα δεν θα απαιτούσε τόσο μεγάλη τεχνολογική πολυπλοκότητα».
4. Το δικαίωμα στην ψυχολογική συνέχεια
Θα πρέπει να έχετε το δικαίωμα να προστατεύεστε από τις αλλαγές στην αίσθηση του εαυτού σας που δεν έχετε εξουσιοδοτήσει.
Σε μια μελέτη, μια επιληπτική γυναίκα που έλαβε ένα BCI αισθάνθηκε μια τόσο ριζοσπαστική συμβίωση με αυτό που, είπε, «έγινε εγώ». Οταν η εταιρεία που εμφύτευσε τη συσκευή στον εγκέφαλο της χρεοκόπηκε και αναγκάστηκε να την αφαιρέσει. Φώναξε, λέγοντας: «Έχασα τον εαυτό μου».
Ο Ienca είπε ότι αυτό είναι ένα παράδειγμα για το πώς η ψυχολογική συνέχεια μπορεί να διαταραχθεί όχι μόνο από την επιβολή μιας νευροτεχνολογίας αλλά και από την απομάκρυνσή της. «Αυτό είναι ένα σενάριο στο οποίο μια εταιρεία βασικά κατέχει την αίσθηση του εαυτού μας«, είπε.
Μια άλλη απειλή για την ψυχολογική συνέχεια προέρχεται από το νεωτεριστικό πεδίο του νευρομάρκετινγκ, όπου οι διαφημιστές προσπαθούν να καταλάβουν πώς ο εγκέφαλος παίρνει τις αποφάσεις αγοράς και πώς να προωθήσει αυτές τις αποφάσεις Οι ωθήσεις λειτουργούν κάτω από το επίπεδο συνειδητής συνείδησης, έτσι ώστε αυτές οι μη επεμβατικές νευρικές παρεμβάσεις μπορούν να συμβούν χωρίς να το γνωρίζουμε. Μια μέρα μια εταιρεία νευρομάρκετινγκ δοκιμάζει μια υποσυνείδητη τεχνική, την επόμενη, ίσως να προτιμάτε το προϊόν Α από το προϊόν Β χωρίς να είστε σίγουροι για ποιο λόγο.
Οι οργανώσεις των συνήγορων των καταναλωτών έχουν εγείρει ανησυχία για το νευρομάρκετινγκ. Ο Jeff Chester, εκτελεστικός διευθυντής του Κέντρου για την Ψηφιακή Δημοκρατία, δήλωσε ότι η διαφήμιση για ενήλικες θα πρέπει να ρυθμίζεται «εάν η διαφήμιση είναι τώρα σκόπιμα σχεδιασμένη για να παρακάμψει αυτές τις ορθολογικές άμυνες» που προηγουμένως μας επέτρεψαν να διακρίνουμε τι είναι αληθινό και αναληθές.
«Τα δεδομένα του εγκεφάλου είναι το απόλυτο καταφύγιο της ιδιωτικής ζωής»
Δεδομένων των ανησυχιών για τον νευροκαπιταλισμό, ρώτησα τον Ienca αν οι νευροτεχνολογίες πρέπει να εξαχθούν από τον έλεγχο των ιδιωτικών εταιρειών και να αναταξινομηθούν ως δημόσια αγαθά. Είπε ναι – τόσο για να εμποδίσουν τις επιχειρήσεις να βλάψουν όσο και για να τους αποτρέψουν να αποφέρουν οφέλη μόνο σε πλούσιους ανθρώπους που μπορούν να πληρώσουν για τα προϊόντα τους.«Ένας κίνδυνος είναι ότι αυτές οι τεχνολογίες θα μπορούσαν να γίνουν προσβάσιμες μόνο σε ορισμένα οικονομικά στρώματα και ότι θα επιδεινώσουν τις προϋπάρχουσες κοινωνικές ανισότητες», ανέφερε. «Νομίζω ότι το κράτος πρέπει να διαδραματίσει ενεργό ρόλο στη διασφάλιση ότι οι τεχνολογίες αυτές θα προσεγγίσουν τους σωστούς ανθρώπους».
Είναι δύσκολο να πούμε αν τα νευρο δικαιώματα του Ienca ή του ΟΟΣΑ ή της Χιλή θα κρατήσουν αποτελεσματικά τους κινδύνους της νευροτεχνολογίας υπό έλεγχο. Ωστόσο, δεδομένου του πόσο γρήγορα αναπτύσσεται αυτή η τεχνολογία, φαίνεται πιθανό ότι θα χρειαστούμε νέοιυςνόμους για να μας προστατέψουν και τώρα είναι η ώρα οι εμπειρογνώμονες να διατυπώσουν τα δικαιώματά μας. Οι νομοθέτες κινούνται αργά, και αν περιμένουμε όταν συσκευές του Φέισμπουκ ή της Nεύρολινκ να βγούν στην αγορά, θα μπορούσε να είναι ήδη πολύ αργά.
«Τα δεδομένα του εγκεφάλου είναι το απόλυτο καταφύγιο της ιδιωτικής ζωής. Όταν αυτό συμβαίνει, όλα πάνε καλά «, προειδοποίησε ο Ienca. «Και όταν τα δεδομένα του εγκεφάλου συλλέγονται σε μεγάλη κλίμακα, είναι πολύ δύσκολο να αντιστραφεί η διαδικασία».
πηγη
Brain-reading tech is coming. The law is not ready to protect us.
Το χρονοδιάγραμμα του μέλλοντος
Μετάφραση
Ευαγγέλου Μπλάνα Μαριάννα
ΠΗΓΗ
0 Σχόλια