Tapez pour rechercher

SANTÉ / SCI / TECHNIQUE

Silicon Valley veut lire dans vos pensées - Voici pourquoi vous devriez vous inquiéter

Le prototype de dispositif de lecture des ondes cérébrales de Facebook. (Photo: Facebook)
Le prototype de dispositif de lecture des ondes cérébrales de Facebook. (Photo: Facebook)

Étant donné la réputation (et le penchant) de la Silicon Valley de casser des choses plutôt que de s’arrêter pour les réfléchir, les appareils de lecture d’ondes cérébrales nécessiteront une réglementation stricte et des examens éthiques avant le début des tests.

(Par Garfield Benjamin, La Conversation) Non content de surveiller presque tout ce que vous faites en ligne, Facebook veut aussi lire dans vos pensées. Le géant des médias sociaux a récemment annoncé une percée dans son plan pour créer un appareil qui lit les ondes cérébrales des personnes pour leur permettre de taper simplement en pensant. Et Elon Musk veut aller encore plus loin. Une des autres sociétés du patron de Tesla, Neuralink, est développer un implant cérébral connecter directement les esprits à un ordinateur.

Musk admet qu'il prend l'inspiration de la science-fiction, et qu'il veut s'assurer que les humains peuvent «Suivre» l'intelligence artificielle. Il semble avoir oublié la part de la science-fiction qui met en garde contre les implications de la technologie.

Ces systèmes de lecture de l'esprit pourraient affecter notre vie privée, notre sécurité, notre identité, notre égalité et notre sécurité personnelle. Voulons-nous vraiment tout ce qui reste aux entreprises aux philosophies telles que celle de l'ancien mantra de Facebook, "aller vite et casser des choses?"

Bien qu’elles semblent futuristes, les technologies nécessaires à la fabrication d’appareils de lecture des ondes cérébrales ne sont pas très différentes des outils de neuroscience classiques de l’IRM (imagerie par résonance magnétique) et de l’EEG (électroencéphalographie) utilisés dans les hôpitaux du monde entier. Vous pouvez déjà acheter un kit pour contrôler un drone avec ton espritPar conséquent, en utiliser un pour taper des mots n’est, à certains égards, pas un si grand saut. L’avancée sera probablement due à l’utilisation du machine learning pour passer au crible d’énormes quantités de données collectées dans notre cerveau et trouver les schémas de l’activité des neurones qui relient les pensées à des mots spécifiques.

Un implant cérébral prendra probablement beaucoup plus de temps à se développer et il est important de séparer le réel réalisations de Neuralink du battage médiatique et de la promotion. Mais Neuralink a simultanément apporté des améliorations aux matériaux utilisés pour les électrodes et à la chirurgie assistée par robot pour les implanter, en intégrant parfaitement la technologie afin qu'elle puisse être lue via USB.

Les plans de Facebook et de Neuralink peuvent s’appuyer sur la pratique médicale établie. Mais lorsque les entreprises collectent leurs pensées directement auprès de nos cerveaux, les questions éthiques sont très différentes.

Tout système pouvant collecter des données directement à partir de nos cerveaux comporte des risques évidents pour la vie privée. La vie privée concerne le consentement. Mais il est très difficile de donner un consentement approprié si quelqu'un puise directement dans nos pensées. Les entreprises de la Silicon Valley (et les gouvernements) ont déjà recueillir subrepticement autant de données sur nous que possible et les utiliser de manière que nous voulions plutôt ils ne l'ont pas. Comment pouvons-nous être sûrs que nos pensées aléatoires et personnelles ne seront pas capturées et étudiées avec les instructions que nous voulons donner à la technologie?

Discrimination et Manipulation

Un des problèmes éthiques existants avec la collecte de données est la discrimination sur la base d’attributs tels que le sexe ou la race que l’on peut distinguer des données. En ouvrant une fenêtre sur l’esprit des gens, il serait plus facile de déterminer d’autres éléments qui pourraient constituer la base de préjugés, tels que la sexualité ou l’idéologie politique, ou même d’autres modes de pensée pouvant inclure des éléments tels que l’autisme.

Avec un système qui capte directement dans votre cerveau, non seulement vos pensées peuvent être volées, mais il est également possible de les manipuler. La stimulation cérébrale est déjà en cours de développement pour aider traiter le SSPT et réduire la violence. Il y a même des revendications sensationnelles qu'il peut être utilisé pour télécharger directement des connaissances tout comme dans le film The Matrix.

Une étape prévisible serait de combiner les technologies «in» et «out» pour une interface cerveau-ordinateur à deux voies. La possibilité pour les gouvernements de nous rendre plus conformes, pour les employeurs de nous forcer à travailler plus dur, ou pour les entreprises de nous donner envie de davantage de leurs produits, souligne à quel point nous devons prendre au sérieux cette technologie.

Si les dispositifs de lecture de l'esprit deviennent le moyen habituel d'interagir avec les ordinateurs, nous n'aurons peut-être d'autre choix que de les utiliser pour suivre le rythme de collègues plus productifs. (Imaginez quelqu'un qui postule aujourd'hui pour un travail de bureau mais refuse d'utiliser la messagerie électronique.) Et si les implants de style Neuralink devenaient la norme, cela pourrait également entraîner une plus grande inégalité, en fonction du niveau de kit que vous pourriez vous permettre d'installer.

Elon Musk a déclaré que l'énorme prêt nécessaire pour permettre la chirurgie avec Neuralink serait compensé par les gains potentiels des personnes «améliorées». L'idée des personnes qui se sentent obligées de prendre d'énormes dettes pour subir une opération chirurgicale juste pour garder leur emploi vient tout droit d'une dystopie de science-fiction.

En plus de tout cela, il y a la menace physique plus directe d'avoir des systèmes empiétant physiquement sur notre cerveau. Certaines personnes peuvent vouloir modifier leur cerveau avec une interface informatique (il y a déjà beaucoup de biohackers expérimentaux), le déploiement à grande échelle nécessiterait des tests massifs et approfondis.

Étant donné la réputation (et le penchant) de la Silicon Valley de casser des choses plutôt que de s’arrêter pour les analyser, ces systèmes devront faire l’objet d’une réglementation stricte et d’un examen éthique même avant le début des tests. Sinon, il risque de créer des cobayes humains mutilés.

Pour autant, la poursuite des recherches dans ce domaine pourrait présenter d’énormes avantages, en particulier pour les personnes souffrant de paralysie ou de troubles sensoriels. Mais la Silicon Valley ne devrait pas être en mesure de dicter la manière dont ces technologies sont développées et déployées. S'ils le font, cela pourrait radicalement transformer notre façon de nous identifier en tant qu'être humain.La Conversation


Garfield Benjamin, Chercheur postdoctoral, École des arts médiatiques et de la technologie, Solent University

Cet article est republié de La Conversation sous une licence Creative Commons. Lis le article original.

Si cet article vous a plu, pensez à soutenir les informations indépendantes et à recevoir notre bulletin trois fois par semaine.

Mots clés:
Invité Message

Citizen Truth republie des articles avec l'autorisation de divers sites d'informations, organisations de défense des droits et groupes de surveillance. Nous choisissons des articles qui, à notre avis, seront informatifs et d’intérêt pour nos lecteurs. Les articles choisis contiennent parfois un mélange d’opinions et d’actualités, celles-ci étant celles des auteurs et ne reflétant pas les vues de Citizen Truth.

    1

Vous pourriez aussi aimer

Laisser un commentaire

Votre adresse email ne sera pas publiée. Les champs requis sont indiqués *

Ce site utilise Akismet pour réduire les spams. Découvrez comment vos données de commentaire sont traitées.