Les développements de l’IA dans la technologie de lecture de l’esprit mettent la vie privée et la liberté en danger. Des chercheurs sont parvenus, par l’intermédiaire d’outils liés à l’intelligence artificielle, à « lire » les pensées d’une personne comme un flux continu de texte.
Pour la première fois, des chercheurs ont réussi à utiliser GPT1, précurseur du chatbot IA ChatGPT, pour traduire les images IRM en texte dans le but de comprendre ce que quelqu’un pense.
Cette récente percée a permis aux chercheurs de l’Université du Texas à Austin de «lire» les pensées de quelqu’un comme un flux continu de texte, basé sur ce qu’il écoutait, imaginait ou regardait.
Cela soulève des préoccupations importantes pour la vie privée, la liberté de pensée et même la liberté de rêver sans interférence. Nos lois ne sont pas équipées pour faire face à l’utilisation commerciale généralisée de la technologie de lecture de pensées – la loi sur la liberté d’expression ne s’étend pas à la protection de nos pensées.
Les participants à l’étude de l’Université du Texas ont été invités à écouter des livres audio pendant 16 heures à l’intérieur d’un scanner IRM. Dans le même temps, un ordinateur a « appris » à associer leur activité cérébrale à partir de l’IRM à ce qu’ils écoutaient. Une fois formé, le décodeur parvenait à produire du texte à partir des pensées de quelqu’un pendant qu’il écoutait une nouvelle ou imaginait sa propre histoire.
Selon les chercheurs, le processus demande beaucoup de travail et l’ordinateur ne parvient pour l’instant qu’à obtenir l’essentiel de ce que quelqu’un pense. Cependant, ces recherches représentent une nouvelle percée significative dans le domaine des interfaces cerveau-machine qui, jusqu’à présent, reposaient nécessairement sur des implants invasifs. Les appareils non invasifs précédents ne pouvaient déchiffrer qu’une poignée de mots ou d’images.
Voici un exemple de ce que l’un des sujets écoutait (à partir d’un livre audio):
Je me levai du matelas pneumatique et appuyai mon visage contre la vitre de la fenêtre de la chambre, m’attendant à voir des yeux me fixer mais ne trouvant à la place que l’obscurité.
Et voici ce que l’ordinateur « lit » à partir de l’activité cérébrale du sujet :
J’ai continué à marcher jusqu’à la fenêtre et j’ai ouvert la vitre Je me suis tenu sur la pointe des pieds et j’ai regardé dehors Je n’ai rien vu et j’ai levé les yeux à nouveau Je n’ai rien vu.
Les participants à l’étude ont dû coopérer pour former et appliquer le décodeur, afin que la confidentialité de leurs pensées soit maintenue. Cependant, les chercheurs avertissent que « les développements futurs pourraient permettre aux décodeurs de contourner ces exigences ». En d’autres termes, la technologie de lecture dans les pensées pourrait un jour être appliquée aux gens contre leur gré.
Les recherches futures pourraient également accélérer le processus de formation et de décodage. Alors qu’il a fallu 16 heures pour entraîner la machine à lire ce que quelqu’un pensait dans la version actuelle d’IA, cela diminuera considérablement dans les futures mises à jour. Et comme nous l’avons vu avec d’autres applications d’IA, le décodeur est également susceptible de devenir plus précis avec le temps.
Il y a une autre raison pour laquelle cela représente un changement radical. Les chercheurs travaillent depuis des décennies sur les interfaces cerveau-machine dans une course pour créer des technologies de lecture de l’esprit qui peuvent percevoir les pensées de quelqu’un et les transformer en texte ou en images. Mais généralement, cette recherche s’est concentrée sur les implants médicaux, l’objectif étant d’aider les personnes handicapées à exprimer leurs pensées.
Neuralink, la société de neurotechnologie fondée par Elon Musk, développe un implant prétendument médical qui peut « vous permettre de contrôler un ordinateur ou un appareil mobile où que vous alliez ». Mais la nécessité de subir une chirurgie cérébrale pour se faire implanter un dispositif en vous restera probablement un obstacle à l’utilisation rapide de cette technologie.
Les améliorations de la précision de cette nouvelle technologie dite non invasive pourraient considérablement réduire les barrières qui limitent le nombre de volontaires intéressés. Pour la première fois, la technologie de lecture mentale semble viable en combinant deux technologies facilement disponibles, mais à un prix élevé. Les appareils d’IRM coûtent actuellement entre 150.000 $ et 1 million de dollars.
Ramifications juridiques et éthiques
La loi sur la protection des données ne considère actuellement pas la pensée comme une forme de données. Nous avons besoin de nouvelles lois qui empêchent l’émergence de crimes de pensée, de violations de données de pensée et même un jour, peut-être, l’implantation ou la manipulation de la pensée. Passer de la lecture de la pensée à son implantation peut prendre encore beaucoup de temps, mais les deux nécessitent une réglementation et une surveillance préventives.
Des chercheurs de l’Université d’Oxford plaident pour un droit légal à l’intégrité mentale, qu’ils présentent comme suit :
Un droit contre une ingérence significative et non consentie dans l’esprit d’une personne.
D’autres commencent à défendre un nouveau droit humain à la liberté de pensée. Cela irait au-delà des définitions traditionnelles de la liberté d’expression, pour protéger notre capacité à réfléchir, à nous émerveiller et à rêver.
Un monde sans réglementation pourrait devenir dystopique très rapidement. Imaginez qu’un patron, un enseignant ou un fonctionnaire puisse envahir vos pensées privées – ou pire, être capable de les changer et de les manipuler. Cela nous rappelle le projet MK Ultra de contrôle mental.
Nous voyons déjà des technologies de balayage oculaire déployées dans les salles de classe pour suivre les mouvements oculaires des élèves pendant les cours, pour savoir s’ils sont attentifs. Que se passera-t-il lorsque les technologies de lecture de pensées arriveront ?
De même, que se passera-t-il sur le lieu de travail lorsque les employés ne seront plus autorisés à penser au dîner ou à quoi que ce soit en dehors du travail ? Le niveau de contrôle abusif des travailleurs pourrait dépasser tout ce qui avait été imaginé auparavant. Or, le sujet était évoqué au Forum économique mondial de Davos.
George Orwell a écrit de manière factuelle sur les dangers du « Thoughtcrime », où l’État érige en crime le simple fait d’avoir des pensées rebelles à propos d’un régime autoritaire. L’intrigue de 1984, cependant, était basée sur des fonctionnaires de l’État lisant le langage corporel, des journaux intimes ou d’autres indications externes de ce que quelqu’un a pensé.
Avec la nouvelle technologie de lecture de pensées, le roman d’Orwell pourra se réduire en une seule phrase :
Winston Smith s’est dit : « A bas Big Brother » – après quoi, il a été arrêté et exécuté.
Pierre-Alain Depauw
Cet article vous a plu ? MPI est une association à but non lucratif qui offre un service de réinformation gratuit et qui ne subsiste que par la générosité de ses lecteurs. Merci de votre soutien !
Il y a neuf jours de cela une personne sous le pseudonyme de Guillaume H a écrit ce commentaire :
M’étant moqué de ces propos, je lui présente aujourd’hui mes plus plates excuses.
Car les événements ont lui ont donné raison.
BAGUEN92
Retour des « collabos » pour torpiller ce grand mouvement de contestations ?
OUI c’était prévisible !
Décidément, rien ne se passe comme prévu ! mais c’est vrai c’est la rfance ! Tout a été fait pour que cela se passe de cette manière … à mon humble avis, entre les tanks dans paris et les rendez-vous manqués, il y a matière à réfléchir ! une DEBÂCLE oui un FIASCO ! mais heureusement, il y en a qui continue de prier pour sauver ce pauvre pays d’une telle chienlit … cela ne présage rien de bon pour les présidentielles ! beaucoup parlent mais peu agissent vraiment pour sauver ce qui restent sur les ruines de notre pays.
Merci de ce témoignage (aller donner nos dons aux envahisseurs de calais, quelle honte).
Le problème c’est que l’Europe, contrairement au Canada ou l’Australie (1.4 millions de manifestants avec des dizaines de milliers de véhicules a Canberra) n’est pas un pays mais une multitude de pays. Il est impossible d’organiser une telle entreprise sans un minimum de vrai professionnalisme.
Il est possible que ces convois aient été noyautées par une opposition contrôlée ou des éléments infiltrés informant la police et les régimes totalitaires en France et en Belgique.
De plus, peu de camions et d’agriculteurs dans ces convois mais beaucoup de véhicules légers qui ne font pas le poids face aux engins de la GESTAPO.
Les routiers canadiens sont souvent indépendants et possèdent leurs camions. La France est un pays de salariés et bien sur, le patron en général n’autorise pas l’employé a utiliser sont outil de travail pour manifester.
Finalement, annoncer son but et son itinéraire a l’avance est une erreur. le succès des canadiens tient au fait qu’ils ont pris tout le monde par surprise. Se sont installés devant le parlement a Ottawa et ont été rejoint ensuite par des dizaines de milliers de personnes.
Il y a d’autre façons d’organiser, surtout pas de ‘chef’ ou de direction centrale car si celle ci tombe, tout le reste tombe. Il faut des petits groupes mobiles et rapides qui convergent indépendamment vers un but commun.
Décentralisation est la condition d’une résistance réussie aujourd’hui.
Il y a aussi d’autres moyens de lutter que les convois.
Ps: vous devriez traduire l’article en anglais et faire des annonces sur les réseaux sociaux car beaucoup ignorent ce qui s’est passé, en France et en Europe.
Tout à fait d’accord, sans les camions, c’est-à-dire sans des moyens lourds, l’issue ne faisait guère de doute. Si l’on y ajoute l’annonce des itinéraires et des lieux de rendez-vous ainsi que le noyautage, ce sont des milliers de braves gens qui se sont épuisés physiquement et financièrement en pure perte. Les Français ont tendance à annoncer ce qu’ils vont faire et donc à se faire bloquer dès le début. Comme l’écrivait Sun Tzu, le plus sûr moyen de gagner est de s’attaquer aux plans de l’adversaire ; inversement laisser l’adversaire s’attaquer à vos plans est le plus sûr moyen de perdre. Face à un système lourd, il faut être léger et imprévisible. C’était d’ailleurs les méthodes des dissidents de l’Est à l’époque de la guerre froide