Une intelligence très artificielle

Une réflexion toute personnelle qui n’est ni celle d’un cybernéticien, ni celle d’un philosophe mais simplement basée sur mon ressenti et mes connaissances.

Pourquoi ce texte : parce que j’ai peur,  peur que cette non-intelligence actuelle s’approche dangereusement de la vraie dans quelques décennies. Peur aussi que les systèmes automatiques actuelles qui prennent déjà des décisions sans conscience nous conduisent très vite à des catastrophes.

Pourtant vous ne pouvez rien lire aujourd’hui qui ne parle pas d’intelligence artificielle ; elle est partout dans les voitures, dans les machines-outils, dans l’analyse des processus, même dans l’électroménager… et nous ne sommes qu’au balbutiement de IoT (internet of things) qui connectera tout grâce à la 5G notamment.

Intelligence artificielle, ce terme est devenu banal, innocent et surtout à la mode. Pourtant il n’y a rien d’intelligent dans les systèmes actuels mais seulement une mémoire et une puissance d’analyse absolument extraordinaires.

Effectivement si l’on se limite aux premiers mots de la définition de l’intelligence du Robert « Faculté de connaître », on peut parler d’intelligence artificielle tant les mémoires numériques à disposition sont gigantesques et tant les moteurs de recherche sont puissants. Mais avec la suite de la définition, ça se gâte : « Faculté de connaître et de comprendre ». Le Robert ne dit pas de comparer mais de comprendre ! 

Aujourd’hui, tout est devenu intelligence artificielle.

Pour preuve, on doit systématiquement lui associer un qualificatif - faible, forte, augmentée ou collaborative – pour la qualifier. Mais tout le monde (ou presque) s’accorde à dire qu’il ne s‘agit pas de la «vraie» intelligence, celle des lumières, ayant conscience et intuition d’où découle empathie, instinct et curiosité.

Les pouvoirs de cette « intelligence artificielle » actuelle -  je préfère dire des systèmes expert - sont, grâce au deep learning et aux big data, indéniablement phénoménaux. Ils peuvent déjà conduire à moult évolutions voire révolutions positives pour la société (médecine, logistiques, industries…) mais aussi être inquiétants (traçage, …) et potentiellement destructeur (gestion de l’énergie, des flux financiers, réseaux de données…) mais je m’achoppe sur une question de vocabulaire.

Pourquoi parler d’intelligence et ne pas conserver le terme de « système expert » utilisé pour la première fois en 1965 pour le logiciel Dendral (Feigenbaum et consorts). 

Depuis le début des années 70 (on nous parlait déjà de système expert et on nous enseignait le langage LISP à l’EPFL), les puissances de calcul et les capacités de stockage croissent de manière exponentielle pour doubler environ tous les 18 mois. Et ce n’est que le début, les ordinateurs quantiques, les machines dites neuronales et les cellules de stockage biologique auront des puissances que l’on ne peut même pas imaginer aujourd’hui. Seront-ils pour autant devenus plus intelligents, je ne le pense pas. Plus utiles, plus dangereux, plus invasifs, plus tout…mais pas plus intelligent. Ils n’auront pas non plus acquis une conscience ; où est la responsabilité d’un objet sans conscience ?

Le jour où un data center se suicidera en coupant volontairement ses systèmes de refroidissement parce qu’il sera lassé de faire toujours la même chose ou encore mieux parce qu’il aura acquis une conscience écologique n’est pas né ! 

Et pourtant…

Le vrai danger, la vraie révolution viendra du transhumanisme, de l’hybridation. Aujourd’hui déjà, on implante une puce à l’arrière de l’œil d’un aveugle, on la relie au nerf optique et on lui donne la vue. On développe des exosquelettes pour aider des handicapés ou diminuer la pénibilité de certains travaux , etc. La frontière entre guérir et améliorer deviendra un problème éthique colossal. 

Biologies, nanotechnologies et cybernétiques vont bientôt être connectées directement à l’être humain, aux nerfs (c’est déjà le cas) ou au cerveau, et lui mettre à disposition leurs mémoires et leurs puissances d’analyse. Nous aurons atteint le niveau de l’intelligence augmentée car ces systèmes hybrides auront acquis une conscience. Auront-ils pour autant acquis une âme….

Ce jour-là, il sera trop tard et c’est pourquoi, des hommes qui savent de quoi ils parlent comme Elon Musk, Bill Gate et Stephen Hawking (†) appellent à des états généraux de l’intelligence artificielle. 

L’enjeu sociétal et éthique de cette révolution est à mon avis plus grand que l’enjeu climatique qui aujourd’hui préoccupe chacun.

Jamais la citation de Rabelais « Science sans conscience n’est que ruine de l’âme » n’aura eu autant de sens.

Il serait tant que nos politiciens en prennent conscience…

1. Luc Julia L’intelligence artificielle n’existe pas 2019
2. Luc Ferry La révolution transhumaniste 2016
3. Pierre Uzan, Conscience et physique quantique 2017