MARVIN MINSKY
Né en 1927
Pionnier de l'intelligence artificielle

Marvin Minsky

Marvin Minsky est né le 9 août 1927 à New-York où il fit ses études à la Fieldston School et à la Bronx High School of Science. Plus tard, il entra à l'académie Philips à Andover, Massachusetts puis servit dans l'US Navy de 1944 à 1945. Il est Bachelor en mathématique de l'université de Harvard (1950) et titulaire d'un Doctorat dans la même discipline, de l'université de Princeton (1954). Il travaille au MIT (Massachusetts Institut of Technology) depuis 1958.

En 1959, Marvin Minsky et John McCarthy fondèrent ce qui est aujourd'hui connu comme le MIT Computer Science and Artificial Intelligence Laboratory. Il est maintenant professeur d'art digital et de sciences, et professeur de d'ingénierie électronique et d'informatique.

Minsky a obtenu le Prix Turing en 1969, le Japan Prize, prestigieuse distinction scientifique japonaise, en 1990, le IJCAI Award for Research Excellence en 1991, et la Benjamin Franklin Medal de l'Institut Franklin en 2001.

Marvin Minsky est connu comme l'un des chercheurs les plus influents dans le domaine de l'intelligence artificielle. Il est à l'origine de nombreux travaux sur les réseaux de neurones artificiels et les perceptrons qu'il vulgarisa dans son ouvrage culte : The Society of Mind.

LA SOCIÉTÉ DE L'ESPRIT

Pour certains chercheurs en intelligence artificielle, le livre de Minsky est trop éloigné de la science d'aujourd'hui pour nous être encore utile. Pour les autres, son approche de haut niveau en fait une mine d'or d'idées en attente d'être implémentées.

En tout cas il nous offre un modèle abstrait du fonctionnement réel de l'esprit humain.

Sa thèse est que notre esprit consiste en un énorme agrégat de structures miniaturisées, des mini-esprits, ou agents, qui ont évolué parallèlement en effectuant des tâches hautement spécifiques mais complémentaires. La plupart de ces agents n'ont pas de caractèes que nous jugerions intelligents, et sont limités dans leur habileté à s'inter-connecter et d'inter-communiquer. Pourtant, la pensée rationnelle, les sentiments, et la planification d'actions résultent de l'interaction de ces innombrables composants basiques.

La théorie de Minsky ne suggère pas une implémentation spécifique pour la construction de machines intelligentes. Pourtant ce livre pourrait s'avérer comme l'un des plus influents pour le futur de l'intelligence artificielle.

Marvin Minsky, mathématicien, tente dans ce livre de décrire l'esprit humain par une nouvelle approche basée sur l'intelligence artificielle. Sa théorie?

Sa thèse est que l'esprit humain est une communauté formée d'un énorme agrégat de mini-esprits, ou agents, ayant évolué de manière à effectuer des tâches hautement spécifiques. La plupart de ces agents sont bornés, n'ayant pas de caractéristiques que nous pourrions appeler intelligentes. Mais s'ils sont sévèrement limités leur nombre leur confère une habileté à s'inter-connecter et à inter-communiquer.

Cependant, il est indéniable que la pensée rationnelle, les sentiments, et la fantastique possibilité de planifier des actions intelligentes résultent de l'interaction de ces composants basiques.

Cette nouvelle approche de l'esprit humain se révèle très intéressante, mais la structure même du livre, et le don d'écrivain de Minsky accrochent véritablement le lecteur. Son livre est structuré en petits sous-chapitre, de deux pages pas plus, abordant chacun un sujet particulier en relation avec sa théorie principale.

Examinons de plus près ce que Minsky nous propose, non seulement en terme technique, philosophique ou scientifique, mais aussi éthique. Quelles sont les grandes lignes et le points intéressants de sa théorie? Quelles sont ses futures applications éventuelles?

Les agents? Petites entités dénuées d'intelligence ayant chacun une tâche, une spécialité. Ils ne sont pas une simple entité, mais une hiérarchie, chaque agent faisant appel à des sous-agents.

Cette structure fait immédiatement penser à la notion de résolution de problème (une grande branche de l'intelligence artificielle) car elle comporte la même approche : pour résoudre un problème il faut le décomposer en sous-tâches de plus en plus simples.

Mais Minsky va beaucoup plus loin et construit une explication des particularités importantes de l'esprit humain, et de sa façon de résoudre des problèmes que nous sommes encore loin de reproduire : le sens commun, l'apprentissage, le langage, les émotions et sentiments, notre identité.

L'Esprit et le Cerveau

Le propos de Minsky est simple : l'esprit est ce que le cerveau produit, le résultat de l'activité électrique de notre système nerveux. Dans ce sens il se rapproche de la théorie de l'esprit cybernétique* et de la vision d'Alan Turing sur l'intelligence et l'esprit.

La façon dont notre esprit est produit, sa liaison avec la matière a longtemps été un mystère. Comment une matière, inanimée et inconsciente dans ses parties peut-elle produire, dans son ensemble, le phénomène que nous appelons la pensée.

Quel est le lien entre des entités immatérielles, comme notre sens du rouge, ou de ce qu'est un cheval, et la matière qui constitue notre cerveau. Ce mystère a longtemps été le sujet des philosophes et de nombre de leurs théories. Un des plus célèbres philosophes ayant abordé ce problème est René Descartes, pour lui, l'esprit est quelque chose d'immatériel, d'indépendant du monde physique, l'âme, et lié au cerveau par ce qu'il appelait la glande pinéale.

Cela fait sourire les neuro-scientifiques modernes, mais à l'époque cette théorie semblait tout à fait plausible, plus particulièrement parce qu'elle confirmait la vision chrétienne de l'âme et la vie après la mort.

Même si cette théorie semble complètement obsolète de nos jours, elle imprègne encore notre langage et nos expressions : utiliser son cerveau, chauffer ses neurones. Nous parlons souvent de nous comme d'un fantôme dans une machine.

Ainsi, dans le cadre de la théorie computationnelle** et de la psychologie évolutionniste, l'esprit apparaît comme un organe, ayant ses fonctions, comme tout autre organe de notre corps.

L'esprit, lui, est un organe de traitement d'information, créé et affiné au cours du temps pour nous permettre de nous adapter au monde qui nous entoure, évoluant sans cesse.

Le travail fournit ici par Minsky étant donc une ingénierie inversée, où il tente de créer une nouvelle théorie du fonctionnement de l'esprit humain.

* Cybernétique : science qui étudie les mécanismes de communication et de régulation dans les machines et chez les êtres vivants. (Note du traducteur)

** computationnelle : de manière logico-algébrique, par le traitement d'un ordinateur.

Le Moi multiple

C'est une stratégie classique d'affirmer posséder une vraie personnalité, sous celle que nous montrons aux autres, dénuée de tout dépendance sociale et échappant aux soi-disant conditionnements, pour s'affirmer en société ou pour se rassurer d'un ego souvent malmené.

Un sociologue du début du XXème siècle, Erving Gofman, a montré qu'il ne s'agit pas d'un simple masque que nous montrons aux autres, mais d'un masque perpéuel, inné, que nous offrons même à nous-même. Rejoignant Gofman quelques décennies plus tard, Robert R. Trivers, biologiste, a proposé la théorie de l'aveuglement.

Masques

Le problème lorsqu'un organisme communique avec un autre c'est que celui d'en face peut très bien être un manipulateur, il est ainsi tout à fait logique qu'un organisme développe des capacités pour détecter les menteurs. Seulement les menteurs, eux, en réponse, développeront une meilleure capacité à mentir poussant les autres à améliorer leurs capacités de détection, les menant tout droit à une course à l'armement.

Les organismes sont donc des détecteurs de mensonges, et les êtres humains eux, sont aussi des détecteurs de mensonge sur pattes. Dans un monde de détecteurs de mensonge, la meilleure façon de faire croire quelques chose aux autres, c'est de le croire soi-même.

Ainsi nous passons une majeure partie de notre vie mentale à essayer de nous convaincre nous-même. Les parties de l'esprit qui sont en communication avec les autres personnes doivent donc croire les propres mensonges de l'organisme, tandis que les autres partie de l'esprit stockent la vérité car il est toujours bon de l'avoir à disposition.

Ainsi, quand est-ce qu'une petite vérité fait mal? Lorsque une partie de nous sait qu'elle est vraie. Si toute les parties savaient qu'elle est vraie, ça ne serait pas une nouvelle. Si aucune ne la prenait comme vraie, elle serait simplement rejetée.

Mais cette vue d'un Moi multiple soulève une question importante, qui tracasse souvent les membres de l'espèce Homo Sapiens : pourquoi n'avons-nous pas le contrôle total de nous-même. Pourquoi ne sommes-nous pas capables de laisser ce gâteau dans le frigo et de continuer notre régime? Alors que nous voulons vraiment nous en priver, enfin, à première vue.

Nombre de personnes m'ont rétorqué que cette partie de l'esprit, celle qui voit à long-terme, qui suit son régime et évite les petits gâteaux serait le vrai Moi, tombant inévitablement dans l'illusion du Moi singulier, honnête et vrai.

Mais ce que Minsky propose, avec beaucoup d'élégance, ainsi que d'autres penseurs de l'esprit, c'est que notre vie intérieure est composée de divers agents, ou services, ayant chacun leurs buts, leurs objectifs qui peuvent entrer en conflit. L'un veut maigrir, l'autre consommer cette source d'énergie tout de suite, sous l'Ļil de l'évolution, les deux agents ont autant raison l'un que l'autre : dans un milieu où la nourriture est rare (comme le milieu où a longteps évolué l'espèce humaine) il vaut mieux consommer la nourriture tout de suite au lieu de se la faire voler ou qu'elle pourrisse.

Mais l'autre agent n'a pas tort non plus : l'abus de graisse est non seulement mauvais pour la santé, mais aussi repoussant pour d'éventuels partenaires.

Nous passons une grande partie de notre vie à trouver des moyens de nous régenter nous-même. Nous essayons d'atteindre les objectifs souhaités mais, nous ne parvenons pas toujours à nous comporter comme nous le voudrions. Nous cherchons alors des techniques, des moyens d'emprise sur notre esprit : la réprimande ou le mensonge pur et simple en sont de bons exemples.

Des centaines de techniques

De nos jours, des centaines de disciplines existent, promettant à qui le veut bien, d'apprendre à se contrôler : PNL, hypnose, pseudo-psychologie, etc. Malgré cette profusion de techniques disponibles, nous toujours en quête de nouveaux moyens de contrôler notre esprit, même si il faut payer très cher un coach pour cela.

Nous sommes remplis de joie quand nous arrivons à nous comporter comme nous le désirons, et nous nous en voulons à nous-même lorsque nos comportements ne correspondent pas avec ceux que l'on attend.

Mais pourquoi utiliser des techniques onéreuses, la plupart du temps très peu efficaces, pour tenter de nous forcer d'agir comme nous le voudrions. Pourquoi ne pouvons-nous pas tout simplement agir selon notre bon vouloir?

Imaginons un instant un jeune étudiant, luttant contre le sommeil pour poursuivre son travail. Il pourrait tout simplement se dire "si tu n'achèves pas ce travail aujourd'hui, David (un étudiant qu'il n'aime pas) va le terminer avant toi et obtiendra une meilleure note".

Il s'agit d'une technique classique : un agent essaye indirectement d'induire un comportement en utilisant un service mental. Ici, le service "travail" semble exploiter "colère" (ou jalousie) pour paralyser sommeil. Notre univers mental est parsemé de ce genre d'auto-manipulations dans le but de forcer nos comportements.

Se promettre des récompenses est une autre technique couramment utilisée : "Si je réussis à exécuter ce projet, j'aurai plus de temps pour d'autres choses". Mais pour y parvenir, nous devons trouver les bonnes incitations. Chaque agent apprenant à connaître réciproquement les penchants des autres. Et si nous y regardons de plus près, ces techniques que nous utilisons pour nous contrôler nous-même, sont les mêmes que nous utilisons pour contrôler les autres (rejoignant ainsi les idées de Thomas Schelling, prix Nobel d'économie 2005, fit le même constat dans nombre de ses ouvrages), techniques bien souvent inefficaces. Le self-control n'est pas quelque chose de simple, mais regroupe un ensemble de connaissances qui ne cesse de se développer.

Pourquoi ne pas utiliser un agent unique qui aurait le contrôle total de notre esprit? Comme le dit Minsky, pour comprendre quelque chose, il faut d'abord connaître ses objectifs. Au début, l'homme ne comprenant pas comment son corps fonctionnait, il lui attribuait des origines divines, mais il finit par comprendre qu'il était composé d'innombrables parties, reins, foie, poumons, ayant chacun leurs objectifs respectifs. Si nous voulons comprendre le Moi, nous devons d'abord comprendre son object et à quoi il sert :

Marvin Minsky : L'une des fonctions du Moi est de nous empêcher de changer trop rapidement.

Nous devons tous dresser des plans, en choisissant entre un objectif unique et les tentatives de faire tout à la fois. Malheureusement il ne suffit pas de donner l'objectif à un agent pour qu'il l'exécute simplement, il faut aussi trouver un moyen de limiter les modifications que nous pourrions y apporter dans le futur. Si nous nous mettions à changer d'idée trop souvent, nous ne pourrions jamais prédire ce que nous serions succeptible de vouloir après.

Marvin Minsky: Nous ne réaliserions jamais grand-chose, parce que nous ne pourrions pas nous fier à nous-même.

Le Moi, n'est pas une entité magique qui nous permet de nous libérer de la loi de la cause et de l'effet, mais une simple nécessité pratique. Les types de liberté que nous croyons être en notre possession ne sont que des supercheries.

Marvin Minsky : Ce sont les chaînes que nous nous créons pour nous retenir de ruiner tous les plans que nous élaborons.

Un agent unique serait comme un dictateur de l'esprit, fermé et borné. Nous ne survivrions certainement pas plus d'une journée si notre liberté dépendait d'une unique partie de notre esprit. Par contre, un ensemble d'agents, possédant chacun leurs objectifs et luttant pour prendre le pouvoir serait bien plus efficace. Si nous pouvions nous comporter comme nous le désirons, nous finirions par ne rien accomplir du tout.

Conclusion

L'ouvrage de Minsky est plaisant à lire, bien qu'un peu long sur la fin. La force de Minsky réside dans son imagination. Sa façon d'imaginer d'innombrables techniques qui pourraient servir, un jour, à produire une intelligence artificielle forte. Non seulement il aborde les points signalés ci-dessus, mais il va aussi beaucoup plus loin. Il s'attaque également au raisonnement logique, à la mémoire, à l'apprentissage, au langage humain, à la perception, construisant ainsi un cadre élégant de principe théorique sur l'esprit humain et l'intelligence artificielle. L'avenir nous dira si ces principes sont efficaces et adaptables en pratique.

Esprit

Paradox Blog (Tribune de Genève)

Ouvrage récent de Minsky :
The Emotion Machine,
suite de La Société de l'Esprit, Simon & Schuster 2006.

Traduction révisée par M.S. 2002

 
Haut         Accueil Science & Magie          S&M N°63