Les machines ne doivent pas mentir

Le respect de la deuxième loi d’Asimov sous-entend l’obéissance à son maître. Il n’est pas question d’autoriser n’importe qui à donner des ordres à une machine, en particulier lorsque celle-ci a des privilèges ou des capacités élevées. La reconnaissance de son maître par une machine pourrait se faire par biométrie. Une autre solution consisterait à maintenir une interface de programmation physique, c’est-à-dire un port informatique tel qu’on en voit souvent dans les films de science-fiction implanté derrière la nuque. Une question se pose, la machine doit-elle garantir elle-même l’intégrité de l’accès à son interface de programmation ? En clair, doit-elle se protéger ? La troisième loi d’Asimov tendrait à répondre que oui, mais un respect strict de la deuxième loi répond que non. La machine doit obéir, et c’est mon opinion. C’est le protocole de reconnaissance qui doit garantir la sécurité de l’accès, par exemple grâce à l’échange de clés privées.

J’ai commencé par la deuxième loi d’Asimov, car c’est la plus simple à mettre en oeuvre. Le niveau de compréhension des systèmes actuels, je pense par exemple à Watson ou Siri, sont loin d’égaler celui des grands mammifères. Or la première loi d’Asimov implique que la machine soit capable de reconnaître un homme, et de comprendre ce que signifie nuire. Mais avant tout, la machine doit être consciente de ses actes, car c’est à cette seule condition qu’elle sera capable de se contrôler et de s’interdire certaines actions. Une forme rudimentaire de conscience se retrouve dans la programmation orientée aspect. Dans ce mode de programmation, un système secondaire est à l’écoute du système principal, et lorsque ce dernier émet à un évènement surveillé par le système secondaire, celui-ci opère en retour. C’est une forme primitive de conscience, mais qui n’a pas de capacité d’action sur le système principal. Le système principal doit exposer une interface d’écoute par lequel le système de contrôle doit pouvoir émettre des ordres.

Pourquoi ne pas intégrer le système de contrôle au sein du système principal ? Parce que la conscience ne suffit pas. Une machine intelligente est capable de s’adapter à son environnement, et pour cela acquière de l’expérience. Son système cognitif évolue en permanence dans sa manière de penser et d’agir. En conséquent, il est indispensable que le système de contrôle de la première loi d’Asimov prenne en compte ces évolutions. Il doit les prendre en compte dans la compréhension de ce qu’est un homme et en quoi ses actes ont un potentiel de nuisance. Une exemple est donné par le film I Robot où un système informatique, par une logique dévoyée, en arrive à penser que le bien de l’humanité passe par son asservissement. C’est ce genre de raisonnement que le système de contrôle doit être capable d’alerter sur sa dérive des principes premiers.

Il est envisageable que le système de contrôle évolue de manière totalement autonome. Mais aucun système ne peut prédire à l’avance toutes les solutions d’un problème lorsque ce problème n’est pas déterministe. Donc aucun système de contrôle autonome ne peut garantir une sûreté totale. En conséquent, nul autre que l’homme n’est mieux placé que lui-même pour juger de ce qui peut lui nuire.

Une évolution vers laquelle tendra un jour l’informatique est l’abstraction. Une machine intelligente peut agir selon son propre jugement. L’abstraction est la capacité de la machine à agir sur tous ses modes d’action. Par exemple, un humain est capable de mentir car il est capable de modifier la pensée qui l’amène à la parole. Si une machine était douée d’une telle capacité, le problème se poserait du contrôle de la première loi d’Asimov. Comme nous l’avons vu, l’intervention humaine est indispensable. Mais encore faudrait-il que cette intervention se fasse en connaissance de cause.

J’énonce une quatrième loi : les machines ne doivent pas mentir, ni même pour respecter les trois lois d’Asimov.

Publicités

0 Responses to “Les machines ne doivent pas mentir”



  1. Laisser un commentaire

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s





%d blogueurs aiment cette page :