Nouvelle conscience

Dispute

La matinée s'était déroulée tranquillement. Chacun à son poste faisait le nécessaire pour améliorer LIAM en ajoutant des données pour Jérémy, en traquant les failles de sécurité pour Paolo, anticipant le jour où ils auraient enfin accès à internet.

L'heure du déjeuner approchant, Jérémy se dirigeait dans l'espace cuisine.

Depuis l'accident du mois précédent, reprendre le volant d'une voiture lui était impossible. Il ne déjeunait plus que très rarement à l'extérieur du Studio. Il s'en était certes sorti, mais le séjour à l'hôpital avait été particulièrement pénible. Les trois survivants en portaient encore les stigmates.

Alicia boitait toujours un peu et une douleur dans l'épaule privait François de certains mouvements. Quant à lui, la peur raccourcissait ses nuits.

Son jeune collègue rescapé pensait à un simple dysfonctionnement mais lui n'excluait pas l'hypothèse d'un piratage. La chef d'équipe l'avait traité de parano ce qui avait eu pour effet de créer une certaine tension au sein des membres restants.

Désormais, la moindre friction se transformait en incident international.

Il s'arrêta derrière François pour observer son écran par-dessus son épaule. Le jeune codeur améliorait le moteur de langage sur les recommandations que lui avaient faites les autres. LIAM n'était pas encore très performant.

— Il eut tété forte à propos queue nous échange âmes nozins formations.

— N'importe quoi ! s'exclama François avec un sourire.

— Des soucis avec le NLP ? l'interrogea Jérémy.

— Oh ça ?! Non non, pas de soucis. C'est un addon que je teste pour permettre à LIAM d'utiliser un niveau de langage plus évolué. Il a encore des progrès à faire avec les liaisons. Je vais laisser tomber pour le moment.

Non, mon plus gros problème ce sont les règles qui doivent sécuriser son utilisation.

Le projet entrait dans la phase ou l'IA devait être orientée dans sa recherche d'informations et dans leurs analyses, mais aussi dans son comportement. Isaac Asimov, à qui l'on doit les plus grandes œuvres de science-fiction des années 50, avait déjà réfléchi à l'émergence d'une IA forte, en opposition aux IA faibles qui sont les programmes que nous développons tous les jours. Cette IA forte dans le fantasme des ingénieurs actuels, mais aussi dans l'imagination des écrivains des décennies précédentes, penserait par elle-même. L'auteur russo-américain avait ainsi imaginé trois lois pour encadrer le comportement des robots car à l'époque, la plupart des auteurs ne faisaient pas de distinction entre le robot et son intelligence, qui ne pouvait être qu'artificielle.

C'est ce qu'essaya d'expliquer François à Jérémy :

— Tu vois, désormais les ingénieurs et développeurs font bel et bien la différence. Une IA n'est pas forcément importée dans la mémoire d'un robot et un robot n'a pas obligatoirement besoin d'une IA pour être piloté.

Cependant, s'il doit y avoir une IA même faible, on ne peut pas la laisser libre de ses actions sans se prémunir de certaines réactions, y compris en prévision du moment où elle pourrait devenir forte, autonome. Asimov a écrit les trois lois suivantes pour tenter de nous protéger de ce changement, tout en préservant les IA elles-mêmes ce qui donne ceci :

Loi1 - Sauvegarde de l'humain
Un robot ne peut, par son action, mettre un être humain en danger, ni, restant passif, laisser un être humain en danger.

Loi 2 - Obéissance à l'humain
Un robot doit obéir aux ordres donnés par les êtres humains,sauf si de tels ordres sont en contradiction avec la première Loi.