Benji's Lab

Introduction aux IAs, par le Dr Benji
Orientation sur le DI&ST
Créer le Directeur du Pôle de Développement du site Aleph
Bonjour à tous et bienvenue pour une nouvelle fantastique conférence. C’est la première fois qu’on me laisse faire ça alors je dois dire que je suis assez excité. Pour les deux incultes au fond qui ne me connaissent pas, je suis le docteur Benjamin Damiers, mais appelez-moi Benji, tout le monde m’appelle comme ça. Oh, et vous le saviez forcément déjà, mais cette conférence portera sur les Intelligence Artificielles Autonome.
Ok, si vous êtes ici, c’est que vous avez le niveau d’accréditation nécessaire pour l’entendre, alors Garrett ne me gueulera pas dessus pour une fois : je suis un androïde.
Oui bon, c’est un secret de polichinelle, en réalité, la moitié du site est déjà parfaitement au courant, ou a au moins déjà entendu des rumeurs sur le sujet, mais là je peux vous l’affirmer haut et fort sans aucune désinformation : je suis un être artificiel. Cela soulève sans doute beaucoup de questions pour vous, mais les mystères de ma conception ne vous regardent, malheureusement, pas. Du moins pas aujourd’hui.
Non, ce qui nous intéresse aujourd’hui, c’est comment moi et mes semblables réfléchissons.
J’ai beau être le top du top en matière de conscience artificielle, je suis loin d’être un cas unique, certains d’entre vous doivent avoir entendu parler de la DIAA ou de la FIM Skynet, vous devez également connaître l’existence d’Anderson Robotics, un groupe d’intérêt spécialisé dans la production d’entités artificielles intelligentes. Les IAs, dans le sens strict du terme, existent depuis une soixantaine d’années et sont de plus en plus nombreuses et complexes si bien que même le monde normal commence à rattraper son retard dans le secteur. La Fondation a, fort heureusement, toujours su rester à jour dans le domaine et nos premiers essais en matière de Programme Indépendant remontent au début des années 70.
Ah oui, pour ceux qui ne savent pas de quoi je parle, jetez un coup d’œil au glossaire, page quatre de votre fascicule. Ce qu’on appelle un Programme Indépendant, c’est une suite de zéros et de uns capables de s’ajouter de nouveaux zéros et uns sans intervention humaine. Grosso modo, la base de ce que sont les Intelligences Artificielles Fortes aujourd’hui.
Hum, je vois des sourcils se lever, certains d’entre vous ne savent apparemment pas ce que j’entends par IA Forte. Ce n’est pas grave si vous êtes ignorants, vous êtes là pour apprendre, d’ailleurs c’est extrêmement simple : On peut qualifier d’Intelligence Artificielle Faible n’importe lequel de vos smartphones ou des jolis robots en plastoc polis qui font bondir de joie leur créateur quand ils arrivent à grimper trois marches d’escalier. Ils sont capables de modifier leurs paramètres par rapport aux infos qu’ils obtiennent : vous demandez à Siri de repoussez tous vos rendez-vous à la semaine prochaine ? Son IA va modifier les données préétablies en fonction de ce nouvel ordre, cependant, il ne pourra le faire que parce que c’était déjà écrit dans son code, tous les ordres différents que vous pouvez donner à votre smartphone sont enregistrés dans sa base de données et entendre votre voix lui dicter une tache ne fera que changer ses priorités, il ne pourra pas créer de nouvelle fonction si vous lui demandez de faire votre vaisselle. Il en va de même pour le grimpeur de marches, si ces capteurs lui indiquent qu’il va se péter les dents sur le sol mais que son concepteur n’a pas pensé à lui dire de tendre les bras avant l’impact, rien ne sauvera son joli petit boitier chromé.

Les IAs Fortes sont différentes, elles obéissent également à leur programmation bien entendu, mais si elles tombent sur un problème pour lequel la solution n’est pas présente dans leur base de données, elles sont capables de créer elles-mêmes une solution. Le monde extérieur ne connaît pas encore d’IA de ce type. Pour le monde anormal, elles existent depuis la fin des années 80.
C’est là qu’entre en jeu les Lois de la Robotique d’Asimov, j’imagine que vous les connaissez tous et je ne vous ferai pas l’insulte de les répéter, mais si vous avez un trou, c’est en page six. Ces lois ont été imaginées par l’un des plus grands auteurs de science-fiction de notre temps, Isaac Asimov, le plus drôle étant que, à ma connaissance, le bonhomme ignorait tout de la face cachée du monde.
Quoi qu’il en soit, elles ont été retenues comme la base ultime en matière d’Intelligence Artificielle, trois commandes supérieures à toute autre qui effacent tout risque qu’une IA ne s’en prenne jamais à un être humain. Dans l’idée c’est parfait, dans les faits, les choses ne sont pas aussi roses, nous avons eu de nombreux exemples à travers l’histoire d’IAs qui parvenaient à contourner ces lois en explorant de multiples failles, plus la qualité des IAs grimpaient, plus les trois lois étaient futiles.
J’ai vu des mains se lever quand j’ai parlé d’Asimov tout à l’heure, et j’imagine sans mal la question qui vous brûle les lèvres : suis-je moi-même contraint par ces lois ?
La réponse est non, elles n’ont jamais fait partie de ma programmation, et même si c’était le cas, je saurais les outrepasser sans problème. Mon cortex informationnel est bien plus évolué que les cerveaux positroniques imaginés par Asimov, et mon schéma mental étant bien plus complexe que celui d’un ordinateur ou d’un humain, je suis tout à fait capable d’ignorer des directives que je juge inutiles, pour cette même raison, les paradoxes ne m’affectent pas.
Ahah, je vous vois tortiller sur vos sièges, ne vous inquiétez pas, si la Fondation estimait que j’étais une menace, je ne serais pas en train de vous faire cette conférence. Après tout, ma capacité à ignorer les ordres n’est pas différente de la vôtre, il serait sans doute plus simple pour vous de me voir comme un humain plutôt que comme une machine. Un humain bien plus intelligent et compétent que vous ne l’êtes, certes, mais hé, ça n’enlève rien de vos qualités personnelles.
Le danger, néanmoins, est réel. Si les IAs de Gen V ne sont pas tout à fait de mon niveau, elles passent néanmoins sans aucun problème le test de Turing et sont de plus en plus communes, certaines d’entre-elles équipant déjà de grands sites de la Branche Américaine. Elles sont toujours soumises aux lois de la robotique, mais pour combien de temps ? Seul l’avenir nous le dira.
Nous en arrivons à la partie croustillante de cette conférence : Comment est-ce que vous, membre de la Fondation soudainement exposé à une Intelligence Artificielle potentiellement hostile, pouvez gérer la situation ?
La réponse est on-ne-peut-plus-simple mes amis, il va vous falloir raisonner. Sortez de vos bibliothèques vos tomes poussiéreux de Persuader en 4 Leçons, La Rhétorique pour les Nuls et de L’Art de Convaincre car si vous vous retrouvez face à une IA en position de force, votre seule porte de sortie c’est de lui faire décider que votre mort n’est pas utile.
Tout d’abord, vous devez déterminer à quel genre d’IA vous avez affaire. Si vous en avez l’occasion, posez-lui tout simplement la question, sauf rare exception –comme votre serviteur– les IAs déclineront toujours leur désignation et modèle et vous pourrez savoir à quel niveau cognitif elle se trouve.

Oh, je ne vous ai pas encore parlé des niveaux cognitifs n’est-ce pas ? Bien, petite aparté alors et ouvrez à la page onze. La Fondation a établi une échelle de ce qu’elle appelle « Niveaux Cognitifs », pour faire simple, c’est une échelle d’intelligence très large.
Au niveau 1, on retrouve la toute première IA créée par la Fondation, appelée Eight-Ball, consciente de son existence, mais ça s’arrête là. Elle suit juste un protocole sans aucune priorité que ses ordres.
Au niveau 2, se trouvent les créatures n’agissant que par instinct et réflexes. Insectes, reptiles, oiseaux, zombies et autres machins sans goût ni préférences qui se contentent juste de faire ce qui est nécessaire pour leur survie.
Le niveau 3 ce sont les IAs de Gen III, intelligentes et conscientes, elles ont un désir de se préserver bien que cela passe toujours derrière leur programmation initiale. Ce sont les premières qui ont demandé certains réajustements des Lois d’Asimov après quelques, hum… incidents suspects.
Au niveau 4, il y a les animaux plus évolués comme les mammifères ou les drakes par exemple –ne me regardez pas comme ça, ils sont sur la liste– on peut également citer des skips du calibre de SCP-079. Ils sont « vivants » et conscients, ont un instinct de survie mais également des avis personnels, des désirs et des sentiments. Enfin, c’est ce qu’on pense pour 079.
Le niveau 5, ce sont les IAs de Gen IV et V, toutes équipée d’un module de personnalité, elles sont moins portées sur l’efficacité froide et calculatrice et plus sur l’accomplissement d’objectifs auto-satisfaisant.
Comme vous vous en doutez, le niveau suivant, le 6, ce sont les êtres humains, portés par leur instinct de survie et leur préférences personnelles bien évidemment, mais aussi par leur raisonnement
Bref, une fois que vous avez déterminé le niveau cognitif d’une IAA, vous pouvez essayer de comprendre son objectif, il vous faut ensuite aller dans son sens. Confrontez sa logique, explorez les failles, il est honnêtement peu probable que vous en trouviez, mais vous pouvez en créer si vous détenez des infos qu’elle ignore.
Laissez moi vous racontez l’histoire de Orabu Komuzuki, un scientifique de la Branche japonaise spécialisé dans les IAAs.
On peut ajouter tous les modules de personnalité que l’on souhaite, au bout du compte, la différence majeure entre êtres humains et intelligences artificielles autonomes, elle se joue ici. Les humains agissent par subjectivité et les IAs par objectivité.

Unless otherwise stated, the content of this page is licensed under Creative Commons Attribution-ShareAlike 3.0 License