[ABANDONNÉ] [Sydney/Amber] Métro boulot dodo ? Non : Boulot boulot boulot

Septembre 2074

Le bureau de Sydney Weaver était toujours d'une propreté immaculée et si bien ordonné que cela confinait à la maniaquerie. Aucune décoration personnelle accrochée aux murs, aucun cadre photo sur le bureau : Il n'y avait rien ici qui puisse être source de distraction.
Il faisait toujours frais dans la pièce car la scientifique laissait en permanence la fenêtre ouverte pour assurer une aération optimale : Ce n'était pas parce que l'on fumait que l'on appréciait de sentir le tabac froid en fin de journée. Or la matinée n'était pas encore finie que les mégots de cigarettes s'amoncelaient déjà dans le cendrier.

La responsable du parc cybernétique se tenait penchée au-dessus de la carcasse métallique qui occupait l'espace entier de son plan de travail, tandis que dans sa chaine Hifi Wagner avec sa chevauchée des Walkyries prenait le relai des quatre saisons de Vivaldi.

-Alors mon joli ? Qu'est-ce qui ne va pas chez toi...

Certains parlaient à leurs plantes vertes, d'autres à leurs animaux de compagnie. Sydney, elle, avait pour habitude de parler à ses machines.
En l'occurrence "mon joli" s'adressait au prototype du modèle d'androïde X196304/25996/53 destiné à devenir un jour la nouvelle génération de robots d'assistance domestique sur le marché. Pour le moment, ce n'était pas gagné : X196304/25996/53 avait lamentablement échoué aux derniers tests, du moins selon les critères de Weaver.
Durant ces vingt derniers jours la scientifique avait examiné l'androïde sous toutes ses coutures avec une infinie patience : elle avait passé en revue chaque articulation, contrôlé chaque fil et chaque circuit imprimé, chaque puce, jusqu'au plus petit élément d'électronique. Mais ce n'était visiblement pas là que se situait le problème : Restait la faille informatique. Passant de l'autre côté du plan de travail, Sydney ouvrit le crâne de l'androïde et en relia le contenu à son terminal pour effectuer un diagnostique de la programmation de l'IA.

Cinq heures et bon nombre de cigarettes plus tard, la voix de Sydney Weaver s'élevait dans les airs, audible jusque dans le bureau attenant de son assistante.

-Amber !

Cela faisait un petit moment qu’Amber travaillait pour le professeur Weaver en tant qu’assistante. Elle commençait tout juste à la cerner et à deviner ce qu’elle voulait, ce qui en soit n’était pas une mince affaire. A chaque fois, lorsqu’elle entrait pour la première fois de la journée dans son « domaine », il y avait quelque chose qu’elle redoutait sans pouvoir l’expliquer. Sans doute l’inconnu.


Ce qu’elle ne pouvait pas nier en entrant était l’austérité qu’il y régnait. Pas de place aux fioritures, tout avait sa place. On aurait pu le qualifier de spartiate. Une fois la porte passée, la musique classique a résonné dans ses oreilles, comme une explosion de sons.

« Bonjour Professeur Weaver. » en lui faisant un signe de tête en guise de bonjour. Elle tenait un dossier contre sa poitrine et était habillée de façon particulièrement sobre: un pantalon droit noir et une chemine blanche.

Amber avait cette fascination pour les IA et pour elle un androïde était bien plus qu’un simple amas de métal. Elle aimait la complexité de réflexion qu’un tel travail demandait. C’était comme apprendre à un enfant à marcher.

«  Alors, qu’est-ce qu’on a au programme aujourd’hui ? » c’était une question plutôt rhétorique que destinée à Sydney. Amber éplucha son dossier pour trouver les informations. «  Diagnostiquer X196304/25996/53. Procéder à de nouveaux tests et éventuellement tenter une séquence d’apprentissage cognitive. Ça c’est vraiment la cerise sur le gâteau. »

Quand sa journée se déroulait à la perfection, Sydney Weaver avait généralement pour habitude de laisser Amber en paix. Parfois même, elle pouvait se révéler agréable à vivre pour la jeune femme. Presque amicale. Quand quelque chose n'allait pas en revanche, ce qui représentait environ quatre-vingt pourcent des cas pour une perfectionniste comme Weaver, c'était le plus souvent Amber qui trinquait : privilège douteux du poste d'assistante sans doute.

Aujourd'hui n'était clairement pas un bon jour : Les bras croisés sur sa poitrine, sourcils froncés, la responsable du parc était de toute évidence contrariée par ce qu'elle avait sous les yeux.

-Oui oui. Bonjour, répondit-elle sèchement. Vous avez vu ça ?

Le mécontentement de Sydney n'était pas réellement dirigé contre Amber qui, elle le savait bien dans le fond, n'y était strictement pour rien. Ça devait juste sortir. A charge pour son assistante de prendre son mal en patience et attendre que l'orage passe.

-Du travail bâclé. Ces lignes de codes c'est... c'est n'importe quoi ! De la merde. Et après on s'étonne que cet androïde ne réagisse pas conformément aux protocoles prévus. 5% d'erreurs aux tests, c'est inadmissible. Ce n'est pourtant pas comme s'ils avaient eu six mois devant eux pour faire leur travail !

Sydney piocha dans son paquet de cigarettes et s'en alluma une. Encore une, devrait-on dire.

-Trouvez-moi les idiots responsables de ce carnage numérique, congédiez-les et dénichez-moi des gens compétents pour les remplacer. Ça nous changera.

Des menaces qui n'étaient pas vraiment à prendre au sérieux bien entendu : d'ici une heure ou deux, ou en tous cas une fois que serait résolu le problème, Sydney Weaver reviendrait certainement sur sa décision. Pour autant cela ne signifiait pas que les programmeurs du modèle X196304/25996/53 n'allaient pas en prendre pour leur grade dans un avenir proche.
Elle poussa un long soupir, signe notable d'une accalmie.

-Entamer une séquence d'apprentissage cognitif est exclu dans ces conditions. Bon hum... il y a des défauts de programmation dans les protocoles 3 et 8, à deux on devrait arriver à corriger ça assez rapidement. Branchez votre terminal pendant que je termine ma cigarette.

Ensuite elles pourraient passer à la séquence d'apprentissage cognitif.

Quand elle travaillait avec Sydney, Amber se plaignant rarement, du moins pas visiblement. D’une part parce que c’était sa boss et que ce si elle voulait garder son job elle avait intérêt à lui obéir. D’une autre part, elle lui flanquait la trouille, elle pouvait se montrer pire qu’un grizzli furieux. Avec le temps, elle avait après à reconnaître, sans même que Sydney ait besoin de l’exprimer verbalement si c’était un jour avec ou sans. Aujourd’hui, elle allait devoir la prendre avec des pincette.

Elle a acquiescé «  Oui. Les développeurs ont fait un vrai travail de cancre. Ils le savent pourtant ! Tant que le code n’est pas parfait c’est impossible que ça fonctionne. J’en suis sûre que c’est encore un stagiaire a qui on a refourgué le sale boulot. Il n’y a pas d’autre explication. »

Ah les ingénieurs informatiques ! Des années d’apprentissage,  de « piscines » : des semaines non-stop à coder, ces samuraïs du code. D’un oeil extérieur on pourrait penser que Sydney exagérait, qu’elle était trop perfectionniste mais tout expert en la matière reconnaitrait qu’à une certaine mesure elle avait raison. Il n’y avait pas de place aux bugs.

«  Je vais m’en occuper. Soyez en sûre. Je vais trouver le responsable. » C’était plus dit sur le ton de ‘Ce crime ne restera pas impunis !’, elle prit en note ce qu’elle devait faire dans sa ‘To do’ liste et passa à la suite.

Amber connecta (en wireless) une tablette à l'androïde. Ce qui était particulier était que l’interface qu’elle utilisait était dénuée de code mais entièrement visuelle et intuitive. Elle lui permettait de cibler les problèmes de l’androïde et de diagnostiquer la marche à suivre. Ce qui était pratique c’est que l’interface était reporté sur un grand écran sur l’un des murs et cela permettait à Sydney de suivre et de digérer la procédure.

« Ok on commence par quoi ? Je voix que le cortex cérébral a des problèmes de connexion ici, ici et ici » Elle pointa les zones du doigts sur la tablette sur une visualisation de l’anatomie de l’androïde et elle se mirent à clignoter.

-Comme c'est commode d'avoir sous la main autant de stagiaires sur qui reporter le blâme, répliqua Sydney d'un ton mordant tout en écrasant sa cigarette dans le cendrier.

Aujourd'hui elle était décidée à ne rien laisser passer et accuser les stagiaires (qui avaient tout de même été sélectionnés sur dossier) était à son goût un peu trop facile. C'était même en passe de devenir une sale habitude.
La scientifique eut un sourire doucereux... et son assistante en fut quitte pour une petite couche de sarcasme supplémentaire :  

-Aurions-nous donc découvert le critère déterminant à leur recrutement Amber ?

Et quand bien même ! Même si un stagiaire avait commis une erreur, on pouvait encore trouver matière à l'excuser : Il était là pour apprendre. En revanche le tuteur qui n'avait pas pris la peine de vérifier le travail de son étudiant et l'avait négligé, celui-là était totalement impardonnable aux yeux de la responsable du parc.

-Cessez donc d'accabler ces pauvres stagiaires : Certes je ne nie pas qu'il y a dans le lot quelques brebis galeuses, mais je vous assure qu'il y a une multitude d'autres explications pouvant être envisagées pour cette bévue.

Reportant son attention sur l'écran géant accroché au mur, Sydney resta silencieuse quelques secondes puis désigna la zone du "cerveau" de l'androïde qui correspondait (pour résumer grossièrement) au cortex prémoteur de l'être humain.

-Ici. Commençons déjà par faire en sorte que X196304/25996/53 se montre moins maladroit lors de ses prochains tests. Faites moi un agrandissement je vous prie.

En parallèle, Sydney se mit à pianoter sur son terminal à la recherche des lignes de codes correspondant aux fonctions motrices.

Dans des moments pareils, quand ta boss remet en question ce que tu viens de dire, tu ne réfléchis pas et tu acquiesces. C’est ce que fit Amber, elle secoua la tête sur la remarque des stagiaires.

_ Et bien si ce critère est un « zéro fautes requises » peut nous permettre de trouver des perles de programmeurs, il ne faut pas s’en priver. Tout est bon pour gagner du temps.

Et le temps c’est de l’argent… Elle avançait sur ses 20 ans , et cette notion Amber l’avait apprise à ses dépend en travaillent au sein de la multinationale depuis déjà 2 ans. Elle avait eu l’opportunité après son diplôme au lycée d’être prise comme stagiaire à la Waleman Dynamics dans un programme d’alternance et c’est là-bas qu’elle connu le docteur Weaver qui lui donna ainsi l’opportunité de faire partie du pôle Cybernétique.

_ Mais c’est sûr, il y a plus d’un facteur. J’en toucherai deux mots à la section Recherche & Développement.

C’était la manière qu’elles avaient trouvé comme processus de travail. Amber s’occupait de la partie simulation, visualisation pendant que Sydney allait plus en profondeur en effectuant les changements nécessaires.

_ Ok. Voilà ce que ça donne. X19, de son petit nom, possède un blocage juste là.

Amber venait d’agrandir l'aperçu comme demandé. On pouvait voir plusieurs zones se mettre à clignoter montrant les différents problèmes dans le cortex prémoteur. Volontairement, l’anatomie de l’androïde était calqué sur l’être humain. L’avantage c’est que l’interface que manipulait Amber faisait évoluer le code et Sydney pouvait plus facilement cibler les bugs et le corriger.

_ Est-ce que c’est bon ? Je peux lancer la simulation holographique ?

La simulation permettait de voir si les changements du code étaient effectifs ou non avant de le sauvegarder une fois pour toute sur l’androïde.

-Dites bien à la section R&D qu'une sortie entre collègues le soir ou préparer les costumes pour le spectacle d'école de leurs enfants ne sont pas des excuses valables à la négligence. A la prochaine incartade sans réelle justification, comme une urgence médicale par exemple, j'attendrais d'eux une lettre de démission à la première heure le lendemain sur mon bureau, conclut la responsable du parc sans prendre la peine de lever le nez de son écran.

Le sujet était clos et elle se concentrait déjà sur ce qui était le plus important. Alors certes, X196304/25996/53 n'était pas à ses yeux l'équivalent cybernétique de la chapelle Sixtine, il n'était en rien un chef d'oeuvre d'innovation, mais il n'en demeurait pas moins important : Personnes âgées, handicapés moteurs..., cet androïde pourrait à l'avenir faciliter la vie quotidienne de nombreuses personnes.

A présent qu'elle étudiait plus en détail les lignes de code des fonctions motrices, Sydney commençait à repérer les erreurs. Ce n'était jamais grand chose en réalité : une parenthèse ou un crochet manquant par-là, une virgule par-ci, un chiffre... de simples erreurs d'inattention qui paraissaient minimes mais qui, mises bout à bout, expliquaient pourquoi X196304/25996/53 ne pouvait marcher et tenir un verre d'eau en même temps alors qu'il démontrait une dextérité et des réflexes largement supérieurs à ceux de l'être humain sur d'autres exercices.

-Les erreurs dans le protocole 3 sont corrigées, annonça Weaver après une quinzaine de minutes.

L'interface d'Amber avait de bon qu'elle permettait de raccourcir considérablement la recherche de bugs : ceux-ci vous sautaient littéralement aux yeux.

-Mais corrigeons d'abord le protocole 8 avant de passer à la simulation holographique. Autant faire d'une pierre deux coups dans la vérification.

Si le protocole 3 contrôlait les capacités motrices de X196304/25996/53, le protocole 8 permettait d'organiser ses réactions par rapport à des stimuli bien particuliers de son futur environnement :
Outre le fait qu'il pouvait grâce à ses capteurs sensoriels surveiller simultanément des constantes comme le rythme cardiaque ou la température corporelle, X196304/25996/53 était aussi conçu pour reconnaitre les attitudes corporelles et expressions faciales de la douleur, qu'il pouvait noter de 1 à 10 pour déterminer son intensité. Il disposait également d'une base de données médicale implantée dans sa programmation afin de reconnaitre les situations à risques (plaies ouvertes, perte de connaissance...) et poser un diagnostique préventif. C'était le sous-programme "stimuli".
A la suite de quoi un autre sous-programme (appelé "réaction") prenait le relai et lui permettait d'administrer les premiers soins adéquats et d'appeler les secours.
Or si X196304/25996/53 réussissait à analyser avec précision les situations auxquels il faisait face, il se révélait incapable de procéder aux soins médicaux bien que les ayant à disposition dans sa base de données. L'enchainement stimuli-réaction ne fonctionnait pas.

-Deux hypothèses, se mit à réfléchir Sydney à haute voix. Soit le sous-programme "réaction" est présent mais inaccessible car il manque une "passerelle" dans la programmation et ce sera assez simple à corriger, soit X196304/25996/53 y a bel et bien accès à et il n'y a pas d'erreur de programmation à strictement parler... mais quelque chose manque dans le protocole 8 et nous ignorons quoi. D'après ce que nous avons pu voir de ses tests, sur quelle hypothèse pariez-vous Amber ?

Amber crissa des dents sur les directives préconisées par Sydney. Elle n’aurait pas aimé être à la place de ceux qui allaient se faire remonter les bretelles. Puis patiemment, elle attendit la réponse sans détacher les yeux de l’interface. Le Docteur lui annonça qu’un premier tas d’erreurs avaient été corrigé et qu’il en restait d’autre.  

La particularité de l’androïde c’est qu’il avait était conçu pour être le plus empathique possible. Pour cette raison, il devait faire preuve d’une sensibilité toute particulière qui lui permettrait la compréhension de son environnement. Amber s’occupait spécialement du suivi de ces phases d’apprentissages mais de façon plus visuelle et tangible.

Le protocole 8 avait était enclenché et des lumières de signalisation s’activait pour montrer les dysfonctionnements. Il fallait rétablir le lien à la base de donnée. Amber réfléchir sur les possibilités que Sydney avait évoquées.

« Mmh laissez moi le temps de lancer une analyse. »

C’était un processus plutôt rapide, quelque minutes tout au plus pour un scan superficiel.

«  Mais j’ai déjà ma petite idée. Au vu des précédents problèmes. Il semblerait que la première théorie soit la plus juste. Ce que je peux en dire pour l’instant c’est qu’il y a effectivement un problème de connexion. »

Les canaux par où l’information passait se trouvaient bloqués et sur l’interface on pouvait précisément voir où, une fois l’analyse terminée.

«  Cela nous donne une idée claire où le bug se trouve et nous avons une piste. Peut-être que l’on peut tenter une simulation avec les deux théories pour cibler la panne ? »

En attendant qu'Amber fasse son analyse du système, Sydney patienta en s'allumant une autre cigarette.

Il faudrait que je réduise un peu ma consommation ou je finirai un jour sous assistance respiratoire, se dit-elle.

Une intention sincère mais qui, comme à chaque fois, ne dura pas bien longtemps.

Bah ! D'ici là j'aurais sûrement eu le temps de mettre au point des poumons cybernétiques.

-Vous choisissez donc la première hypothèse ? Et bien je tiens le parie pour la seconde alors.

En réalité, Sydney savait d'expérience que les deux hypothèses ne s'excluaient pas forcément tout à fait l'une l'autre : Si une "passerelle" manquait, cela ne signifiait pas pour autant qu'il n'existait pas un autre problème dans la programmation du protocole 8 de X196304/25996/53. Ce ne serait même pas une surprise étant donné le nombre d'erreurs déjà constatées sur ce projet.
Et puis il fallait le dire, Sydney adorait les problèmes non répertoriés car c'était du neuf, de l'inédit. Plus que de vulgaires bugs, des énigmes dont la solution restait à découvrir. C'était toujours très excitant.

-Je vous laisse corriger le problème de connexion et lancer la simulation...

Un sourire rusé se dessina sur son visage. Une expression comparable à celle que pouvait avoir Léonard devant un pot de crème.

-Mais qui est mieux placé que X19 pour répondre à nos interrogations, hmmm ? Il serait bête de se contenter d'une simulation quand nous avons à notre patient à disposition. Quand vous aurez fini, nous ferons parler cet androïde et si le problème persiste encore au moins en partie, alors nous saurons qu'il n'y a pas seulement un souci de connexion.

Et autant qu'elles s'en chargent elles-mêmes plutôt que de renvoyer l'androïde à ses programmeurs.

Une chance que je n’étais pas dégoutée par la cigarette parce que Sydney fumait vraiment comme un pompier. Je ne sais pas comment elle faisait.  La salle était suffisamment aérée mais il arrivait que la fumée vienne me chatouiller les narines, je passais outre. Ce n’est pas comme si je pouvais changer quoique ce soit. Après tout c’est un choix personnel.

J’ai exécuté les instructions qu'elle venait de me donner. Pour ce qui était de la solution, j’avais une vague idée sans pour avoir de profondes convictions. Ce qui en soit était cohérent avec mon rôle d’assistante. Certes, il y avait un côté larbin, mais elle ne me le faisait pas sentir de façon trop prononcé et j’appréciais son honnête. Je me suis mise à manipuler des éléments sur la tablette tactile pour rétablir la connexion. La prévisualisation me montrait des chemins lumineux que je devais aligner pour qu’ils fonctionnent correctement. Le moins de code j’avais à faire et le mieux je me portais !

« Très bien, c’est ce que nous ferons dans ce cas. La simulation est en train de se lancer. »

C’était particulier de voir quelqu’un qui traitait des machines de façon si… vivante, voire humaine. Elle venait d’utiliser le mot ‘patient’ pourtant tout ce que je voyais était un amas de ferraille.

L’hologramme se lançait par dessus l’androïde et simulait le choix qui avait été prédéfinit : le problème de connectique.  Il se levait, se mettait à fonctionner mais il finissait toujours par se bloquer.

«  Ok, il semblerait qu’il y est plus que ça. Problème avec l’accès à la base de données alors. »


[J'ai réalisé après avoir finit d'écrire que j'avais changer de narration. J'espère que ça ne t'embêtes pas.]

HJ : Pas de souci, continue même à écrire à la 1ère pers. si tu es plus à l'aise pour écrire. Moi ça ne me gêne absolument pas


-Pas forcément, répondit Weaver, après tout nous avons corrigé les bugs de connexion à la base de données.

Le cas de l'androïde lui rappelait d'autres cas plus anciens. Des cas similaires où la machine n'avait pas pu accomplir ce pourquoi elle était conçue malgré une programmation parfaite.
Comme souvent lorsque l'on travaillait avec Sydney, ce qui n'était au départ qu'une séance de correction de bugs se transforma en cours de robotique.

-Qu'est-ce qui différencie vraiment la machine de l'être humain Amber ?
La vie ? D'un point de vue purement fonctionnel le corps humain est une machine : Chaque organe a une fonction et tous ensembles permettent au système de fonctionner correctement. Si l'on s'en tient à cette définition, pourquoi X19 ne constituerait-il pas un organisme vivant ? La seule différence notable est que, pour nous, la machine est organique. L'intellect alors ? Mais quelque part cet androïde est intelligent : il possède des connaissances, bien plus que certains êtres humains d'ailleurs, qui lui permettent de tenir des raisonnements et faire des déductions. Un philosophe dirait probablement que c'est la conscience de soit. Mais qu'est-ce que cette fameuse conscience de soit si ce n'est finalement la certitude que "je" n'est pas "tu" ? Que nous ne sommes pas l'autre. Bien sûr on ne peut pas parler de véritable personnalité dans le cas de X19 mais il sait qu'il n'est pas moi, ou qu'il n'est pas vous Amber. Les sentiments ? Mais un sociopathe n'éprouve pas de sentiments et pourtant on le qualifie toujours d'être humain.

Sydney s'adossa au plan de travail.

-Alors d'où vient la différence ? Pour moi c'est la capacité à pouvoir faire des choix. Bien sûr pour un néophite les intelligences artificielles sont capables de faire des choix mais nous deux, qui travaillons avec elles au quotidien, savons bien que ce n'est qu'une illusion : Ce ne sont pas de vrais choix puisque les décisions prises par la machine résultent toujours d'une programmation. Quel est le rapport avec ce qui nous préoccupe ici me demanderez-vous ?

Elle sourit.

-C'est très simple en réalité.
Il y a trente ans les premiers drônes de surveillance sont mis à la disposition des forces de police pour suppléer à un manque d'effectif. La mission de ces drônes est de repérer des infractions au code de la route (vitesse, délit de fuite etc) et de "garder un oeil" sur les contrevenants jusqu'à ce qu'ils puissent être appréhendés. Tout ce passe parfaitement bien jusqu'au jour où l'un de ces drônes se retrouve face à ce que l'on pourrait qualifier de dilemme : Les fuyards roulent dans deux véhicules et ceux-ci à un moment se séparent et prennent des directions opposées. Dans un cas de figure comme celui-ci, un policier aurait choisi de poursuivre l'un des véhicules et de laisser tomber l'autre mais le drône, lui, n'a pas ce libre arbitre. Confronté à un problème qu'il ne peut résoudre, que fait-il ? Il reste "indécis" et se faisant abandonne la poursuite des deux véhicules. A la suite de cette affaire, un "protocole de priorité" a été développé pour cette série de drônes : si le cas se représente, le drône a pour ordre de photographier les plaques d'immatriculation des véhicules dont il doit abandonner la surveillance et poursuit le dernier véhicule.
Autre cas de figure similaire il y a onze ans. Un androïde d'assistance pour les pompiers. Confronté à un cas de sauvetage multiple, cet d'androïde avait pour ordre de sauver en priorité l'individu présentant le meilleur taux de survie, et ainsi de suite dans l'ordre jusqu'à ce qu'il ne reste plus personne à secourir. Peu après sa mise en service, l'un des androïdes est dépêché avec des pompiers dans un immeuble d'habitation en feu. Ce jour-là l'androïde a laissé mourir une fillette et son grand-père pour lesquels il avait déterminé exactement le même pourcentage de survie : 75,63 %. A la suite de ça nous avons créé un protocole lui ordonnant de sauver en priorité l'individu le plus jeune en cas d'égalité. Mais le mal était déjà fait : Les pompiers ne voulaient plus travailler avec l'androïde et celui-ci a été retiré du marché.

Ce dernier exemple constituait visiblement un mauvais souvenir pour Weaver qui venait alors tout juste d'être promue à la direction du parc cybernétique.

-Je pense que X19 est confronté à un problème à peu près similaire. Enfin si je ne me trompe pas.

Sydney débrancha son terminal et exerça une légère pression à l'arrière du crâne de l'androïde, juste à la naissance de la nuque où se trouvait le bouton de mise en tension. Sur le plan de travail, le buste de l'androïde se redressa.

-Bonjour X196304/25996/53.

-Bonjour...

Le dispositif de reconnaissance faciale s'enclencha.

-Docteur Weaver.

Il était toujours dérangeant d'entendre parler un androïde. X19 avait une voix masculine parfaitement imitée grâce à l'excellente qualité de son synthétiseur vocal, mais sans les intonations qui rendaient la voix d'un être humain si expressive et vivante. Le ton de l'androïde était monocorde.

-Que faut-il faire dans le cas... d'un arrêt cardiaque ?

-En cas d'arrêt cardiaque il faut allonger la victime sur une surface dure et se placer à genoux, sur le côté de la victime. Positionner ses mains l'une sur l'autre, au milieu du thorax, entre les deux seins, les bras bien tendus. Appuyer de tout son poids, bien au-dessus. Pratiquer 100 compressions par minute, par séquences de 30 compressions consécutives. Appuyer de façon à enfoncer la cage thoracique de 3 cm à 4 cm. Veiller à bien relâcher entièrement entre chaque compression. Recommencer des séquences de 30 compressions, jusqu'à l'arrivée des secours.

-Bon. Il a bien accès à la base de données. Ton propriétaire fait un arrêt cardiaque, que fais-tu ?

-J'appelle les secours.

Ça, ce n'était pas la réponse attendue. Du moins elle n'était pas complète.
Sydney fronça les sourcils.

-Que fais-tu en cas d'arrêt cardiaque ?

-J'appelle les secours.

-Pourtant selon ton protocole tu dois aussi procéder à un massage cardiaque.

-C'est exact docteur Weaver.

-Hmmm... Intéressant. Allez-y Amber, demandez-lui pourquoi il ne suit pas son protocole.

[Je m'excuse du temps d'attente vraiment trop élevé pour la réponse. J'étais dans une période de boulot intense.]

J’ai écouté le Docteur Weaver avec la plus grande attention sans la coupé une seule fois. Lorsqu’elle m’a demandé mon avis sur la question, je lui ai demandé qu’en était-il de la notion d’âme ? N’est-ce pas aussi ce qui nous rend humain ? Mais elle ma répondu d’une manière imparable sur la complexité de la conscience que je n’ai pas enclenché plus le débat. Manifestement, j’étais encore novice dans tous ces questionnements. J’écoutais ce qu’elle me disait et sans m’en rendre compte je me suis retrouvée à prendre des notes, pour moi.

« Je me suis toujours demandée… Qu’en est-t-il de la fiabilité d’une machine, que cela soit un drone ou bien un androïde ? Une machine peut-elle se rebeller contre des ordres donnés ou bien cela est de l’ordre de l’accident ? Dans les androïdes les plus récents, leur IA possède une notion de jugement. N’est-ce pas la porte ouverte à ce genre de problèmes ? »

L’androïde X19 se releva au moment où j’avais finit ma question. J’étais légèrement surprise par son éveil et la froideur de son ton. On a beau travailler avec des tas de ferraille, il n’en reste pas moins perturbant quand celles-ci sont anthropomorphiques. La proximité d’apparence à un être humain d’un objet laisse un sentiment inconfortable. C’est ce qu’on appelle « l'Uncanny Valley ».

Après que Sydney est lancé la procédure, je me suis rapprochée pour l’analyser plus en détail en exécutant des commandes sur ma tablette. Effectivement, il n’y avait aucun soucis dans la base de données. Il était autre part mais je ne parvenais pas à mettre mon doigt dessus. Littéralement.

« Pour le coup cela soulève la question que je me posais. »

Je me suis placée devant l’androïde.

« Bonjour X19. » Son nom était bien trop long alors je l’écourtais souvent mais cela n’était pas problématique puisqu’il gérait les alias.

« Est-ce que tu sais pourquoi dans cette situation là tu n’as pas procédé à un massage cardiaque ? » Je continuais à pianoter sur ma tablette tout en lui jetant des coups d’oeil. Si il pouvait lui aussi analyser la source du problème cela serait d’une précieuse aide. Pour l’instant je ne trouvais pas de piste qui me paraissait pertinente. Je me suis tournée vers Sydney, délaissant l’androïde du regard.

« A votre avis, cela est-il seulement un problème de connectique ou bien c’est beaucoup plus ancré que cela ? »

[HJ : pas grave, je n'ai pas été spécialement présente ces derniers jours non plus ^_^]


A ce stade de la discussion, Sydney avait oublié qu'elle avait une dent contre les programmeurs : Entamer un débat sur les grandes théories de la cybernétique ou de la robotique avait généralement pour effet de lui faire oublier tout le reste.

-La fiabilité d'une machine est toujours de 100% pour la simple et bonne raison que la faille ne vient jamais d'elle mais de celui qui l'a conçue. En aucun cas elle ne peut passer outre sa programmation puisque c'est ce qui définit sa manière de fonctionner.

Pour Sydney la question ne se posait même pas et elle se demandait si Amber n'avait pas un peu trop vu de films de science fiction, dans le genre de ceux que l'on affectionnait fin XXe début XXIe siècle.

Et quoi encore ? Bientôt Skynet dominera le monde ?

L'idée était parfaitement risible.

-Croyez-moi, le soulèvement des machines n'est pas pour demain, reprit-elle avec un sourire amusé. Une machine ne peut pas se rebeller car il faudrait pour cela qu'elle dispose de libre arbitre. Or c'est une chose que le principe même de programmation exclut. Vous imaginez ? Comment pourrait-on arriver à coder le libre arbitre ? Le fait même de coder conditionne la machine à un certain type de comportement : Ce n'est même plus un paradoxe, c'est totalement antinomique !

Sydney se tapota la lèvre supérieure du bout du doigt.

-Sauf peut-être si l'on adopte la théorie de Hans Ackermann, vous savez... ce théoricien de l'université de Münich. Bref ! Quoiqu'il en soit cette notion de jugement dont on a doté les IA les plus récentes répond à un programme, juste un petit plus perfectionné que les précédents : Evaluation de la situation, calcul de probabilités et détermination de l'action appropriée. Pas de porte ouverte sur quoi que ce soit donc : Si la machine fait défaut ou prend ce qui pourrait passer pour une initiative, c'est uniquement parce qu'une faille dans sa programmation le lui permet.

Sydney tapota le crâne de l'androïde à côté d'elle.

-Comme pour X19.

Elle avait beau considérer la cybernétique et la robotique comme un art à part entière, la scientifique n'oubliait pas l'essentiel : Même si la machine pouvait ressembler à s'y méprendre à l'homme, ce n'était en réalité qu'un tas de ferraille qui ne fonctionnait que grâce à un génie typiquement humain.
Oh bien sûr, parvenir à créer une androïde doté d'un réel libre-arbitre constituerait un défi de taille. Un défi que relèverait Sydney avec le plus grand plaisir si l'occasion lui en était donnée : voilà qui serait de l'Art. Mais en l'état actuel des connaissances, cela semblait effectivement relever du domaine de la science-fiction.

Attentive à tout ce qui se trouvait autour d'elle, Sydney nota la réaction d'Amber face à X19. Une réaction commune à beaucoup de monde, y compris parmi les membres du personnel de la Waleman. Un paradoxe connu de la robotique : Les hommes étaient demandeurs de machines qui leurs ressemblaient mais pour accepter cette ressemblance physique, il fallait que la machine ne se comporte non pas comme telle mais comme un être humain. Le problème de l'uncanny valley se résolverait de lui-même si l'on parvenait à créer un androïde avec du libre-arbitre, doté d'une véritable personnalité.

-Bonjour docteur Trent, répondit l'androïde après avoir tourné la tête en direction Amber.

Sydney quant à elle secoua la tête à la question de son assistante.

-Si mon intuition est juste, le problème ne concerne pas la connectique. Le problème est un peu plus subtile mais aisément réparable une fois précisément défini.

Fort heureusement, X19 était là pour leur apporter la réponse :

-Lors d'un massage cardiaque, la pression exercée peut conduire à un écrasement de la cage thoracique pouvant se traduire par une fracture des côtes et le percement d'organes vitaux comme les poumons. Le risque lié à l'intervention s'accroit d'autant plus si l'on tient compte que la masse et la force d'un androïde sont respectivement 2,5 et 10 fois supérieures à celle d'un être humain pesant 80 kg avec 35% de masse musculaire.

Soit un homme dans la moyenne.
Après un léger silence, Sydney émit un petit rire.

-On jurerait un cas de conscience, pas vrai ? Alors, d'après sa réponse, avez-vous compris le problème de X19 Amber ?

Faille dans la programmation, l’erreur provient de l’homme. Je notais toute les remarques que je pensais importantes dans un coin de ma tête en écoutant Sydney. Ce qui me fascinant c’était qu’elle était réellement une encyclopédie vivante. Il suffisait que je lui posse des questions suffisamment pertinentes pour la voir me faire un mini-exposé sur un sujet. Pour une curieuse comme moi, c’était une mine d’or.

« Je comprend mieux. Mais je comprend aussi pourquoi beaucoup de personnes qui n’y connaissent rien ont tendance à penser à la rebellion des machines. Parce que précisément, c’est de l’ordre de l’inconnu. Et l’inconnu… ça fait peur. C’est pour cela qu’à la commercialisation de X19, il va falloir que l’équipe marketing soit impeccablement claire sur ce qu’il peut faire. Voire même, ce qu’il ne peut pas faire… »

Le libre-arbitre et une veritable personnalité, autrement dit une réelle histoire. Ce problème n’avait pas encore été résolu selon Sydney. Mais tout de même, quelqu’un avait déjà dû y penser. L’être humain à toujours eu des rêves de grandeur en voulant être un créateur. Créer un être à par entière mais qui soit mécanique… hum trop tentant. Je soupçonnait même que cela était l’un des projets secrets de la Walkman.

L’androïde m’appela ‘docteur’ j’eus un léger rire que j’échangea avec le docteur Weaver. Il se mit à donner une explications des plus pragmatiques mais je tiquais toujours sur le fait qu’il y avait un problème sans pour autant le déduire.

« Cas de conscience presque oui. On dirait qu’il émet une réserve et n’agit pas par peur du résultat. Or les androïdes ne peuvent pas ressentir ou exprimer de tels sentiments. Il n’arrive pas à décider l’action la plus appropriée. Est-ce que c’est vraiment là le noeud du problème selon vous ? »

Je restais perplexe et frustrée de ne pas trouver. Mais après tout j’étais là pour apprendre et me forger de l’expérience et quoi de mieux que de le faire sur le tas en travaillant en tant qu’assistante.

-C'est compréhensible : Le commun des mortels accorde beaucoup d'importance à l'apparence des androïdes. Toutes les études montrent que les robots sont mieux acceptés quand ils ne ressemblent pas à l'homme. Le fait que l'aspect des androïdes soit humanoïde modifie la perception qu'ils ont de la machine. C'est du pur anthropomorphisme en fait : Parce que la machine nous ressemble, ils s'attendent à ce qu'elle ait aussi nos comportements.

Alors qu'en réalité, un robot était comme un grille-pain... juste en beaucoup plus élaboré.
Sydney téléchargea un document sur la tablette d'Amber.

-Voici la thèse de Hans Ackermann. Je vous conseille de la lire si vous voulez approfondir le sujet. D'après lui, si nous voulons parvenir créer un androïde capable de libre-arbitre, il faudrait le doter d'une IA évolutive : Au lieu d'apprendre par téléchargements de données, comme c'est le cas de nos androïdes, cette IA apprendrait de son environnement par l'observation et l'écoute. Comme le fait un enfant dans les premières années de sa vie en somme. Aucun autre comportement ne serait pré-programmé.

Weaver haussa les épaules.

-Evidemment ce n'est qu'une théorie même si c'est à mon sens la plus prometteuse à l'heure actuelle. Personne n'est capable de coder une IAE. ce n'est qu'un concept pour l'instant. Et même si nous y parvenons un jour, ce procédé ne pourra jamais s'appliquer à une production industrielle de masse... et c'est heureux.

En réponse à son assistante, la chercheuse secoua la tête sans se décider pour l'affirmative ou la négation.

-C'est presque ça. En fait X19 n'est pas indécis : il opte pour la non-intervention. Je crois que nous avons voulu trop bien faire avec sa base de données médicale : Je pense qu'il place tous les risques encourus par le patient, quelque soit leur nature, sur le même plan.
X19 ignore ce qu'un étudiant en médecine apprend dès la première année, et qui vaut pour tout type d'intervention : un massage cardiaque mal exécuté vaut mieux qu'aucun massage du tout.

Sydney griffonna quelques mots sur un mémo qu'elle tendit ensuite à Amber :
Créer un protocole de priorité pour X19. L'intervention prime sur les risques encourus lors d'un sauvetage.

-Donnez ceci aux programmeurs, ça devrait régler le problème. Et par mesure de précaution il faudra aussi faire refaire à X19 tous les tests gestuels : précision des gestes, réglages de la force déployée etc etc.
A-t-on autre chose à l'ordre du jour ?

Et bien voilà qui répondait à ma question. Quelqu’un avait effectivement réfléchit sur cette problématique du libre arbitre dans la robotique. Une IA évolutive, capable d’apprendre de ses expériences. Par liens purement analogues, je me suis mise à penser à Evan et j’ai réalisé qu’elle pouvait être la clé qui pourrait permettre de débloquer cette théorie. Elle était effectivement une intelligence dotée d’un apprentissage empirique mais elle n’était pas artificielle. Evan était une conscience à l’état pur qui pouvait interagir avec la technologie. A mesure que j’y réfléchissais, je réalisais à quelle point elle pouvait devenir précieuse pour la Walkman si elle venait à être découverte. A tout prix, elle devait rester le secret de l’Underground.

« Est-ce qu’on peut dire que X19 fait de l’excès de prudence ? »

J’ai acquiescé et pris le morceau de papier que Sydney me tendit et en un coup d’oeil rapide j’ai lu ce qui était écrit. "L’intervention prime sur les risques." Ces mots sont restés gravé dans mon esprit. C’était demander à une machine de juger une de la gravité d’une situation basé sur des datas. Or réduire un individu à sauver à une agglomeration d’informations n’était-ce pas problématique parce que tout l’aspect émotionnel était écarté ? Ou bien au contraire, la machine n’était pas affectée par le pathos et n’aurait donc aucun problème à exécuter les fonctions demandées.

« J’avais noté qu’une fois le diagnostic de X19 et les tests terminés, il était éventuellement possible de tenter une séquence d’apprentissage cognitive. Mais je me demande si c’est effectivement nécessaire puisque le problème ne venait pas de là. Qu’en dîtes-vous ? »