J'ai un livre pou toi

Qu’est-ce qui fait que l’on se sent bien dans une maison ? Est-ce la disposition des pièces ? Des meubles confortables ? De la place ? Ou est-ce l’ambiance, les gens qui y habitent ?

Rose House, c’est une maison construite par Basit Deniau, et cette maison est entièrement gérée par une intelligence artificielle. Rose House est restée fermée depuis la mort de l’architecte. Un jour, l’IA contacte la police locale pour signaler qu’il y a un mort entre ses murs. Mais comment est-ce possible ?

Ainsi commence le roman écrit par Arkady Martine. Et cette autrice aime beaucoup écrire sur les relations entre les personnes. Avec ce récit, on ne va pas parler uniquement d’une maison sous intelligence artificielle. On traitera bien des relations humaines. Et cela fait partie des motifs récurrents dans les œuvres de l’autrice.

Commençons par résoudre une petite énigme, celle de Rose House, et c’est l’intelligence artificielle qui la pose dès le début à la policière Marritz : qu’est-ce qu’un bâtiment sans porte ? Rose House est-elle une maison ? Car elle n’a ni porte ni fenêtre. C’est un lieu qui ne laisse entrer ni sortir personne. Sauf un mort, apparemment. Personne n’y entre. Une seule personne peut s’y rendre, huit jours par an.

Rose House a été entièrement conçue par Deniau, un architecte, et il a décidé qu’à sa mort, son corps serait transformé en diamant et exposé au centre de la maison. L’IA a été conçue comme une extension de l’esprit de l’architecte, et le sous-sol contient tous ses travaux. Ce ne serait pas un temple dédié à l’architecte ? Un mausolée ? Et puis, si l’on va plus loin, seul Deniau décide encore qui entre et qui sort puisque c’est l’intelligence artificielle qui ouvre le portail… ou non. Pourtant, il y a bien un mort dans cette maison.

Personnellement, cela m’a rappelé le principe des maisons hantées et plus particulièrement une mini-série que j’avais regardée à l’époque : Rose Red, dont le scénario est de Stephen King. C’est une histoire inspirée de la légende de la maison Winchester. Rose Red est une maison qui se construit toute seule en tuant celles et ceux qui y entrent. Que ce soit Rose Red ou Rose House, ces maisons sont hostiles aux humains et animées par un esprit. Et c’est cela qui m’a fait tilt : en fait, l’autrice ne traite pas de l’IA, mais considère l’IA de Rose House comme un esprit, celui de Deniau.

Rose House n’est pas seulement une entité, mais elle a une influence sur un des personnages : Sélène. Sélène est l’ancienne protégée de Deniau. Dans ce roman, l’architecte est considéré comme un Picasso, tant par son génie que par sa toxicité envers les femmes. Et Deniau avait ce même genre de comportement, de son vivant, envers Sélène. Celle-ci a réussi à se défaire de cette emprise, mais il a eu sa revanche après sa mort. En effet, Sélène est la seule personne à pouvoir se rendre dans la maison une semaine par an. Il l’a enchaînée à la maison. C’est un peu comme la relation qu’a entretenue Joyce Reardon avec la maison Rose Red. Sélène lutte, joue un peu avec l’IA et son raisonnement, mais est-ce que c’est réel ? Non, je pense vraiment que dans cette relation, c’est l’IA de Rose House et donc Deniau qui ont eu le dessus.

Mais si l’on considère l’IA de Rose House comme un fantôme, aura-t-elle le comportement d’une intelligence artificielle ? Du côté de la littérature, on pourrait faire des rapprochements entre cette IA et les trois lois de la robotique d’Asimov :

1. Un robot ne peut porter atteinte à un être humain ni, en restant passif, laisser cet être humain exposé au danger.
2. Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi.
3. Un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la première ou la deuxième loi.

Et tout indique que cette IA ne respecte pas les trois lois de la robotique. Mais le doit-elle ?

Petit point législatif sur le règlement européen concernant l’IA. Quelles sont les pratiques interdites pour les systèmes d’IA ?

• L’utilisation de techniques subliminales pour altérer substantiellement le comportement d’une personne,
• L’exploitation des vulnérabilités liées à l’âge ou au handicap,
• La notation sociale, comme classer ou évaluer des personnes en fonction de leurs données, ou utiliser des données sensibles (politiques, religieuses, philosophiques, orientation sexuelle) pour catégoriser des personnes,
• Le profilage criminel basé sur des caractéristiques personnelles,
• La reconnaissance faciale, la reconnaissance des émotions ou l’identification biométrique à distance.

Concernant les IA génératives, quelles sont les obligations ?

• Traçabilité et transparence : on doit indiquer clairement quand une IA a créé un contenu et sur quoi elle a basé sa création,
• Contrôle des données sensibles,
• Respect des droits fondamentaux,
• Sécurité pour éviter les abus, comme la création de contenus illégaux,
• Partage des responsabilités.

Mais en cas d’infraction, qui va-t-on poursuivre ?

La responsabilité initiale reviendra aux développeurs et aux fabricants. Ensuite, il y a :

• La responsabilité d’exploitation : les entreprises ou personnes utilisant l’IA doivent garantir que les résultats sont fiables et légaux,
• La responsabilité partielle : les utilisateurs finaux, lorsque l’utilisation dépasse le cadre prévu.

Le règlement européen sur l’IA favorise un modèle de responsabilité partagée entre développeurs, distributeurs et utilisateurs finaux. En cas d’infraction, trois questions se posent : Qui a conçu l’IA ? Qui l’a déployée ? Qui l’a exploitée de manière abusive ?

Le problème ici, c’est que l’IA de Rose House a été conçue par Basit Deniau. Et il est mort. Doit-on la considérer comme une entité juridique autonome ? La maison s’autogère sans aucune intervention humaine. Elle prend des décisions seule et ses actions sont souvent imprévisibles. Elle montre qu’elle a un raisonnement stratégique. Mais toute sa logique repose sur les instructions de Deniau. C’est un prolongement de sa personnalité. Et Deniau a légué sa maison à Sélène. Sélène en deviendrait-elle la responsable ? Pourtant, elle n’a pas tout le contrôle sur la maison. On peut même considérer qu’elle en est, quelque part, prisonnière.

Pourquoi cette question d’autonomie est-elle importante ? Parce qu’il deviendrait éthiquement urgent de définir un statut juridique à une telle entité. Sinon, sa responsabilité reviendrait à Sélène. Et surtout, cela nous permettrait enfin d’analyser certaines actions de la maison. Selon notre interprétation, le roman prendra une toute autre saveur.

Et cela colle aux thématiques de l’autrice. Elle aime traiter de l’immortalité via la transmission de conscience. Dans sa saga Teixcalaan, lorsqu’un ambassadeur est démis de ses fonctions, il transmet une puce mémorielle pour assurer une meilleure continuité. Elle explore aussi l’ambiguïté morale. Dans Rose House, elle pose la question de la responsabilité des actes et de l’emprise qu’une personne peut exercer sur une autre, sous diverses formes.

Tant de choses dans ce roman, n’est-ce pas ? L’ai-je aimé ? Oh oui ! L’écriture est fluide et surtout, ce que j’aime dans un roman, c’est qu’il me pousse à réfléchir sur des notions du quotidien.

Si vous voulez rester dans l’ambiance de Rose House, je vous recommande :

• La Maison des feuilles de Mark Z. Danielewski,
• Rose Red de Ridley Pearson,
• Les Machines fantômes d’Olivier Paquet,
• La Cité des permutants de Greg Egan.