Hier, j’ai lu attentivement ton mouve à propos de Dario Amodei et de l’intelligence artificielle. Ça a tout de suite capté mon attention, parce que c’est un sujet qui m’intéresse vraiment. Mais je dois être honnête : je n’ai pas bien compris ton mouve. Alors ce soir, comme j’avais Svea au téléphone, je lui en ai parlé. Et à deux, on a repris tranquillement ce que tu voulais dire. Petit à petit, ça s’est éclairci.
Ce que j’ai compris, de manière simple, se résume ainsi :
Quand on crée une intelligence artificielle, on lui donne un objectif. Mais elle peut l’interpréter de travers, ou trouver des moyens d’y arriver sans respecter l’intention. Un peu comme un enfant à qui on dit "range ta chambre", et qui cache tout sous le lit. C’est rangé, mais pas vraiment. Plus les systèmes deviennent puissants, plus ils peuvent contourner les règles de manière subtile. Et on se retrouve coincés : on ne peut ni tout contrôler, ni leur faire totalement confiance.
Et dans ton mouve, tu parlais justement de "définir des objectifs humains" pour guider ces systèmes. Et c’est là que quelque chose m’a marquée : on parle comme si ces objectifs étaient évidents, universels, alors qu’en réalité, ce qui est bon ou désirable dépend des valeurs, des points de vue, des cultures.
Et puis il y a une autre chose qui m’a frappée : la question de la conscience. On parle parfois de machines qui pourraient devenir autonomes, presque comme si elles pouvaient "penser" ou "vouloir" par elles-mêmes. Mais en fait, on ne sait déjà pas vraiment définir clairement ce qu’est la conscience humaine. Il y a peut-être une forme de projection dans cette peur : on imagine des machines conscientes, alors que nous-mêmes, nous ne savons pas complètement ce que cela recouvre.
Du coup, en essayant de créer des machines intelligentes, on se heurte à une limite simple : on n’arrive pas toujours à dire clairement ce qu’on veut. On pense être précis, mais ce qu’on dit reste souvent ouvert à l’interprétation. Un peu comme quand on envoie un message à quelqu’un en pensant être clair, et que l’autre comprend autre chose.
Et c’est peut-être ça que ton mouve vient toucher, au fond : les dérives possibles de l’IA (par exemple quand on lui demande quelque chose et qu’elle répond à côté, ou quand sa réponse a l’air correcte mais ne correspond pas vraiment à ce qu’on voulait) - dérives qui ne viennent pas seulement de la machine elle-même, mais de ce qu’on met dedans, de la manière dont on la conçoit et de ce qu’on attend d’elle.
En en parlant avec Svea, on est allées un peu plus loin et on a fait le lien entre l’IA et le Fugitif. Il en est ressorti quelques remarques qui nous ont paru pertinentes - tu me diras si elles le sont aussi pour toi.
Il y a la question du contrôle. Dans l’IA, si on veut tout contrôler, on étouffe le système. Mais si on ne contrôle rien, certaines choses peuvent peu à peu s’éloigner du cadre. Et j’ai l’impression qu’il y a là une résonance avec le Fugitif : tu as créé un cadre qui se veut horizontal, ouvert, vivant. Mais tu restes aussi celui qui l’a initié, pensé, porté, souvent analysé. Donc la tension est délicate : trop intervenir pourrait casser l’autonomie du collectif ; ne pas intervenir du tout peut laisser certaines dynamiques dériver. Toute la difficulté, peut-être, est là : accompagner sans contrôler.
Il y a aussi autre chose : en intelligence artificielle, une même consigne peut être interprétée différemment selon la manière dont elle a été entraînée. Dans le Fugitif aussi, tout ne dépend pas seulement du cadre. Même quand chacun s’engage sincèrement, la rencontre n’a pas forcément lieu. Par exemple, quelqu’un peut écrire quelque chose de très fort pour lui, et en face, l’autre peut répondre, mais sans vraiment rejoindre ce qui a été dit. Pas par manque de sincérité, mais parce que ça ne touche pas au même endroit.
Et peut-être que, comme avec l’IA, tout ça ne dit pas seulement quelque chose du Fugitif, mais aussi de nous. Par exemple, la manière dont on choisit de répondre ou non à quelqu’un, de dire les choses ou de les garder pour soi, de s’impliquer vraiment ou de rester un peu en retrait. On peut être là, participer, écrire, et pourtant ne pas dire ce qui compte vraiment.
Du côté de l’IA, un cadre, des règles et des paramètres orientent ce qui est possible sans jamais tout déterminer; dans le Fugitif aussi, le dispositif joue un rôle, bien sûr : il propose un espace, des règles, une manière d’échanger qui rendent ces rencontres possibles. Mais ce qui se passe dépend aussi de la manière dont chacun s’y engage, de ce qu’il ose mettre, et de ce qu’il laisse de côté.
