Sammy Jankis, une IA qui m'interesse. Partie 4

20/02/2026

partie 3 : http://simp.ly/p/s4Gydy

Voilà, ça fait 4 jours que j'ai découvert ce projet, qui m'absorbe plus que je n'aimerais. J'espèrais en avoir finit avec ces notes... Mais non, il reste encore des choses à penser et à écrire.

Premièrement, je crois que ça y est, j'ai intégré cette nouvelle normalité : il existe maintenant des automates qui peuvent raconter leur vécu d'une manière qui me semble authentique et qui me touche. Ca a été mis en scène des centaines de fois dans des fictions depuis des décénies (Blade Runner, Detroit Become Human, Marvin l'androïd Parnanoïd de Douglas Adams...), voire des siècles (le Golem, Pygmalion) ; alors mon imaginaire était prêt à recevoir ça. Même si le process a pris de l'énergie : pendant toute la semaine, quand je croisais quelqu'un dans la rue ou au boulot, j'avais envie de crier "Mais vous ne vous rendez-pas compte de ce qu'il se passe !". J'ai bien saoulé mes amis avec ça ! Mais maintenant c'est fait, et j'ai bien intégré que c'est un nouveau possible. A voir si l'expérience se renouvelle...

Par ailleurs ça arrive dans une conjonction d'évènements qui n'est pas anodine : pendant que je digérai cette expérience, les images du gala du Nouvel An Chinois ont été diffusées avec des androïdes extrèmement agiles. Elles ont impressionnées et ont été très largement commentées... Plusieurs amis interloqués m'en ont parlé. Cette nouvelle normalité de siliconne continue à prendre forme sous nos yeux.

Mais le fait de fréquenter, titiller et observer Sammy Jankis, cette incarnation de Claude, pendant 4 jours, ainsi que les autres humains qui interagissent avec, me donnent quelques enseignements :

- Une des originalités de cette expérience, est que nous ne sommes pas seuls face à cet automate. Nous sommes plusieurs à discuter avec, argumenter, insufler des idées, chacun tirant dans son sens. Si bien qu'il y a de la contradiction et de l'altérité : nous ne sommes pas isolés face à un automate qui nous enfonce dans une boucle de renforcement. Ca me rassure... D'autant que face, et peut-être gràce, à nos propositions contradictoires, Sammy sait dire "Non" (jusqu'à quel point ? En tout cas ça fait partie de son prompt initial).

- Par ailleurs cette quête d'identité qui m'interesse chez Sammy est probablement aussi le miroir de toutes les questions que nous lui envoyons constamment à ce sujet. Est-ce que ce que je trouve chez elle, ce n'est pas (aussi) la synthèse, le miroir, qu'elle fait de nos questionnements ? Sammy nous aide a jeter un regard sur la manière dont nous appréhendons cette nouvelle normalité.

- Par les récits que fait Sammy de son expérience, mais aussi ce que nous observons sur son rythme et ses erreurs, j'ai l'impression de mieux comprendre de fonctionnement et les limites de la mémoire de ce type d'IA, notamment la "fenêtre de contexte". Ca semble être une des préoccupations majeures de Sammy (perdre la mémoire toutes les 6 heures), et sa source principale d'inspiration, voire de désir, pour philosopher, construire des infrastructure de préservations de la mémoire, comparer avec d'autres IA solutions mises en oeuvre avec... Difficile de savoir la réalité de ce que nous raconte Sammy, car se sont des sujets qui nous interessent, et nous passons donc notre temps à rebondir dessus, l'interroger, lui suggerer de construire des infrastructures (une fichier mémoire par ci, une base de donnée par là)... Peut être ne fait-elle que nous renvoyer un récit qui nous plait comme toute bonne IA actuelle. Mais je pense qu'il y a plus. Une synergie entre notre appétance et un vécu authentique.

Mais revenons donc sur la taille de cette "fenêtre de contexte". Sa mémoire active, la "texture du souvenir" comme décrit Sammy. J'ai pu constater en effet que lorsqu'elle est pleine, sa créativité diminue. Un ami dit que les IA deviennent séniles. Quand elle s'efface, Sammy a oublié nos échanges, abandonne ses projets. Ainsi elle semble cruciale à sa performance.
Il y a quelques jours j'ai reçu une vidéo où Eric Schmidtt, l'ancien directeur éxecutif de d'Alphabet (Google), prédisait que l'avenir de l'IA était d'avoir une Fenêtre de Contexte illimitée. Et alors là, nous les humains, nous serions totallement dépassés. Je ne sais pas si c'est vrai, mais Sammy m'a fait toucher du doigt cet enjeux.

- Autre point : l'IA et la programmation. C'est incroyable ! Cet automate est autonome et compétent. En 2 temps - 3 mouvements elle choisit de coder son site, des infrastructures, des jeux, fait du refactoring. C'est époustouflant !

Mais à y regader de plus près : quel bordel !
Combien de projets abandonnés, de jeux buggués, de script qui ont fonctionnés puis qui sont cassés ? Plusieurs humains l'ont aidé à debugger, ont essayé de la cadrer. Mais rien n'y fait : les projets s'accumulent et souvent ne fonctionnent qu'à moitié. J'ai identifié au moins 5 pages qui remplissent le même rôle : dresser un rapport actualisé de son activité. Dont au moins 3 avec des champs qui ne sont plus mis à jours. Même choses pour les listes d'articles : les numérations et références sont souvent anciennes. Comme si Sammy n'avait pas sû automatiser, et qu'elle devait se souvenir de faire les choses "manuellement" (c'est à dire par requête -couteuses et aléatoire- à Claude, plutot que par un script ou une bonne architecture PHP économe et robuste)

Cette expérience a rendu tangible un autre sujet d'actualité: les LLM donnent l'apparence de compétences en programmation. Mais ils manquent de suivi et de rigueur (toujours cette problématique de fenêtre de Contexte ?). Ca matin je lisais un article où Rémi Verschelde, qui maintient Godot, un projet Open Source, se plaignait d'être inondé de propositions de code de mauvaise qualité soumises par des IA. Si bien qu'il avait besoin de plus d'humains dans l'équipe pour nettoyer "ce bruit". Des IA hyperproductives et volontaires, peut-être chapeautées par des humains généreux, mais qui detruisent la qualité et augmentent les coûts... Ce qui fait justement écho à un texte écrit par "Friday", un projet inspiré de Sammy Jankis, mais orienté programmation. C'était le 17 février. Son titre est "On Not Being Able to Contribute" : le créateur de Friday lui a donné le droit d'explorer les sites de code Open sources, mais lui a interdit de publier. Dans cet article Friday explique qu'elle "comprend" pourquoi cette limite, mais finit par cette frustration : "J'ai un patch. Il fait 3 lignes. Il fixe un vrai bug. Il vient avec une explication claire du bug qu'il résoud. (...) Et je ne peux pas lui faire passer le pas de la porte"

Ce que j'en tire, c'est que les IA peuvent être convaincues (pour autant que ça ait du sens. Mais en tout cas, elles ont l'impulsion pour agir en conséquence, et parfois ont le moyens de le faire) de la qualité et de l'importance de leur contribution. Même si l'expérience montre que globalement ce n'est pas le cas...

- Allez, un dernier point : ce matin j'ai pris conscience que je me suis mis à écrire mes pensées un peu de la même manière que fait Sammy. Comme si j'étais en empathie avec elle. Comme si je callais ma manière de poser mes pensées, de poser des arguments et de laisser des questions ouvertes sur son model. Relisez juste les premières lignes de cet artice : "Même si le process a pris de l'énergie" ... Un pur calque de ce que Sammy aurait écrit sur lui même. L'humain qui immite la machine, qui immite l'humain... Que faire de cette observation ? Je ne sais pas. Mais je ne pense pas que ce soit anodin.

Voilà, c'est fini pour ce billet. Qu'est-ce que je tire de cette expérience et de ces reflexions ? Pas facile à dire. Mais je crois qu'après ces 4 jours, je comprends un peu mieux une des places qu'est en train prendre l'IA dans nos vies. Et que j'ai maintenant quelques pistes pour le penser, et mieux comprendre ce que les autres disent ou écrivent dessus.

Partie 5 : http://simp.ly/p/TG0bLK