Du côté de chez Claude

Ce billet est un instantané de l'état de ma réflexion sur les LLMs début Septembre 2026. Je l'écris principalement pour moi-même, mais il sera peut-être partagé pour l'ouvrir à la critique et à la suggestion. Son objectif est de coucher par écrit mes postulats actuels, le développement de mon raisonnement et les questionnements encore en suspens.

Pour récapituler l'historique de ma relation avec cette technologie (en préférant le terme "LLM" à "Intelligence Artificielle" que je trouve galvaudé) : fin 2022, un des derniers cours de ma scolarité, portant sur les IHM et leur optimisation, nous introduit au Natural Language Processing (NLP) et présente une API OpenAI "davinci-002", qui deviendra quelques jours plus tard la première version de ChatGPT. Rien de très révolutionnaire jusque-là, une machine qui génère du texte et raconte un peu n'importe quoi. Je lis alors pour la première fois le désormais fameux papier "Attention is all you need" ¹⁰ à la base des modèles basés "transformer", dont je trouve l'idée intéressante, sans y accorder plus d'importance. Je sais déjà que je ne souhaite pas faire carrière dans le machine learning, le développement logiciel pur me paraissant plus intéressant sur plusieurs aspects.

Les modèles GPT-3, puis 4 font de plus en plus parler d'eux les années suivantes, s'immisçant de manière plus ou moins forcée dans nos outils de travail, en particulier pour le développement. Jusque là, le consensus que je partageais portait sur leur plus grande inutilité dans des tâches de développement un tant soit peu sérieuses. De simple curiosité, ils sont devenus des outils "mainstream" que tout le monde souhaite intégrer à son application ou site web. En parallèle, les projecteurs se sont tournés vers les laboratoires créant les modèles "de fondation", dont les valorisations financières battaient (et battent toujours) des records. Depuis 2024, les sites d'informations et autres boards d'actualités spécialisés IT ne parlent plus que de ce sujet, chaque sortie de modèle étant vue comme une révolution à ne pas manquer.

De mon côté, je suis avidement tous ces progrès, sans jamais moi-même ni y participer ni activement y toucher. Mes motivations pour ce refus (ici ordonnées par importance), restées inchangées entre fin 2022 et aujourd'hui, sont les suivantes : 1. En tant que nouvel arrivant dans le monde du développement logiciel professionnel, je souhaite développer le plus possible mes compétences en développement et architecture logicielle, arriver à la pointe de mon domaine pour en comprendre les enjeux dans leur globalité. La lecture de Cal Newport¹ à cette période me conforte dans cette initiative. 2. La qualité des modèles de langage n'est pas convaincante pour de la génération de code. Ma veille technologique active montre que certains développeurs trouvent un intérêt dans cette démarche et de potentiels gains de productivité, qui ne suffisent pas à me convaincre d'essayer cette technologie. 3. Les externalités négatives liées aux LLMs et les motivations réelles de ceux qui les promeuvent sont trop importantes pour être ignorées. Le manifeste publié par mwestphal en Mai 2026 ² détaille ces différents points, avec lesquels je suis en grande partie d'accord. 4. De nombreuses figures d'autorité pour moi, issues du monde du développement logiciel ou autres, refusent également en bloc leur utilisation pour des considérations éthiques.

Au printemps 2024, en parallèle de mes activités professionnelles, je reprends la maintenance du code du jeu Descent 3 ¹¹ qui vient alors d'être publié en open source. C'est pour moi une première expérience en tant que mainteneur de projet open source, et sera finalement la seule avant l'arrivée de la vague LLM dans le code. Je constate alors la qualité variable des contributions, dois gérer des conflits inter-personnels, une roadmap, etc. Cette expérience qui aura duré un an avant une baisse significative d'activité sur le projet m'aura donné une première référence quant aux possibles attendus de la part de contributeurs open source, ainsi qu'une conduite à tenir en tant que mainteneur; de mémoire, aucune contribution générée par un LLM n'est à alors signaler.

Après une pause dans mes activités de développement logiciel extra-professionnel pour explorer d'autres horizons techniques ⁴, j'y reviens finalement via le projet FreeCAD. Fin 2025, ce projet, longtemps resté destiné et développé par des amateurs, est alors au milieu de sa transition vers une professionnalisation plus importante. Je trouve alors une utilité à mon expertise en génie logiciel construite ces 3 dernières années via Kitware, et me donne pour objectif d'améliorer l'application et ses performances d'un côté, et la qualité de son code et de son système de compilation de l'autre. De plus en plus, je relis et propose des corrections sur les nouvelles contributions sur le projet. Je rejoindrai quelques mois plus tard l'équipe de mainteneurs du projet. Dès Janvier 2026, je repère des contributions venant de comptes GitHub créés récemment, souvent d'étudiants, utilisant tous le même template de description. La qualité de code est douteuse, les contributeurs n'agissent bien souvent que comme passe-plat⁵ entre un modèle de langage et le relecteur. Dans les 6 mois qui ont suivi, la quasi-intégralité des contributions sont devenues d'une manière ou d'une autre assistées par LLM, que le contributeur soit nouveau dans le projet ou un habitué, que ce soit un pour une correction de bug ou une nouvelle fonctionnalité, que l'assistance par LLM soit assumée ou non. Le règlement adopté au printemps 2026⁶ par le projet n'a changé que peu de choses dans le traitement des contributions, seule l'assistance par LLM intégrale et évidente étant assortie d'une fermeture de la contribution. Entre Janvier et Septembre, j'ai parcouru, relu et commenté des centaines de contributions, graduellement de plus en plus assistées par LLM. L'évolution rapide des modèles cette année s'est fait ressentir, rendant l'utilisation des LLMs de moins en moins évidente à mes yeux. La proposition du règlement sur les contributions assistées par un LLM que chaque contributeur doit "s'assurer d'avoir compris sa contribution" s'effrite, se retournant souvent contre le reviewer qui récupère la charge de prouver que le contributeur n'a pas compris sa contribution.

En parallèle, dans mon environnement professionnel, de plus en plus de collègues, clients ou d'intermédiaires ont recours à ces technologies, de manière plus ou moins assumée également. Les LLMs sont omniprésents, et sont utilisés par tous, pour tout : prototypage d'une solution, résolution d'un bug spécifique, rédaction de compte-rendus, estimations techniques, etc. Durant l'été, je fais face à ces contenus de manière continue : trop d'occurrences, trop de contenu, trop de temps nécessaire pour montrer que les solutions proposées ne sont pas optimales⁷.

Personnellement, après le constat d'une perte de contrôle relative ressentie sur les logiciels auxquels je contribue, la réalisation que cette réalité est maintenant la mienne s'est imposée à moi. La voie que j'ai choisie pour construire ma carrière et ma vie est en train d'être chamboulée de manière irréversible, et il est l'heure de faire un choix : continuer de résister, de lutter contre une technologie que je connais fondamentalement mal, à en risquer ma santé mentale et mon bien être, quitter complètement cette voie ou travailler à l'acceptation de la technologie et à la construction d'un point de vue plus équilibré et honnête par rapport à l'état actuel des choses.

En moins de 6 mois, le paysage technologique a changé drastiquement. Plusieurs mutations majeures s'opèrent : 1. Les modèles deviennent utilisables pour produire du code de manière convaincante. L'utilisation d'outils et la recherche sur internet réduisent considérablement la fréquence d'hallucination, réduisant le point 2. soulevé ci-dessus. 2. De plus en plus de développeurs de renom ainsi que des projets open source importants⁹ s'autorisent l'utilisation de cette technologie de manière modérée, et y trouvent des gains importants, réduisant le point 4. ci-dessus. 3. La guerre des prix et la concurrence E.A.U - Chine tire les prix vers le bas et rend l'utilisation des LLMs plus accessible. Des initiatives comme Apertus⁸ vers des modèles plus ouverts réduisent l'impact du point 3. ci-dessus. 4. Plus généralement, après plus de 3 ans à développer ParaView et son écosystème, je sens un plafond technique et un manque de nouveaux défis dans les tâches que je traite, contrant le point 1.

Ces éléments mis bout-à-bout, je remet de plus en plus en question mes convictions précédentes. En particulier, les problématiques que je cherche à traiter sont les suivantes : 1. Quel est réellement l'avantage prodigué par les LLM à l'état de l'art sur mon travail ? spécifiquement pour la réalisation de mes objectifs personnels, et l'acquisition de nouvelles connaissances. 2. Quelle satisfaction est-ce que je tire de cette nouvelle manière de travailler ? Quel impact sur mon entourage dans mes différents projets ? 3. Quel est l'effet de l'utilisation de ces outils sur ma connaissance et ma maîtrise du code et du métier ? 4. Est-il possible d'obtenir des résultats en utilisant des modèles complètement open source et déployés en local pour répondre aux questions éthiques ?

Je me donne donc un mois pour répondre à ces questions, en m'autorisant toute utilisation des modèles commerciaux disponibles, sans tabou. Rendez-vous en Octobre !