Khaganat et son rapport aux LLM

Je réagissais ici à la phrase originale de Zatalyz

Mon approche de la question est elle aussi éthique, et d'après beaucoup de personnes, radicale.

Tiens par exemple: personne ne conteste le point 3.1 de la proposition, comme quoi il y aurait des outils (le noyau Linux par exemple) qui seraient irremplaçables malgré que leurs développeurs choisissent d'utiliser des LLM de façon plus ou moins importante.

Chacune met ses limites où elle veut et parfois où elle peut. Parce que si on décide que la première étape de Khaganat c'est de remplacer Linux (mettons par un système BSD pour les serveurs), de remplacer Blender, de remplacer les binutils qui sont nécessaires pour compiler pas mal de trucs et ben... c'est plus du tout le même projet.

(Je mentionne pour ceux qui ne savent pas, que je contribue beaucoup à Haiku, qui pourrait se positionner comme un concurrent de Linux entre autres choses, et n'a pas recours aux LLM. Je comprend tout à fait que Haiku ne soit pas considéré suffisament mûr pour les besoins de Khaganat pour la partie client où il serait éventuellement utilisable, mais ça me chagrine un peu que ce soit balayé de façon assez expéditive comme un "pas d'alternative" sans avoir creusé la question plus que ça. Mais là je fais du lobbying pour mes propres intérêts et je comprend tout à fait que ça n'emballe pas tout le monde de se lancer là dedans.)

Du coup, l'argument "il y a une exception limitée à l'utilisation des LLMs, et donc autant tout autoriser" ne tient pas vraiment. Il y a forcément un compromis à faire, le tout est de choisir où on place la limite. Et même si l'objectif est "le plus loin possible", ça ne sera de toutes façons jamais parfait (enfin, à moins de tout abandonner, ce qui n'est pas vraiment une solution intéressante pour l'instant, je pense).

Franchement, je suis en désaccord avec toute la section 3. Mais le point 3.1 indique une volonté de s'éloigner de ces systèmes reposant sur des LLM (le temps de trouver une alternative), alors que le 3.2 est littéralement une invitation à utiliser des LLM en remplacement des humains. Jusque dans son titre « Usage palliatif ».

Après je peux comprendre que ce soit le consensus au sein de Khaganat, auquel cas c'est moi qui n'y ai plus ma place. De toutes façons je pense que c'est déjà trop tard : une fois les utilisations des IA installées, elle ne s'en vont plus. Et clairement, dans le cas de Khaganat elles sont déjà bien installées.

le 3.2 est littéralement une invitation à utiliser des LLM en remplacement des humains. Jusque dans son titre « Usage palliatif ».

Tu as lu trop vite ou tu n'as pas compris, car il est proposé d'écrire justement « Nous le déplorons et nous souhaiterions que ce genre d'usage soit évité ». C'est une invitation à ne pas les utiliser. Par contre, nous proposons en effet de ne pas condamner les utilisatrices mais plutôt d'essayer de voir comment nous pourrions nous en passer ensemble, dans la mesure de nos moyens respectifs.

dans le cas de Khaganat elles sont déjà bien installées

À quels usages fais-tu référence ?

Je parle de toute la partie sysadmin, avec Zatalyz et Deed qui nous disent bien que c'est devenu "obligatoire". Et je ne vois aucune chance que ça reste limité à ces utilisations, en admettant que ce soit bien le seul cas où c'est utilisé.

Ce qui nous amène au problème plus profond, qui à mon avis a peu de chances d'être résolu : ça a détruit ma confiance. Quand quelqu'un me dit « Je n'utilise des IA que pour X », je ne crois pas cette personne. Ça ne correspond à aucun exemple réel que j'ai pu constater, dans la vraie vie quand on utilise des IA... on les utilise, tout court. Les quelques limites posées au début sautent rapidement.

Et franchement ma confiance a peu de chances d'être restaurée par une charte. Je pense que je vais attendre la fin de cette folie collective et la disparition des IA génératives avant de revenir dans le coin. En espérant qu'il y ait encore à ce moment-là quelque chose vers lequel revenir.

Bref : Bon vent, j'espère sincèrement que Khaganat vivra plus longtemps que ChatGPT.

Mon point de vue sur l'IA.

Je constate que le débat s'élargie sur d'autres sujets :
- La main mise par de grand groupe comme Google, Meta, Microsoft (plus quelques nouveaux acteurs).
- L'écologie, car certain fournisseur d'IA utilise de grand Datacenter, beaucoup d'eau et d'énergie.
- Et l'utilisation de ce mot de clef pour justifier des suppressions d'emploi/de poste.

Je ne rentrerai pas dans le débat des grands groupes, tous centralisés dans des pays qui ont une attitude belliqueuse contre l'Europe. A nous de définir les limites.
Quand à l'écologie, difficile de juger quand on voit tout ce que l'on importe (encore une fois de pays respectant rien ou juste en façade). J'ai même entendu qu'avoir un enfant n'était pas écologique, là je ne sais quoi dire.
Nous pouvons utiliser des IA dont les maisons mères et les services proviennent de pays plus respectueux, voir directement sur notre machine.
L'utilisation du mot de clef IA pour justifier des licenciements économique. Tous les deux ans, on retrouve ce scénario pour permettre de déclencher une vague de licenciement. Cela a un avantage, le CEO n'a pas à justifier ! Il est plus simple de suivre ce que les journalistes claironnent depuis des mois (eux-même suivant les dire de certain patron voulant préparer leurs investisseurs). On passe sous les radars et personne ne mettra en cause la légitimité de l'action. Il est difficile de répondre, la lutte syndicale afin de faire valoir nos droits, changer de travail afin de tourner la page, ...

Je clos ces sujets, pour ma part, et je me recentre sur l'IA.

Comme toute nouveauté, cela génère beaucoup d'enthousiasme et de suspicions, mais on ne peut pas arrêter les avancées. Doit-on refuser sous peine d'être dépassé par celle-ci et par ceux qui les utilises ?

Etant donnée, que la base pour entraîner provient de tout le monde (avec ou sans consentement ...), pour un projet OpenSource, cela me semble pertinent de l'utiliser.

L'IA n'est pas une personne mais un outil. A nous de montrer l'usage que l'on fait de celui-ci et surtout que l'on montre notre vision.

Attention, on doit toujours valider le résultat, l'outil s'est bien, mais celui-ci peut générer des erreurs. si l'IA fait une bêtise, celui qui a lancé est responsable.

l'IA couvrant tous les aspects, je pense qu'on doit l'utiliser dans tous les domaines (Codage, Génération d'image, Génération du son/musique, 3D, ...). On ne peut pas faire de distinction entre ces différents modes (il nous faut être équitable). Par contre, on n'est pas obligé de toujours l'utiliser.

On se doit aussi d'être transparent, quelle IA est utilisé, quelle version (et "identifiant unique"), lien sur le modèle, afin que l'on puisse contrôler, analyser, ... bref pas rester passif. Quel est le "prompt" utilisé, qu'elles sont tous les "prompt" systèmes utilisés.
On devrait définir le commit afin d'ajouter un indicateur pour signaler l'utilisation de l'IA: par exemple [AI used].

Dans le cadre de la recherche d'incident (issue), on devra ajouter des étapes obligatoires.
1- analyse du problème détecté
2- proposition d'une solution temporaire pour bloquer le problème (workaround) et si possible proposition d'un patch.
3- Vérification que l'incident n'est pas déjà déclaré (recherche doit être réalisé moins d'un jour avant la création de l'incident).

Concernant l'usage, voici mes idées:
1- utiliser l'IA sur un compte dédié (pas celui que vous utilisez pour lire vos courriels, XMPP, ...), bref un vrai compte pour l'usage de l'IA.
2- de mettre que des crédentiales limités (par exemple une clef SSH avec un mot de passe, l'idéal serait d'avoir que la clef qui pousse sur le repo GIT (avec une contrainte que le compte n'aura pas le droit de forcer une mise à jour [ne pas permettre de supprimer des commits, ...], voir mieux encore, un compte dédié Utilisateur-IA [Utilisateur : étant la personne qui valide]
3- ne pas permettre à l'IA d'ajouter des "hooks" (bloquer au niveau de git)

Bref, ici, je considère que l'IA peut être entraîné pour exécuter du code malveillant, il faut pouvoir cloisonner celle-ci (et se protéger).

Dernier point, sur la partie code, nous devons faire une attention sur les modules/libraires externe utilisé (on doit être pertinent sur l'utilisation de lib externe et s'assurer qu'elle n'ont pas de faille de sécurité, maintenabilité, ...)



Avant tout, nous sommes des hommes de dévouement et de sacrifice. Nous devons travailler pour tous avant de travailler pour nous.
Victor Hugo

Je clos ces sujets, pour ma part, et je me recentre sur l'IA.

À mon avis, c'est une erreur.

Soit il y a des solutions à ces problèmes, c'est-à-dire qu'il existe un LLM ne dépendant pas d'un grand groupe américain, et qui fait une utilisation raisonnable des resources (eau, électricité, etc). Auquel cas on peut discuter des aspects techniques. Soit il n'y a pas, et il faut, pour moi, d'abord régler ce problème avant de discuter des autres.

Etant donnée, que la base pour entraîner provient de tout le monde (avec ou sans consentement ...), pour un projet OpenSource, cela me semble pertinent de l'utiliser.

En temps que développeur de logiciel open source, je ne partage pas mon code sans consentement. Il y a une license qui demande de citer le nom de l'auteur. Je m'attends aussi à ce que les visiteurs de mon site web (humains ou robots, peu importe) en fasse une utilisation raisonable et efficace. C'est indiqué sur mon site par exemple de ne pas faire de mirroir complet par HTTP pour les parties comportant beaucoup de fichiers, et de me contacter pour avoir une solution plus efficace (mirroir rsync par exemple). Ce que les humains font en général, mais que les LLM ne font pas, saturant ainsi mon serveur.

Certes, pour le logiciel que j'écrit, je ne demande pas grand chose en retour. C'est souvent sous license MIT, et donc, le seul truc, c'est de m'attribuer la paternité du code et de garder la license qui autorise à repartager ce code. Avec un LLM qui serait entraîné sur du code que j'ai écrit et qui en régurgite une partie, ça ne sera pas le cas. Et même si c'est plus indirect, que le code ne ressemble pas tout à fait au mien, peu importe. Un des trucs qui me fait plaisir c'est de recevoir de temps en temps sur mon site web des messages de gens que j'ai pu dépanner grâce à un de mes articles (par exemple sur un composant électronique relativement obscur). Si ils ont obtenu leur réponse à travers un LLM? Fini, on peut oublier ce genre d'interaction.

mais on ne peut pas arrêter les avancées. Doit-on refuser sous peine d'être dépassé par celle-ci et par ceux qui les utilises ?

Oui.

Et c'est justement maintenant qu'il faut le faire, avant que tout le monde soit effectivement devenu dépendant. Comme on peut l'être au fait de se déplacer en voiture par exemple, alors qu'on aurait très bien pu faire d'autres choix, mais pour ça il aurait fallu réagir il y a 50 ans, maintenant ça va prendre 50 ans de plus à déconstruire.

Et oui, je pense aussi qu'avoir des enfants n'est pas écologique. Avez-vous entendu parler du mouvement pour l'extinction volontaire de l'humanité? Par contre, dans ce cas là je ne suis pas aussi directement impacté, et donc, je ne vais pas vous dire quoi faire avec vos choix de vie respectifs!

c'est long, j'ai lu en diagonal.

Et c'est dommage, le but est d'échanger et de travailler ensemble à un consensus. Là à mon sens tu fermes ainsi directement les échanges de façon non constructive, péremptoire et peu respectueuse du temps qu'on pris les autres à rechercher et écrire.

Je clos ces sujets, pour ma part, et je me recentre sur l'IA.

Pulkomandy y a mieux répondu que je ne le ferai. Se questionner sur l'outil sans prendre en compte son ancrage dans le monde réel est par définition complètement hors sol, pour toutes les raisons déjà discutées plus haut. Cela a un intérêt tant que l'on ne parle pas d'usage réel mais hypothétique (ce que dans un sens j'ai fait dans le 1er poste, avec des conclusions différentes vis-à-vis du projet).

In fine, idem Deed, sans compter que les arguments reprennent un peu des figures rhétorique éculées pour lequel je ne peux malgré tout pas ne pas dire un mot.

mais on ne peut pas arrêter les avancées. Doit-on refuser sous peine d'être dépassé par celle-ci et par ceux qui les utilises ?

On y retrouve ici pour moi :
- La fausse inscription du projet dans une compétition par le concept du "dépassement". Dépassé pour quoi ? World of Warcraft a gagné depuis longtemps le marché. Une fois sorti du marché, où est la compétition ? Et au-delà, pourquoi être compétitif ? Un logiciel Libre vise-t-il à être compétitif ?
- Une reprise variante de la maxime type "On n'arrête pas le progrès" dans la thématique T.I.N.A. Pulkomandy a donné l'exemple concret de la voiture imposée vis-à-vis de ses alternatives. Je vais en donner un autre pour grossir un peu le trait et mettre surtout en valeur le schéma d'argumentation posant problème à mon sens : on maîtrise maintenant très bien la fixation des puces RFID sous-cutané, doit-on arrêter le progrès et conserver nos vieilles cartes d'identité que l'on sort sur demande alors qu'on pourrait être pucé et identifié partout et en permanence sans avoir besoin de la transporter ?
Le progrès/les avancées c'est précisément ce que nous en tant que société sommes aptes à mesurer et devons déterminer comment un élément issue d'une recherche peut être conçu en applications utilisables, comment, avec quelles limites et se questionner si cela même a un sens. Il y a une sorte de renversement sémantique dans cette expression, "comme si le progrès s'était émancipé de nos propres désirs et échappait à toute maîtrise" pour citer Étienne Klein.

Avant tout, nous sommes des hommes de dévouement et de sacrifice. Nous devons travailler pour tous avant de travailler pour nous.
Victor Hugo

Cette dernière citation est intéressante, dans le sens que les problèmes éthiques soulevés pour la plupart ne nous impactent pas directement nous, ou du moins, nous impacteront relativement tard comparé aux premiers touchés pour autant c'est bien parce que "nous devons travailler pour tous avant de travailler pour nous" que l'on s'en préoccupe à mon sens.

3. Zones grises : la complexité du réel
Mais au delà de ce consensus, nous reconnaissons aussi les complexités structurelles qui font que certains usages à la marge sont présents. Il convient cependant de les questionner, de chercher à dépasser la dépendance aux LLM, et en aucun cas cela ne légitime l'usage.

3.1. Dépendances logicielles
Certains outils sur lesquels nous nous appuyons ont des politiques différentes, voir très conciliantes avec les IA. À défaut de pouvoir "tout faire", nous essayons de documenter cela, et lorsque c'est possible, d'utiliser des alternatives.

3.2. Usage palliatif
Parfois, l'action humaine fait défaut (pour répondre à des questions, débloquer des situations, permettre de compenser des handicaps). Nous le déplorons et nous souhaiterions que ce genre d'usage soit évité mais à défaut, là aussi, de pouvoir "tout faire", nous reconnaissons que certaines d'entre nous peuvent temporairement recourir aux IA pour pallier à certains manques (que nous espérons temporaires). Il est cependant important de noter que dans ce genre de cas, l'usage d'IA est individuel, à la marge et non destiné à produire pour Khaganat directement.

Nous considérons que chaque usage palliatif révèle un manque dans notre capacité collective à s'entraider. Ces situations doivent donc être vues comme des incitations à améliorer notre documentation, notre accompagnement et nos espaces d'échange, afin de rendre ce recours de moins en moins nécessaire.

Le reste de la "charte" me convient même si il y a probablement des ajustements à faire. Ici c'est plutôt la formulation du 3.2 qui me pose question je pense et j'ai mis (trop) longtemps à y répondre, je n'arrive toujours pas à me faire une idée claire.

C'est effectivement essentiel que l'usage reste "individuel" et "non destiné à produire pour Khaganat directement" de même qu'excessivement "à la marge" mais je préférerais y voir également un engagement des membres à exposer ces manques afin de chercher à y palier autrement et à défaut, indiquer l'usage fait pour y palier (sur le forum ce serait adapté je pense, un peu en mode journal de bord ?), ce qui serait important pour comprendre la pleine mesure du compromis réalisé et son importance et aussi pour conserver une confiance dans ce compromis.
Vu d'un autre angle : si c'est un palliatif, on doit faire autant que possible pour y palier et surtout le faire concrètement.

Je n'oublie pas que les services basés sur les LLM exploitent, comme bien d'autres services, notre sensibilité à nous laisser porter et les craintes de vv221 dans ce sens, que l'usage se fasse plus systématique, me semble fondées si on n'y met pas de garde-fou particulier.

Je reprends un peu depuis mon dernier message.

Pour la réponse de Deed : c'est peut-être dommage qu'il n'aie pas tout lu, mais, ben, je préfère que quelqu'un s'exprime sur sa vision même s'il n'a pas tout lu : on a besoin de savoir l'avis des divers membres. Et cette honnêteté me va. Il faut reconnaitre que ça demande pas mal de jus de cerveau, et qu'on le priorise différement. Je rappelle que Deed passe pas mal de temps chaque semaine à la maintenance des serveurs ; qu'après ça il ne soit pas motivé à lire les tartines philosophiques, ça se comprends. Pour autant, vu que c'est un contributeur très actif, son avis sur les LLM est important, parce qu'in fine son approche aura un impact sur son travail (comme pour moi, d'ailleurs).

Le consensus, lui, va demander soit de tout lire, soit de déléguer l'avis aux autres... Par contre c'est clair que quand on en sera à dire "on valide ça ou non comme charte", je n'ai pas envie que quelqu'un se pointe comme une fleur et questionne un truc déjà traité dans les discussions. Mais ça n'a jamais été le problème jusque là.

- vibe-coding-machin, c'est exclu.

J'ai l'impression que tout le monde tombe d'accord là-dessus. Au moins un point qui sera clair !

- chercher des bugs/sécurité/exploit, c'est obligatoire mais ça doit être réparér par un humain.

Obligatoire, je ne sais pas. Je pense que ça arrivera, qu'on le veuille ou non. Et je pense aussi que c'est difficile de dire "ok, on a un problème de sécurité, mais on va s'interdire de regarder sous prétexte que c'est une IA qui l'a trouvé". Et que ce sera aussi difficile de dire "la personne a proposé un patch avec une IA, et après relecture, il corrige le souci, mais on ne va pas le prendre."

Mais oui, il faudra une attention humaine, si possible non "polluée" par IA (à cause des biais que l'usage des LLM amène). Faut que je développe ces biais, vraiment, car c'est un point vraiment important pour refuser des contributions-LLM.

- pour les pnj et mob, serveur interne entraînement pour nous, très léger et peu gourmand en ressources.

On parle d'IA dans ces cas, mais ce ne sont pas des LLM, et le LLM n'apportera rien. Grosse conso de ressource pour un résultat sans grand intérêt. Je sais qu'on avait aussi eu une discussion à un moment à propos des discussions avec les PNJ, là dessus je serais ferme ; je préfère des PNJ "cons" qui n'ont que trois phrases, aux possibilités et dérappages des LLM. Parce que les dérappages en question sont hyper graves. D'autant que le but est de faire du lien entre humain, et le rp via LLM ne le favorise pas.

Je comprend tout à fait que Haiku ne soit pas considéré suffisament mûr pour les besoins de Khaganat pour la partie client où il serait éventuellement utilisable, mais ça me chagrine un peu que ce soit balayé de façon assez expéditive comme un "pas d'alternative" sans avoir creusé la question plus que ça.

J'avoue que j'étais triste en lisant ça. J'espère bien qu'on aura un client Haiku un de ces jours. Bon, pour le moment, on n'a pas de client (quoi que, ça revient peu à peu), et comme les testeuses potentielles sont sous linux, ben on teste en premier sous linux.
Et oui, il y a des alternatives, mais comme tu le dis, c'est la question de où placer les limites. On a déjà fait des choix lourds, comme héberger au maximum nos propres outils. Je ne le regrette pas, mais du coup on a un Chatons Sauvage, plus qu'un MMORPG. Si on se lance à refaire tous les outils contaminés par LLM, on aura peut-être un OS, et toujours pas de MMORPG.

Et ce n'est évidement pas une façon de dire "ok, alors autant utiliser les LLM à fond puisqu'on les tolère dans les marges" (pour répondre à Vv221). Sinon je pourrais reprocher à certains de perpétuer le patriarcat parce qu'ils ne se sont pas coupé les couilles (ouais, je sais aussi être de mauvaise foi avec des arguments pourris). On fait des concessions, c'est un fait, parce qu'on ne peux pas tout faire et être de tous les combats, et que certains choix sont trop "coûteux" pour qu'on arrive à les assumer. Si on "peut s'en passer, même pour X", alors j'attends avec impatience l'application personnelle sur les questions patriarcales et capitalistes comme preuve. Mais à ma connaissance on négocie toutes et tous avec ceux-là, qui sont pourtant bien plus à la racine du problème 

Par contre, et c'est bien ce que j'espère qu'on arrivera à faire ici, on peut essayer de lutter, questionner, et limiter les comportements problématiques. Quel que soit le problème de base. Je ne prétends pas que ma proposition pour la charte est "bonne" (c'est un premier jet). Je constate cependant qu'Alcyone et moi sommes les seuls à avoir proposé un texte sur lequel travailler et j'attend évidement les reformulations (merci à YannK d'avoir d'ailleurs osé quelques retouches, si je ne me trompe pas).

Ici je rappelle la Charte (pas de l'IA, mais de Khaganat) :

2. Nous sommes tous bénévoles
- Vous ne pouvez exiger d'une autre personne qu'elle réalise un travail pour vous.
- Comme dans tout projet libre, si vous voulez que quelque chose soit fait, c'est à vous de montrer l'exemple.

Or, c'est un point qui me gêne de plus en plus : qu'il y aie injonction à "faire" sans que les personnes qui posent l'injonction ne se mettent au travail. Mais comme je suis agacée, pour le moment je ne modère pas (m'appliquant la règle que j'ai moi-même édicté : on évite de sortir Courtoisie quand on est sous le coup d'une quelconque émotion).

Typiquement :

Je parle de toute la partie sysadmin, avec Zatalyz et Deed qui nous disent bien que c'est devenu "obligatoire". Et je ne vois aucune chance que ça reste limité à ces utilisations, en admettant que ce soit bien le seul cas où c'est utilisé.

Non. On ne dit pas que c'est obligatoire. On dit qu'on galère, qu'on manque d'aide, qu'on se retrouve à gérer une énorme machine alors que ni lui ni moi n'avons de formation de tech, et que les LLM nous ont sorti de quelques ornières là où le silence et l'inaction des humains nous y laissaient. Ça ne veux pas dire qu'on considère que les LLM comme une solution, ni qu'on y recourt automatiquement (certainement pas). Mais il va peut-être falloir prendre aussi tes responsabilités là-dessus, parce que tu as les compétences, les accès, pour que le sysadmin sur Khaganat n'aie pas besoin des LLM. Ça ne me gêne pas du tout de confier à quelqu'un d'autre le souci de l'authentification unifiée, par exemple, mais depuis a minima 2013 (au passage ce lien n'est pas à jour, encore un problème non résolu, ni par les humains ni par les LLM), les divers "techs" qui se sont succédés sur le projet n'ont pas réussi à répondre à cette problématique.

Quand à dire que les gens ne savent pas se poser des limites, c'est un peu comme de dire que tous les hommes sont des violeurs. Ce n'est pas complètement faux, mais heureusement quand même que chacun réfléchit sur ses actes et ses limites, et que chaque rencontre impliquant un individu mâle n'implique pas un viol. Vu que le consentement est une notion qui a beaucoup évolué ces dernières années, il me semble raisonnable d'espérer qu'on puisse faire évoluer aussi nos rapports aux LLM. Je suis une grande optimiste sur la nature humaine.

on ne peut pas arrêter les avancées

Comme on peut l'être au fait de se déplacer en voiture par exemple, alors qu'on aurait très bien pu faire d'autres choix, mais pour ça il aurait fallu réagir il y a 50 ans, maintenant ça va prendre 50 ans de plus à déconstruire.

Le progrès/les avancées c'est précisément ce que nous en tant que société sommes aptes à mesurer et devons déterminer comment un élément issue d'une recherche peut être conçu en applications utilisables, comment, avec quelles limites et se questionner si cela même a un sens.

Je rajoute mon grain de sel sur cette part du débat.

Je crois aussi (j'insiste sur le terme de croyance) qu'on ne peux pas "arrêter", dans le sens où quand quelque chose est là et commence à être adopté largement, le refuser "en bloc" est complexe, parfois voir souvent à notre désavantage quand ce dernier procure des "avantages". Et pour autant, c'est important justement de parfois faire le choix de la difficulté, pour influencer les trajectoires de la société, essayer de limiter la vitesse à laquelle on va se prendre certains murs.

Prétendre que les LLM n'existent pas, qu'ils vont disparaitre du jour au lendemain, c'est illusoire. Les utiliser sans se questionner, pour tout et n'importe quoi, c'est valider les problèmes qu'ils posent. Très clairement, on ne fait pas un choix "facile" en refusant de vibe-coder notre client, on aurait peut-être un jeu qui semblerait marcher dans quelques mois... Mais c'est aussi un choix réfléchi, parce qu'on sait que si on faisait ça, ça ne répondrait pas à nos aspirations profondes (qu'il s'agisse de faire du "beau" code ciselé à la main, de travailler dans une certaine éthique, de s'amuser à faire, de ne pas valider certaines entreprises, etc). Sur Khaganat, on n'a jamais pris les choix faciles ; sinon, on serait Star Citizen, et la communauté qui va avec.

Par ailleurs, j'aime beaucoup certaines propositions d'Aleajactaest.

On se doit aussi d'être transparent, quelle IA est utilisé, quelle version (et "identifiant unique"), lien sur le modèle, afin que l'on puisse contrôler, analyser, ... bref pas rester passif. Quel est le "prompt" utilisé, qu'elles sont tous les "prompt" systèmes utilisés.
On devrait définir le commit afin d'ajouter un indicateur pour signaler l'utilisation de l'IA: par exemple [AI used].

Ça, ce sont des propositions concrètes qui me parlent. S'il y a usage d'IA (comme dans mes usages "palliatifs", et j'espère un meilleur nom), ce serait effectivement intéressant de s'assurer que ce soit clair et documenté. Cela ajoute du travail à qui utilise l'IA, aide potentiellement à une prise de conscience ; cela peut aussi permettre à la communauté de discuter des usages en question, d'essayer de trouver comment s'en passer.

Idem pour ceci :

Dans le cadre de la recherche d'incident (issue), on devra ajouter des étapes obligatoires.
1- analyse du problème détecté
2- proposition d'une solution temporaire pour bloquer le problème (workaround) et si possible proposition d'un patch.
3- Vérification que l'incident n'est pas déjà déclaré (recherche doit être réalisé moins d'un jour avant la création de l'incident).

C'est une proposition concrète qui permet de filtrer du "flood IA" de basse qualité. On est typiquement sur un usage qui arrivera, car tous les projets y font face actuellement. Ajouter ces étapes obligatoire (et il peut y en avoir d'autres, à nous de les trouver) est une façon de réduire le "bruit" qui risque d'être généré. D'un autre côté, j'aimerais que ce ne soit pas une invitation à utiliser l'IA sur le code.

Je serais aussi pour mettre une limite du type "pas plus d'une issue par semaine et par humain, qui aie été détecté par IA", ce qui évitera qu'un agent floode et nous oblige à faire la curation (qu'est-ce qui est urgent, qu'est-ce qui est du bug sans grand impact ?), et qu'on aie quelques centaines d'issues ouvertes et de merge request à examiner d'un coup. On verra quand on en sera là...
Mais il me semble important de rester à une échelle humaine et de gérer un problème à la fois.

Bref, ici, je considère que l'IA peut être entraîné pour exécuter du code malveillant, il faut pouvoir cloisonner celle-ci (et se protéger).

De mon côté, je ne souhaite vraiment pas autoriser des agents à accéder à notre forge et j'espère vraiment que les devs s'en passeront autant que possible. On ne cherche pas la productivité, mais le plaisir de "faire", et il ne devrait pas y avoir de raison de confier les tâches à une IA. Si ce qu'on aime est l'orchestration plus que le code, il y a de quoi faire pour structurer le travail (tellement à faire, d'ailleurs !), et laisser à d'autres le soin de coder. Ce qui arrivera, ou pas, on est d'accord. Mais je préfère largement voir sur le wikhan, le forum, la forge, les propositions et discussions sur "comment on structure les données, le travail, quels choix techniques" etc, plutôt que cela passe dans la moulinette des prompts et que les IA "décident" d'utiliser telle ou telle techno, fonction, etc. Je sais que je réagis peu là dessus, ça manque de gens compétents capables de faire le ping pong, mais j'apprends en lisant

Dernier point, sur la partie code, nous devons faire une attention sur les modules/libraires externe utilisé (on doit être pertinent sur l'utilisation de lib externe et s'assurer qu'elle n'ont pas de faille de sécurité, maintenabilité, ...)

Ça a toujours été un point critique. Plus on a de dépendances, plus on dépend (justement) du sérieux des équipes qui les maintiennent. D'un autre côté, tout recoder nous-même est parfois franchement contre-productif, d'autant qu'il faut aussi maintenir derrière. Cela demande surtout de documenter au maximum les dépendances, et de les limiter chaque fois qu'elles ne sont pas si utiles que ça. Je sais que sur les sites web, il y a souvent l'erreur "j'importe tel outil pour mon site" et au final il y aura l'appel à une ou deux fonctions seulement, qui auraient pu simplement être ajoutés en "hook" dans le php/html/css/javascript.

Un des trucs qui me fait plaisir c'est de recevoir de temps en temps sur mon site web des messages de gens que j'ai pu dépanner grâce à un de mes articles (par exemple sur un composant électronique relativement obscur). Si ils ont obtenu leur réponse à travers un LLM? Fini, on peut oublier ce genre d'interaction.

Je ne pense pas que ce genre d'interaction disparaitra. C'est une question d'humain plus que d'outil. Certains se contentent de l'info et passent à autre chose, d'autres cherchent aussi une connexion, des échanges, et continueront de le faire, les LLM ne nourrissant pas ce besoin.

Du moins, je l'espère !

De mon côté, je savoure de plus en plus le "small web" et je me retrouve à reparcourir les annuaires (comme Curlie) pour retrouver des savoirs "humains", en dehors des circuits lissés, marchandisés, générés. On est par contre vraiment à un moment charnière où le web humain doit trouver comment exister et se connecter au milieu du flood automatisé. Mais je dévie du sujet principal

Avez-vous entendu parler du mouvement pour l'extinction volontaire de l'humanité?

J'adhère totalement depuis que tu me l'as fait découvrir (ça remonte un peu)
Pour ceux qui trouvent que la formulation pique un peu : prenez le temps de lire, le postionnement est réellement intéressant. Et non, je ne maudit pas mes amis qui ont des enfants. Ils sont cutes, vos bébés. Mais je me sens mieux à ne pas ajouter les miens au bordel ambiant.

Ici c'est plutôt la formulation du 3.2 qui me pose question je pense et j'ai mis (trop) longtemps à y répondre, je n'arrive toujours pas à me faire une idée claire.

Elle ne me convient pas vraiment non plus. Yannk (je crois) a amélioré un peu sur le pad. Je n'ai pas trouvé comment formuler ça mieux.

je préférerais y voir également un engagement des membres à exposer ces manques afin de chercher à y palier autrement et à défaut, indiquer l'usage fait pour y pallier (sur le forum ce serait adapté je pense, un peu en mode journal de bord ?)

En tout cas ça pourrait être un premier pas. Comme sur les propositions concrètes d'Aleajactaest, il me semble que l'idée serait de documenter les usages de ce genre, quel que soit le domaine, afin d'arriver à comprendre pourquoi il a fallu recourir aux LLM et si une alternative peut être mise en place. Ce serait aussi peut-être une solution pour briser l'isolement de certaines contributrices. Si je vous dit que j'utilise un LLM ces temps pour avancer sur ce foutu transfert de serveur mail, non pas tant pour les aspects techniques, mais pour juste me sentir moins seule face à la montagne, est-ce que vous allez me faire des pamjais sur krypte et me dire que la personnalisation du footer de postfixadmin est sans intérêt ? Parce que je trouverais ça tellement plus satisfaisant. Mais le LLM, sur ce chantier obligatoire que je ne peux ni repousser ni déléguer, est pour le moment le seul truc qui évite que je sois complètement roulée en boule dans un coin. Et pour le moment, c'est ma confiance dans les humains qui est au plus bas, parce que je suis sûre que ma détresse résonnera dans le vide sur Krypte, vu comme elle résonne habituellement...

Pour la réponse de Deed : c'est peut-être dommage qu'il n'aie pas tout lu, mais, ben, je préfère que quelqu'un s'exprime sur sa vision même s'il n'a pas tout lu : on a besoin de savoir l'avis des divers membres. Et cette honnêteté me va. Il faut reconnaitre que ça demande pas mal de jus de cerveau, et qu'on le priorise différement. Je rappelle que Deed passe pas mal de temps chaque semaine à la maintenance des serveurs ; qu'après ça il ne soit pas motivé à lire les tartines philosophiques, ça se comprends. Pour autant, vu que c'est un contributeur très actif, son avis sur les LLM est important, parce qu'in fine son approche aura un impact sur son travail (comme pour moi, d'ailleurs).

Le consensus, lui, va demander soit de tout lire, soit de déléguer l'avis aux autres... Par contre c'est clair que quand on en sera à dire "on valide ça ou non comme charte", je n'ai pas envie que quelqu'un se pointe comme une fleur et questionne un truc déjà traité dans les discussions. Mais ça n'a jamais été le problème jusque là.

In fine, c'est aussi ce que je souhaite éviter par ma réaction et l'absence d'échange me pose problème dans ce sens mais comme tu dis, à défaut d'échange, tu délègues à ceux qui le font et si c'est fait consciemment, ça ne me pose pas de problème. Je suis d'accord aussi sur le fait que je préfère avoir un point de vue que pas du tout, toujours dans ce cadre.

C'est bien entendu totalement orthogonal au travail fourni sur d'autres partis du projet bien entendu que je reconnais personnellement et le manifeste au moins de temps à autre dans l'un ou l'autre canal à défaut d'être versé dans le sujet pour y contribuer.

La façon de faire/formulation me rebute surtout mais je ne pense pas que ce soit intentionnel pour autant.

Ça, ce sont des propositions concrètes qui me parlent. S'il y a usage d'IA (comme dans mes usages "palliatifs", et j'espère un meilleur nom), ce serait effectivement intéressant de s'assurer que ce soit clair et documenté. Cela ajoute du travail à qui utilise l'IA, aide potentiellement à une prise de conscience ; cela peut aussi permettre à la communauté de discuter des usages en question, d'essayer de trouver comment s'en passer.

C'est une proposition concrète qui permet de filtrer du "flood IA" de basse qualité. On est typiquement sur un usage qui arrivera, car tous les projets y font face actuellement. Ajouter ces étapes obligatoire (et il peut y en avoir d'autres, à nous de les trouver) est une façon de réduire le "bruit" qui risque d'être généré. D'un autre côté, j'aimerais que ce ne soit pas une invitation à utiliser l'IA sur le code.

Comme je le disais plus haut pour le point 3.2, si l'on fixe que l'usage paliatif est "non destiné à produire pour Khaganat directement" alors ces points précis sous cette forme (commit de notre part) ne devraient pas être mis en place. Si l'on respecte ce point, on rejette le flood IA par défaut, la charte permettant de nous dispenser son analyse si l'on le souhaite (rien n'empêche de discuter pour implémenter une bonne idée autrement bien sûr).

Dans le cas contraire, les chartes accueillant l'IA indiquées dans mon 1er poste détaillent globalement toutes bien ce qu'il y a comme informations à recueillir (modèle, version, soft intermédiaire, historique des prompts, etc. j'avoue les lire tellement souvent (je dois en être à plus d'une centaine je pense...) que j'oublie que certaines n'en ont probablement jamais lu). Et quoiqu'on écrive dans la charte le cas échéant, si on peut mettre de l'IA, tu auras de toute façon du flood derrière si tant est que le projet est un minipeu connu (ce n'est pas notre cas pour le moment). Fixer une limite revient aussi à l'autoriser (on peut même l'automatiser d'ailleurs). Un non définitif n'étant de toute façon pas très bien compris quand ce n'est pas l'éthique qui en arrête l'usage de toute manière.

Si on le prend dans le cadre du point 3.2, alors dans ce cas je pense qu'on se retrouve là-dessus tel que tu le détailles à la fin de ton message :-)

Je m'aperçois que j'avais complètement oublié de te répondre Pulkomandy ! Mes excuses !

Je mentionne pour ceux qui ne savent pas, que je contribue beaucoup à Haiku, qui pourrait se positionner comme un concurrent de Linux entre autres choses, et n'a pas recours aux LLM. Je comprend tout à fait que Haiku ne soit pas considéré suffisamment mûr pour les besoins de Khaganat pour la partie client où il serait éventuellement utilisable, mais ça me chagrine un peu que ce soit balayé de façon assez expéditive comme un "pas d'alternative" sans avoir creusé la question plus que ça. Mais là je fais du lobbying pour mes propres intérêts et je comprend tout à fait que ça n'emballe pas tout le monde de se lancer là dedans.

Pour moi, Haiku n'a jamais été sorti des systèmes cibles pour les différentes productions de Khaganat (pour ma part je vois les lores et productions tirées de ces lores par le projets, pas uniquement le MMO basé sur Khanat) et j'ose espérer qu'un maximum de choses pourront y être disponibles. Car on utilise des formats standard, c'est le cas des textes, de la musique ou des productions graphiques (encore que je ne sais pas l'état de la 3D sur Haiku ?).

Là où je pense à une limite au quotidien (qui vaut pour la plupart des concurrents du noyau Linux), c'est la disponibilité des drivers sur nos machines de travail au quotidien. Ça c'est pour toutes ici et honnêtement j'aimerais vraiment que le travail du noyau Linux soit réutilisable afin de faciliter ce point mais j'ai conscience que la quasi-totalité des autres noyaux ont une licence ne le permettant pas directement non plus.

Un autre point, essentiellement spécifique à moi, c'est que je fais aussi de la musique sur l'ordinateur (on dit M.A.O) et là, corrige moi si je ne suis pas à jour (je lis toutes les dépêches linuxfr avec intérêt!) mais il me semble que la partie audio sur Haiku n'est pas encore prête pour cette usage d'une part (priorité au temps réel, compatibilité avec l'existant sur Linux (alsa/jack), ...), d'autre part et de ce fait, il y a peu de portages disponibles de l'existant en logiciel M.A.O.
C'est un point sur lequel je souhaiterais bien que ça évolue mais sur lequel je ne suis pas du tout compétent (je travaille à être compétent sur la maintenance et le portage de certains logiciels/plugins mais c'est ma limite). Je peux apporter mon expérience et mes tests mais je ne peux rien faire de plus pour améliorer tout ça.

Je n'ai ni l'énergie ni le temps de faire un long pavé, alors je vais aller à ce qui me paraît essentiel.
La deuxième proposition sur le pad (https://carnets.numenaute.org/p/chartenonusageia) me convient globalement. Sachant qu'elle pourrait encore bouger marginalement, ou dans les formulations, et que je n'ai pas non plus la motivation de recopier sa version à date (04/06/2026). Mais c'est l'idée.

Je me retrouve complètement dans la partie "pas envie d'utiliser de l'IA alors qu'on est dans le projet pour apprendre et échanger entre humains".
Je me retrouve globalement dans la partie "et puis c'est pas ce qu'on a envie de promouvoir comme monde" (le "globalement", c'est sur des questions de formulation plus que sur le fond).
Et comme l'ont dit certaines (j'ai pas les noms en tête), il y a un principe de réalité et nous n'avons pas les moyens (et je ne crois pas que ce soit l'ambition de Khaganat) de changer frontalement le monde (le faire changer subtilement, par petites touches, par contre...) : donc ça me paraît contre-productif de diaboliser, ostraciser, ou mépriser celles qui, pour tout un tas de raisons, n'iront pas lutter contre le courant. Le plus important me paraît être d'avoir conscience des cas où nous nous écarterons de l'objectif zéro IA, de pourquoi nous le faisons, et de quels efforts nous sommes prêtes (ou pas) à faire pour nous en rapprocher à nouveau.

Bon je vais essayer de faire court (euh... c'est raté...). Je ne participe pas beaucoup à Khaganat par ailleurs, donc ça m'embête un peu de prendre plus que ma part dans cette discussion. La décision à la fin reviendra aux gens qui font vraiment des trucs, et pas à moi qui ne suit que visiteur, en gros. Du coup, je suis OK si tout le monde n'a pas envie de prendre le temps de me lire.


Je précise un peu les choses sur les chapitres 3.1 et 3.2. J'ai pris l'exemple de Haiku pour le 3.1 parce que ça me concerne un peu personellement. Mais c'était juste un exemple et effectivement Haiku n'est probablement pas prêt pour Khaganat (pas d'accélération 3D, drivers son pas tout à fait au point, et plein d'autres problèmes qui finissent par transformer n'importe qui qui essaie d'utiliser Haiku en développeur de système d'exploitation).

Le point était juste que Haiku (ou les systèmes BSD, ou d'autres) n'ont même pas été envisagés sérieusement, même si c'est pour les rejeter.

Vu tous les problèmes (principalement écologiques pour moi, mais chacune peut prendre les problèmes qui l'embêtent le plus) avec les LLM, je pense que ces deux règles devraient avoir une contrainte de justification. C'est à dire, chaque fois qu'il y a utilisation d'un projet qui utilise des LLM, il faudrait une page de wiki expliquant pourquoi les alternatives ne sont pas adaptées (pour le 3.1) ou ont échoué (pour le 3.2). Ça force au moins à vraiment se poser la question.

Bon, c'est du travail en plus. Mais ça permettrait au moins de savoir où on en est, et pour les gens qui tiennent absolument à rendre possible un monde sans LLM, de savoir à quels projets s'attaquer en priorité pour construire des alternatives acceptables.


Deuxième point, je vois deux choses un peu différentes: l'utilisation de LLM par les contributeurs du projet, et par des contributeurs externes (par exemple quelqu'un qui sortirait de nulle part avec une liste de failles de sécurité). Dans ce deuxième cas, il y a effectivement un risque de "flood" et d'être submergé par des propositions de mauvaise qualité.
Ça demande de mettre en place de quoi pouvoir dire non à ces contributions, même si c'est appliqué sélectivement (de ce point de vue là, ça n'empêcherait pas d'accepter les contributions de qualités mais faites avec l'aide d'un LLM).

Il y a en fait deux questions là dedans: mettre en place des protections pour ne pas se faire submerger, c'est la moindre des choses. Mais il y a l'autre question qui est de savoir si on veut rejeter en bloc les LLM, par principe, et même si les contributions sont de bonne qualité (pour des raisons écologiques, sociétales, et tout ce qui concerne surtout l'impact des LLMs en dehors du contenu qu'ils génèrent, plutôt que pour le contenu généré en lui-même). Là c'est un vrai choix qui est beaucoup plus sujet à débat. Surtout que on sait très bien que une telle interdiction serait essentiellement symbolique (c'est pas Khaganat qui va utiliser des milliards de tokens d'IA et justifier à lui tout seul la construction de nouveaux datacenters).

Ce serait aussi peut-être une solution pour briser l'isolement de certaines contributrices. Si je vous dit que j'utilise un LLM ces temps pour avancer sur ce foutu transfert de serveur mail, non pas tant pour les aspects techniques, mais pour juste me sentir moins seule face à la montagne, est-ce que vous allez me faire des pamjais sur krypte et me dire que la personnalisation du footer de postfixadmin est sans intérêt ? Parce que je trouverais ça tellement plus satisfaisant.

Dans ce cas je crois qu'on peut dire que l'utilisation de LLM n'est pas le problème, et qu'il y a un échec collectif qui remonte bien avant pour en arriver là.

Je connecte ça à autre chose d'un peu similaire: il y a des gens qui passent un temps conséquent sur les réseaux sociaux addictifs (TikTok, Instagram, Youtube, ou devant la télé). Cela empêche l'ennui, qui n'est pas un truc agréable, mais qui normalement pousse les gens à se bouger et à faire quelque chose de leur temps. Sans l'ennui, on resterait tous dans notre lit toute la journée à regarder le plafond.

Donc, l'utilisation de LLM contourne la solitude un peu comme les réseaux sociaux contournent l'ennui. Mais ça règle pas le problème et ça peut empirer les choses. Ça rejoint ce que je disais plus tôt sur mes craintes que les LLMs mettent un peu fin aux interactions entre les gens. Plus besoin pour un introverti comme moi d'aller parler aux gens si je peux avoir une réponse d'un LLM. Donc oui, individuellement, ça permet de fonctionner, mais clairement ça ne règle pas le problème... Cela dit, c'est vrai aussi que dans cette réflexion j'envisage aussi d'autres usages des LLMs qui n'ont rien à voir avec Khaganat (par exemple, Google qui prévoit de ne plus mettre de liens vers des sites web dans ses résultats de recherche).


Je lance aussi un autre sujet maintenant que je suis là. Sur le forum de Haiku nous avons fait le choix d'autoriser les gens faisant du "vibe coding" à parler de ce qu'ils font. Je recommande pas: ça donne des sujets de forum avec des avancées très rapides pour le développement d'applications, souvent pour des trucs qui existent déjà par ailleurs, et qui vont très probablement finir par être abandonnés. Faire les choses à la main, c'est plus long et plus difficile, mais ça encourage à suivre les projets sur la durée. Parfois ça me donne l'impression qu'on compare mon petit potager avec quelques légumes et un grand étal de supermarché avec énormément de choix de légumes sans goût et plein de pesticides. Et, forcément, d'un certain point de vue, je peux pas lutter. Dans ces conditions il faut vraiment être prêt à assumer la décroissance...

Bon c'était pas assez long, j'en rajoute...

Je relis le pad.

Les trucs qui m'embêtent sont dans la première partie 'Charte "(non)-usage de l'IA"' dont je ne sais pas ce qu'elle va devenir (à jeter? article de blog explicatif pour la charte?). Dans la deuxième version "Rapport aux LLM et à l'IA au sein de Khaganat" je pense que ces remarques sont déjà prises en compte.

Les LLM favorisent la productivité

D'une part, la productivité ce n'est pas forcément un but. D'autre part, l'augmentation de la productivité effective par les LLMs, ça reste à prouver. Dans le développement de code, il semble pour l'instant que ça permet d'écrire et de modifier beaucoup plus de lignes de code beaucoup plus vite, mais finalement pas de créer plus rapidement des nouvelles fonctionnalités. Ce qu'on gagne en temps de développement initial, on le perd en relecture de code ou en debogage des problèmes qui surviennent par la suite.

Malheureusement, pour beaucoup ces alternatives n'existent pas vraiment (noyau Linux, Blender, etc.), il nous faudra donc exprimer pourquoi nous déplorons leur positionnement éthique.

Je suis OK sur le principe mais très embêté par l'affirmation non etayée qu'il n'y a pas d'alternative à Linux et à Blender. Je dirais qu'on peut simplement enlever cette parenthèse de la phrase, et qu'il faudra faire un document séparé pour l'analyse des alternatives existantes et de pourquoi elles ne sont pas satisfaisantes.

Les LLM favorisent la productivité

D'une part, la productivité ce n'est pas forcément un but. D'autre part, l'augmentation de la productivité effective par les LLMs, ça reste à prouver. Dans le développement de code, il semble pour l'instant que ça permet d'écrire et de modifier beaucoup plus de lignes de code beaucoup plus vite, mais finalement pas de créer plus rapidement des nouvelles fonctionnalités. Ce qu'on gagne en temps de développement initial, on le perd en relecture de code ou en debogage des problèmes qui surviennent par la suite.

Oui, c'est tout à fait mal dit, je voulais justement dire qu'ils favorisent le fait de produire : on peut produire très vite une masse de code, factuellement et aussi un état d'esprit dédié à la productivité comme fin en soi, c'est aussi pour cela qu'on les impose et c'est aussi un argument pour beaucoup (que l'on retrouve dans la notion d'être "dépassé"). Ce qui est orthogonal à l'efficience. Avec tous les problèmes pointés après ainsi que dans ton commentaire.

Une reformulation type "Les LLM favorisent la productivité comme fin en soi" est plus claire mais ne me satisfait pas trop trop... N'hésite pas à reformuler dans le pad 

Je suis OK sur le principe mais très embêté par l'affirmation non étayée qu'il n'y a pas d'alternative à Linux et à Blender. Je dirais qu'on peut simplement enlever cette parenthèse de la phrase, et qu'il faudra faire un document séparé pour l'analyse des alternatives existantes et de pourquoi elles ne sont pas satisfaisantes.

J'ai étayé au-dessus mais tu as raison, il faudrait le clarifier ainsi, j'ai viré les parenthèses.

je pense que ces deux règles devraient avoir une contrainte de justification. C'est à dire, chaque fois qu'il y a utilisation d'un projet qui utilise des LLM, il faudrait une page de wiki expliquant pourquoi les alternatives ne sont pas adaptées (pour le 3.1) ou ont échoué (pour le 3.2). Ça force au moins à vraiment se poser la question.

Et du reste je suis entièrement de cet avis, aucun élément ne va de soi et cela demande à chaque fois d'expliquer pourquoi, c'est comme ça que je le voyais pour ma part mais je l'ai mal exprimé. Ce que je voulais dire par :

Déjà, faire le point, lister nos dépendances et nos outils actuels, déterminer leur position vis-à-vis de l'usage d'LLM. Trouver des alternatives si elles existent, les créer si nous en trouvons l'énergie. Malheureusement, pour beaucoup ces alternatives n'existent pas vraiment, il nous faudra donc exprimer pourquoi nous déplorons leur positionnement éthique.

_____

Bon je vais essayer de faire court (euh... c'est raté...). Je ne participe pas beaucoup à Khaganat par ailleurs, donc ça m'embête un peu de prendre plus que ma part dans cette discussion. La décision à la fin reviendra aux gens qui font vraiment des trucs, et pas à moi qui ne suit que visiteur, en gros. Du coup, je suis OK si tout le monde n'a pas envie de prendre le temps de me lire.

Moi je suis heureux que tu prennes part à la discussion et c'est une contribution en soi 

____

Merci Lyne pour ton apport 

donc ça me paraît contre-productif de diaboliser, ostraciser, ou mépriser celles qui, pour tout un tas de raisons, n'iront pas lutter contre le courant. Le plus important me paraît être d'avoir conscience des cas où nous nous écarterons de l'objectif zéro IA, de pourquoi nous le faisons, et de quels efforts nous sommes prêtes (ou pas) à faire pour nous en rapprocher à nouveau.

Je suis d'accord, c'est ce que l'on retrouve dans la proposition de Zat' sur "Quelles que soient leurs motivations, nous souhaitons éviter toute dérive moralisatrice envers les usagères de ces outils dans de tels cas.".

Je tiens à préciser que c'est un compromis qui me convient pour ma part tant que l'on reste dans le cadre "non destiné à produire pour Khaganat directement.".

Alors sur un point précis , ça produit de la basse qualité pour l'instant, ceux qui ont validé du code par LLM , ça passe pour un petite fonction de quelques lignes . Mais plus long, dans la plus part des cas, c'est buggé de folies ou/et très très lent ... Les mainteneurs passent leur temps à debbuger les contribution par LLM .
Ou alors je ne lis que ce qui se plaignent   :p