Forum Khaganat

Les IA générative / LLM sont l'un des grands sujets du monde (et du monde du Libre).

Khaganat s'y est frotté vers ses débuts il y a 2-3 par les expérimentations (https://khaganat.net/forum/index.php/topic,785.msg3157.html#msg3157) de certaines de ses membres.

Le sujet n'a pas fait l'unanimité et comme Lyne le concluait dans l'article de blog de l'AG correspondante (https://khaganat.net/blog/fr:blog:post_072#graphisme_musique_videos) :

CitationCela a suscité les seuls échanges en séance, qui ont rapidement conclu que nous sommes toutes d'accord pour dire que l'IA peut être une source d'inspiration interne, éventuellement pour avoir des visions différentes, tant que nous n'avons pas de ressources capables de modéliser ou créer des graphismes, mais pas au-delà. Les seules images diffusées sont des images que nous créons nous-mêmes avec nos outils validés.

Au passage, une remarque sur les images utilisées pour illustrer les blogs4) : dans les banques d'images, on trouve de plus en plus d'images générées par IA, donc il faudra être particulièrement attentives à ce que nous utiliserons.

On s'était dit (quelques années) plus tard à l'occasion de discussions informelles que ce serait bien de réaborder le sujet et ce avant la prochaine AG afin d'avoir un positionnement plus officiellement annoncé et exposé.

Le sujet a initialement été relancé sur le chat, je remets ici les logs pour le continuer plus posément :

CitationLocynaeh :

Du coup je lance le sujet : quel est le positionnement de Khaganat sur l'usage des IA/LLM ?

Et de façon connexe : quelle relation aux outils "AI-tainted" que nous utilisons ?
Sachant pour le contexte qu'il est facile de lister les projets s'y opposant en défendant leurs valeurs, l'inverse est quasi impossible tant l'usage est massif (sans parler de la quantité de projets vibe-codés qui sort quotidiennement).

Quelques références :
 - https://github.com/Vxrpenter/AIMania/blob/main/WHY.md#why (arguments contres et références)
 - https://codeberg.org/small-hack/open-slopware#why-not-llms (arguments contres et références)
 - https://noai.starlightnet.work/list.html (liste maintenue des projets ayant officiellement une politique interdisant les LLM)
 - https://github.com/melissawm/open-source-ai-contribution-policies (liste de politique IA de projets FLOSS, qu'elles soient pour ou contre)
 - https://gitlab.com/inkscape/inkscape-board/-/work_items/5#note_3140424828 (politique en cours de discussion chez Inkscape que je trouve bien adaptée selon mon point de vue).
 - https://kristoff.it/blog/contributor-poker-and-ai/ (article de Loris Cro, qui travaille sur le langage de programmation Zig ayant une charte strict contre l'IA, sur le rapport à la contributrice qui serait perdu si l'IA était utilisée)
 - https://github.com/rust-lang/rfcs/blob/528df9a7f7eedfc3f1d54a06705174ea4104153e/text/3959-llm-policy.md (RFC en cours de travail chez Rust)

Pour le 1er point, je pense que l'on connait déjà mon positionnement ici, je peux détailler bien entendu (le draft d'Inkscape reprend bien ce que j'en pense cependant).

Pour la question connexe. Je pense que pour les outils au-delà des briques inévitables (style noyau Linux ou langage comme Python) fonction de nos moyens, ça vaut la peine de mettre un mot, indiquant notre non support (le cas échéant) et l'absence d'alternative satisfaisante s'y opposant clairement à ce jour : Godot, Blender, etc...

Yannk :

J'aime beaucoup aussi la position de Inkscape. De mon côté j'y ajoute le fait que le but de Khaganat c'est de prendre plaisir à faire ensemble, et que le but n'est pas tant d'arriver à un livrable (heureusement parce que bon, au bout de... 12 ans ?, on n'a pas "livré" grand chose en terme de jeu), que de se soutenir pour apprendre les unes des autres et faire ce qui nous plaît.

On a pu expérimenter un temps avec les LLMs par le passé, il ne faut pas le cacher, mais l'association avazit déjà convenu que ce n'était pas envisageable d'en faire un usage autre que ponctuel et transitionnel. Il me semble qu'on peut aller au-delà, en partant d'un des arguments de Inkscape : pour se soutenir les unes les autres, il faut être en mesure de transmettre son savoir-faire, de le faire évoluer pour soi et les autres.

Et si, par exemple, j ne faisais de la 3D et des textures qqu'avec des prompts d'IAG, je ne serais pas en mesure d'expliquer les raisons de certains choix techniques, d'apprendre à d'autres comme s'y prendre, comment débuter la modélisation ou le rigging.

Locynaeh :

C'est clairement des arguments que je partage :-) la partie apprentissage, apprendre à faire, transmettre, me touche beaucoup

Yannk :

J'anime des ateliers d'écriture en milieu universitaire (élèves ingénieurs) et chaque fois on installe un débat sur l'autorisation ou non de l'IAG, pour que les étudiantes et étudiants trouvent un consensus d'usage. Et très clairement, il en est ressorti à chaque fois que comme iels ne sont pas en situation de production calibrée (iels auront l'UV en étant simplement là toute la semaine, quelle que soit la qualité produite), iels trouveraient dommage de ne pas profiter de l'opportunité d'apprendre un nouveau savoir-faire.

Il me semble qu'on est dans une situation similaire avec le projet que porte Khaganat

vv221 :

Merci pour avoir lancé le sujet Alcyone. Je suis assez curieux de voir si je vais être le seul à soutenir une opposition totale sur des bases uniquement politiques.

Locynaeh :

"Uniquement" c'est possible, j'y suis opposé politiquement mais pas que ^^

vv221 :

Oh, ce n'est pas que je ne m'y oppose pas pour d'autres raisons (double négation \o/), mais je les considère toutes comme négligeables comparées à l'axe politique ;)

Locynaeh :

Oui, je suis assez d'accord même si je mettrais un angle éthique qui revient un peu au même, sans même évoquer les autres raisons, elles se suffisent à elles-mêmes.
Je suis assez effaré de voir à quel point ont les écartes facilement. Je le comprends aussi car c'est un peu le mode de vie de notre société de dégager l'éthique autant que possible pour le bien-être et la prospérité du capitalisme. On le subit au quotidien, c'est aussi plus simple d'y céder.

vv221:

Ouais, mais si on cherchait la simplicité avant tout, on jouerait à World of Warcraft sur Windows et ce salon n'existerait pas ;P

PulkoMandy:

* PulkoMandy ronchonne un peu en voyant Linux classé dans les "briques inévitables"

Locynaeh:

Sur la quantité de drivers supportés 😜 sinon je serais déjà sur *insère le nom d'un noyau opposé aux LLM*
vv221: certes mais il y a différents niveau de compromis selon la charge mentale, les moyens, tout ça^^'

vv221:

Pour l'instant je ne connais pas d'aternative à Linux qui puisse faire tourner ma collection de jeux. Sinon j'aurais aussi déjà migré.
(même Windows ne pourrait pas tous les faire tourner, c'est dire à quel point je suis limité dans mes options...)

PulkoMandy:

C'est vrai que depuis que j'essaie d'écrire des drivers, j'ai plus le temps de jouer...

vv221:

PulkoMandy, pour Haiku vous devez écrire les drivers from scratch, sans assistance particulière de la part des fabricants ?

PulkoMandy:

Oui en général. On récupère du code de freebsd et de openbsd aussi (pour les drivers réseau par exemple)

K'Deed:

après j'ai lu que les modif par IA sont refusés presque partout. Il laisse le droit juste une légère aide . Apparement, le code par 100% IA , c'est un bug corrigé, 5 bug en plus....

Locynaeh:

K'Deed, dans quel contexte ?

K'Deed:

comme assistant
j'ai vu ça sur godot et le kernel

Locynaeh:

Hum, ni l'un ni l'autre n'a une politique disant ça, c'est beaucoup moins restrictif
A vrai dire c'est l'inverse, très peu de projets refuse l'IA
La plupart refuse les contributions complètement vibecodé (comme ils refusaient globalement le code de merde, c'est la même raison en fait)
"vibecodé" comprendre codé intégralement par l'IA, qu'importe le nombre d'itérations
Sauf cas particulier, interdire le code vibecodé c'est en gros ce que disent toutes les politiques permissives

K'Deed:

Locynaeh: ça a changer cette semaine

vv221:

K'Deed, si tu as lu ça, tu te plantes ;)
Aussi bien Linux que Godot acceptent les contributions générées par IA.
Tout comme, en fait, la majorité des projets logiciels.

Locynaeh:

K'Deed: pas vu de maj de la politique là

Suite :

Citationmar. 28 avril 2026 21:08:45 - vv221: Génial, Blender a rejoint le côté obscur : https://www.blender.org/press/anthropic-joins-the-blender-development-fund-as-corporate-patron/

mar. 28 avril 2026 21:08:56 - vv221: Il nous reste quoi, pour la 3D sur Linux ?

mar. 28 avril 2026 21:14:38 - kujiu: J'ai prévu de me mettre à Blender. Mais bon, je vois mal comment aller voir ailleurs vu tout ce qu'il fait.
J'ai lâché l'affaire en matière de boycott de logiciel dopé à l'IA, c'est devenu impossible.

mar. 28 avril 2026 21:15:24 - Alcyone: vv221, Blender était déjà porté sur les contributions LLM depuis un bail d'où le fait que j'indiquais dans le sujet de discussion LLM :
> Pour la question connexe. Je pense que pour les outils au-delà des briques inévitables (style noyau Linux ou langage comme Python) fonction de nos moyens, ça vaut la peine de mettre un mot, indiquant notre non support (le cas échéant) et l'absence d'alternative satisfaisante s'y opposant clairement à ce jour : Godot, Blender, etc.

mar. 28 avril 2026 21:16:28 - vv221: Je n'avais pas tiqué sur Blender à ce moment-là, je conaissais seulement la trahison de Godot.

mar. 28 avril 2026 21:16:37 - kujiu: Il faudra aussi que j'aille voir le forum pour répondre.

mar. 28 avril 2026 21:16:43 - Alcyone: C'est plus ancien de mémoire

mar. 28 avril 2026 21:17:04 - kujiu: Ouais, Blender ça fait un moment, mais ils ont un groupe à part pour l'IA.

mar. 28 avril 2026 22:01:18 - vv221: Ici c'est avec ce nouveau financement que je le découvre...
Je ne suis malheureusement pas très surpris.

mar. 28 avril 2026 22:14:08 - osquallo: essaye wings3d peut être :p *n'a aucune idée de comment s'est financé ni tous ces truc à débats*

mer. 29 avril 2026 15:01:19 - FrancoisA: Mais si un logiciel offre la possibilité d'utiliser l'IA personne ne t'oblige à l'utiliser.
Une voiture peut tuer. Mais ce n'est pas pour cela que les gens normaux utilisent leur voiture.
En revanche, Khaganat a eu raison de quitter Gitlab, car ce genre de plateforme peut réutiliser le code open source à l'insu des développeurs.

mer. 29 avril 2026 15:07:01 - FrancoisA: Je pensais surtout à GitHub qui a été racheté par Microsoft (qui a installé Copilot dessus).

mer. 29 avril 2026 15:09:43 - gpsqueeek: Les voitures comme l'IA polluent énormément. Pour pas mal d'usages urbains, la voiture n'a pas lieu d'être utilisée. Pour autant,dans les zones qui ne sont pas desservies, pas bien le choix...
Quand du code est généré par IA, c'est impossible à maintenir, on perd les compétences, le tout avec une grosse pollution à la clé, avec pillage de plein de données en amont pour l'entrainement (sur tout code public, pas juste github)
Je veux bien entendre que pour certains cas d'usage ça ouvre des portes, perso je fais sans (enfin, autant que je sache, mais il y en a tellement partout maintenant...)
Quand je parle d'IA ci dessus, je parle d'IA générative hein

mer. 29 avril 2026 15:24:08 - Alcyone: A mon sens FrancoisA, tu tombes dans l'habituel poncif ignorant des siècles de philo de la technique sur la supposée neutralité de l'outil. C'est malheureusement très courant et c'est dommage. On va pas rentrer dans une thèse sur le sujet mais je vais poser là que c'est un propos qui a très peu de sens une fois que l'on se pose une minute pour y réfléchir.

J'avais dans un coin un article très court de l'auteur de DotClear sur ce sujet (en français) qui invite à faire les 1ers pas de réflexion : https://open-time.net/post/2023/01/16/Neutre-ou-pas-neutre

Et effectivement on peut poursuivre l'exemple de gpsqueeek : quand cet outil est conçu dans le dédain total des enjeux climatiques actuels (au point que les boîtes conceptrices ont retiré officiellement leurs objectifs dans ce domaine et financent activement le gouvernement d'extrême-droite d'un des pays les plus influents du monde s'y opposant pour favoriser leurs profits dans ce domaine), il n'y a pas de "bonne" façon de l'utiliser qui peut contrebalançer cela.

Et tu peux également faire le tour de l'ensemble des problèmes directs et indirects posé par le développement de l'IA générative/LLM (voir le sujet de forum démarré à cet effet : https://khaganat.net/forum/index.php/topic,821.msg3421.html#msg3421).

mer. 29 avril 2026 15:26:34 - FrancoisA: On est d'accord qu'il vaut mieux ne pas utiliser l'IA.

mer. 29 avril 2026 15:27:34 - Alcyone: Le parallèle avec la voiture est très intéressant dans le sens que l'objet seul n'a pas de sens sans son contexte, l'industrie l'environnant, son impact sur le développement des villes, le développement d'autres moyens de transports, etc.
Cet article de Louis Derrac qui cite à juste titre "La vallée de Silicium" de Damasio reprend le sujet un peu synthétiquement (et reprend l'exemple de la voiture): https://louisderrac.com/les-outils-techniques-sont-neutres-prenez-ce-couteau-par-exemple/

mer. 29 avril 2026 15:45:11 - osquallo: sauf que tous ces probleme date de bien avant l'ia

mer. 29 avril 2026 15:45:55 - Alcyone: osquallo, c'est bien pour ça que la philo de la technique date de bien avant l'électricité ;-)
L'IA pose de nouveaux problèmes et en aggrave de nombreux existant

mer. 29 avril 2026 15:48:13 - osquallo: il ne les pose pas il les met juste en lumière la ou vous n'arriviez pas a les voir

mer. 29 avril 2026 15:48:35 - vv221: L'IA est surtout avant tout un projet de société, pas "un outil neutre". Un projet de société fasciste.
Utiliser l'IA, défendre l'utilisation de l'IA, défendre même *l'existence* de l'IA, c'est défendre ce projet fasciste.

mer. 29 avril 2026 15:52:07 - Alcyone: osquallo, en tournant très fort le sujet, on peut imaginer que l'IA a un effet loupe sur de nombreux problèmes existant dont elle augmente la portée. Je pense sincèrement que les modifications qu'elle entraîne et sa dimension crée en soi de nouveaux problèmes, particulièrement sociaux et sociétaux.

mer. 29 avril 2026 15:53:03 - osquallo: le probleme c'est surtotu du coter de l'humain et tant qu'on se dedouiane sur les outils pour pas avoir a ce changer soi meme rien ne changera

Je te réponds ici osquallo :

Citationmer. 29 avril 2026 15:53:03 - osquallo: le probleme c'est surtotu du coter de l'humain et tant qu'on se dedouiane sur les outils pour pas avoir a ce changer soi meme rien ne changera

Pour moi ce n'est qu'une facette du sujet prise isolément, qui se retrouve dans l'argument classique vu plus haut de l'outil neutre dont seule l'utilisation (le "côté humain") compte.
J'ai indiqué que la neutralité de l'outil n'avait aucun sens, ça ne veut bien sûr pas dire que son utilisation n'est pas à prendre en compte, elle ne va cependant pas sans tenir compte de l'outil lui même dont sa conception non neutre par essence influence l'usage.

Et en parlant d'influence, c'est littéralement la technologie la plus financée à l'heure actuelle, elle se développe et se répand à une vitesse exceptionnelle et son impact sur la société n'a pas d'équivalent sur son échelle de temps et c'est loin d'être terminé.

L'autre point que cela m'évoque, c'est la fameuse fable du colibri à la sauce Pierre Rahbi dont la maxime est d'isoler un problème sociétal à la responsabilité individuel (curieusement, les versions originales n'auraient pas cet dénouement (https://tempspresents.com/2021/12/15/le-vrai-faux-mythe-du-colibri/)). Certes chacun peut faire sa part mais la société est une entité en elle-même sur laquelle en agissant seul pour soi-même, l'influence est limitée et un problème de société réclame plutôt des actions collectives.

On pourrait épiloguer plus loin sur le pouvoir de nuisance individuel qu'offre la possibilité d'enrichissement illimité du capitalisme au détriment des autres et son rôle dans l'avènement d'une telle technologie mais on s'éloigne quand même pas mal du sujet qui reste le positionnement de Khaganat.

Bonjour,

Je ne suis le projet que de loin, donc mon avis personnel vaut ce qu'il vaut.

Je vois qu'il y a 2 problématiques qui se dégagent:

- D'un côté l'utilisation de LLM dans le projet (que ce soit pour générer des images, du code, ou quoi que ce soit d'autre): Inkscape fait en effet un assez bon résumé de la situation. C'est néfaste éthiquement et politiquement, c'est généralement mauvais à moyen techniquement, et je peux ajouter que accepter les contributions générées par des LLM, c'est s'exposer à une grande quantité de contributions mal fichues qui vont demander plus de travail pour mettre les choses "au propre" que de faire directement les choses soi-même. Mais en fait le débat sur cette dernière question me semble un peu inutile: les raisons éthiques et politiques sont, comme vv l'a indiqué, largement suffisantes pour rejeter le truc, pas la peine d'aller plus loin, même si ça donnait de bons résultats ce serait quand même une mauvaise idée.

- D'un autre côté, il y a les dépendances à d'autres projets. Et là, on est déjà dans une situation plus difficile. Blender et Linux ont été mentionnés, mais il y a tout un ensemble d'autres outils, pas tous facilement remplaçables (à moins de rester bloqué sur des anciennes versions?). C'est là que il y a un vrai problème à résoudre: soit accepter la situation de façon générale et continuer à autoriser ces outils, soit seulement certains après avoir confirmé qu'il n'y a pas d'alternative, soit aucun quitte à mettre beaucoup d'énergie pour trouver ou construire un remplacement. C'est une question qui se pose aussi quand il s'agit de choisir un logiciel libre vs un propriétaire, ou un protocole ouvert vs un qui est maintenu par une seule entreprise.

Et c'est là que je ne m'estime pas pertinent pour intervenir puisque je n'ai pas les mains dans les projets correspondants. Peut-on remplacer Blender ou Godot par autre chose? Aucune idée. Est-ce que Linux doit rester parmi les systèmes d'exploitation sur lesquels le client peut fonctionner? Même question pour Windows? Quel compromis êtes-vous prêts à faire?

Personnellement, j'échappe à peu près à ces problèmes pour l'instant. Je suis cependant exposé (pour l'hébergement de ma forge logicielle personelle) à un traffic très important de bots qui scannent tout n'importe comment et qui sont au moins en partie lié à l'entraînement et l'utilisation de LLM. Cela me consomme un peu de temps et d'énergie pour maintenir ce serveur en ligne. Je dois également questionner certains des logiciels que j'utilise et auxquels je contribue, et peut-être jeter des dizaines d'année de travail (par exemple sur le moteur de rendu web WebKit, dans lequel l'utilisation de code généré par LLM semble admise maintenant). Je ne sais pas encore ce que je vais faire. Je suis intéressé de lire une discussion sur ce sujet, en tout cas.

Il me semble aussi important de voir "où" l'IA nous impacte et ce qu'on en fait.

Il y a des parties, c'est facile, et d'autres où ça pose plus de questions (sans que les réponses possibles soient bien satisfaisantes ou réalistes à mon goût).


Ce que liste Pulkomandy me semble une base, je reprends un peu :

- Usage de LLM pour générer du contenu "final" pour Khaganat : définitivement pas envisageable, pour toutes les bonnes raisons évoquées jusque là. Est-ce qu'on est toutes d'accord sur le sujet ? Je crois...

- Mais il y a aussi les aspects "WIP" ; en effet, on a pu utiliser un peu les LLM pour compenser des manques de compétences en interne. Qu'il s'agisse de générer des images pour avoir une idée de la direction artistique, ou d'essayer de comprendre d'obscurs points de code quand personne sur Krypte n'est apte à répondre. Je ne défendrais pas que c'est "bon" et je pense que nous devons veiller à nous passer de cela, mais la tentation est parfois grande de débloquer en utilisant ce genre d'outil. Mais c'est une position qui est plus facile à avoir quand "tout va bien". Je pense qu'il faut vraiment outiller le projet (et nos membres) pour qu'on puisse justement limiter ce genre d'usage, et préciser les lignes rouges (pas de vibe coding, pas d'illustrations LLM, on est d'accord). C'est peut-être là que notre charte "(non)-usage de l'IA" sera la plus à affiner. Par contre, ne nous leurront pas, on n'est pas dans le dos de chacun, on ne peux pas savoir quel produit final a été permis en partie parce qu'un LLM, à un moment, a pointé la bonne piste dans une doc labyrinthique et obscure. Et je plaide coupable ; en tant que sysadmin, je me suis parfois fait expliquer des concepts par un LLM quand je ne comprenais rien à la doc et que les réponses des humains se bornaient à "mais utilise X au lieu de Y, et non je n'avouerais pas que je ne sais pas répondre à ta question et je vais plutôt te faire perdre du temps sur un outil qui ne répond pas à ta problématique". Pour autant je sais aussi que plus que jamais, il faut travailler à renforcer l'entraide et l'apprentissage entre humains. Et outiller les humains en question à savoir échanger et communiquer...

- Les dépendances : il faut de toute façon qu'on les documente, et à présent cela viendra avec "quelle est la politique IA de ces projets". Cela demande une veille, car il va y avoir des différences entre les dépendances qu'on peut virer, celles qui sont hors de notre portée (Blender, ce n'est pas négociable...), et aussi de voir à quel point c'est contaminé : il y a une différence entre un projet vibe-codé par des humains qui n'y connaissent rien, et accepter de corriger une faille de sécurité remontée lors d'un audit de code par LLM. Mais ça reste un "yakafokon", car on n'a déjà pas une page sur le wikhan listant toutes nos dépendances sur notre ecosystème... et vu qu'on gère nous-même pas mal de trucs, ça en fait, des logiciels. Pulkomandy résume sinon le problème principal : les capacités humaines à se passer de projets où l'IA est trop présente.

- Les contributions mineures : on aura des gens, à un moment, qui nous proposerons des travaux permis par les LLM. Si certains seront faciles à détecter/refuser (non, pas de roman Khaganat par Deepseek, ni d'illustrations sur les mugs), d'autres peuvent être dans des zones plus complexes à trancher (les bugs impactant la sécurité, en particulier), sans parler de savoir si c'est du travail de bot et à quel pourcentage. Je ne sais pas du tout comment gérer ça. Je ne sais déjà pas pour l'écrit (qui est ma vraie compétence) : j'ai vu des gens partager sur forum leurs histoires en bonne part rédigée par LLM, et je ne l'ai détecté que parce que j'ai fait de mon côté des tests avec les LLM et que je repère assez bien les tics de langage (y compris des machines). Et on ne peux pas accuser "comme ça" les gens d'utiliser des LLM, c'est une pratique qui tends à dégoûter des innocents (les gens qui n'en utilisent pas et s'en font accuser, cessent de créer, ce qui est le pire scénario dans notre logique). Par ailleurs, le fait qu'il y ait un jugement moral sur l'usage de l'IA va pousser certaines personnes à cacher leur usage, ce qui va avec une baisse de confiance au sein de la communauté, et on finit par avoir des problèmes humains, bien plus que des problèmes d'IA.

- Le scrapping par les bots. Ça concerne les sysadmins, mais c'est effectivement questionnant, pas juste côté ressources mais aussi côté éthique. Je bosse en pointillé depuis 2 ans pour limiter ce scrapping, il n'est évidement pas question de se faire pourrir les ressources serveurs par le capitalisme. Mais je suis aussi un peu ambivalente : quitte à ce qu'ils pillent le monde pour leur corpus, j'aimerais bien leur faire intégrer des données alternatives (ce qu'est Khaganat entre autre), histoire qu'ils ne racontent pas que des récits blancs cishet capitalistes  :doubt: Notez que je m'en fout qu'on se fasse "piller" : à mort la propriété intellectuelle !!! (mais vous avez le droit d'avoir un autre avis, et puis j'aimerais quand même que tout reste dans les communs).

- Il y a sans doute d'autres usages à la limite, que je n'ai pas vu, et si vous en voyez, listez ;)

Quoi qu'il en soit, le sujet a vraiment besoin d'être traité, et qu'on définisse nos positionnements actuels. Mais ça ne va pas être simple.

Faut vraiment que je lise tous les liens, c'est utile de lire ce que font les autres projets, mais j'avoue que pour le moment j'ai pas encore fait.

Pour les aspects "WIP" ou exploratoires:

ça dépend quelles sont les raisons qui font que on est contre l'IA.

Si c'est pour des raisons écologiques (la consommation électrique et en eau de tous les datacenters), par exemple, l'usage final ou exploratoire ne change rien du tout. Si c'est pour des raisons politiques, je crois que c'est pareil.

Si par contre c'est un débat sur la qualité des trucs générés, la discussion est différente. Mais comme je l'indiquais dans mon message, pour moi (c'est mon opinion personnelle, là) le débat ne devrait même pas arriver jusque là. ça remet les choses dans un cadre de type "c'est juste un outil comme un autre" et ça évacue donc les questions qui me semblent les plus importantes (pour moi: la consommation d'eau et d'électricité/émission de CO2 en premier, et la centralisation des LLM autout de quelques modèles fermés avec le projet politique qui va derrière).


Ensuite tu évoques un deuxième aspect qui est qu'une interdiction n'est pas forcément facile à mettre en place. Je pense que personne n'a envie de faire la police là dessus. J'ai un peu d'expérience là-dessus chez Haiku ou nous avons interdit le code généré par LLM (pour des raisons uniquement de droit d'auteur, car c'était la raison la plus facile pour avoir un concensus de l'équipe décisionnaire là-bas). Ça a l'air de fonctionner: il y a de gens qui ne se cachent pas d'utiliser des LLM, qui corrigent des bugs dans leur coin, mais qui ne nous ont pas envoyé leurs contributions pour qu'on les intègre. Le fait d'envoyer un message clair sur notre position fait déjà beaucoup et fait que les gens savent à quoi s'en tenir. Finalement, même si la règle ne peut jamais être appliquée strictement, c'est déjà très bien. On a  le même problème avec la gestion des licences, il arrive parfois que des gens intègre du code sous license GPL par erreur. Nous avons toujours pu trouver des solutions, soit en demandant des exceptions de licence aux développeurs concernés, soit en remplaçant le code lorsque les problèmes sont identifiés.

Là je parle surtout de code, c'est le domaine que je connaît mieux.

Ici aussi les compromis sont différents selon les raisons qui poussent à rejeter les contributions par LLM. Si c'est pour des craintes sur le droit d'auteur, il faut une application assez stricte. Si c'est la peur d'être innondées de contributions générées mal fichues, il suffit probablement de traiter les cas les plus évidents ou aucun effort humain n'a été fait. Si c'est pour des raison politiques, il faut accepter que le projet affiche une orientation politique à ce sujet et soit prêt à la défendre (dans la mesure de ses moyens). Et cette orientation peut aussi être extrême ou nuancée.


Enfin pour le scrapping: j'ai pris cet exemple parce que c'est ce qui m'impacte le plus directement. Mais en fait le propos est beaucoup plus général. Pour chaque prompt envoyé à un LLM, derrière il y a non seulement des ressources matérielles (électricité, eau, on en a déjà parlé) mais en fait il y a aussi des gens qui travaillent. Que ce soit pour garder l'internet en état de marche et les sites accessibles, mais aussi pour produire des données d'entraînement de qualité, et encore derrière des gens qui font de la classification de données, de l'entraînement de modèles, etc. Une grande partie de tout ça est très peu ou pas du tout valorisée, et le LLM permet d'oublier et d'invisibiliser toutes ces personnes. C'est une forme d'exploitation d'humains, rendue acceptable par une jolie interface facile à utiliser. On retrouve là un motif de la vente en ligne façon Amazon, des Uber et autres. On te fait coire que c'est de la technologie qui travaille pour toi, mais en fait il y a des humains derrière. On fait en sorte que tu ne communiques pas avec eux comme ça ils peuvent pas se plaindre. Je n'ai pas envie que mes contributions et le temps que je passe à faire des trucs avec des ordinateurs serve à ça. Même dans le cas bizarre où au final, l'humain à l'autre bout du truc, c'est moi qui essaie de régler les problèmes de scrapping sur mon serveur.

Ceci étant dit, difficile d'échapper à tout ça sans faire des compromis difficiles comme abandonner certains logiciels. Finalement, le choix est là. Effectivement, parfois ce sera la réponse réaliste mais difficile à avaler. Parfois ce sera la position militante, active ou juste de principe. Parfois on a juste pas les moyens de lutter face à un truc aussi gros. Je sais déjà que je n'ai pas envie de contribuer à des projets utilisant ces outils. Je suis embêté quand il s'agit de choses dans lesquelles j'ai investi beaucoup de temps (dans mon cas le plus gros exemple c'est WebKit, dont je maintiens une version pour Haiku depuis plus de 10 ans). Je ne suis pas sûr de vouloir prendre une position plus extrême ou je refuse même d'utiliser des logiciels développés avec l'aide de LLM (de la même façon que j'utilise des logiciels non libres et qu'il m'arrive même d'en écrire aussi).

Et donc, n'ayant pas de position pour moi-même sur ce point, je me garderais bien de donner un avis précis sur les limites à mettre au sein de Khaganat. Je crois que pour moi ce qui est important, c'est que la question soit débattue sous cet angle là, plutôt que sur, par exemple, la qualité du travail produit par les LLM ou avec leur aide.

Un premier brouillon très criticable à critiquer :

CitationCharte "(non)-usage de l'IA"

Chez Khaganat, on a pu expérimenter un court temps avec les LLM par le passé à leurs débuts. Certaines étaient enthousiastes, d'autres ressentaient un certain malaise. A l'AG suivante, l'association avait convenu que ce n'était pas envisageable d'en faire un usage autre que ponctuel et transitionnel et en tout cas définitivement pas pour quoique ce soit étant destiné à être publié. Ces expérimentations ont eu lieu sans franchement se poser de questions profondes : le projets a peu de mains, dans tout ses domaines, les LLM pourraient peut-être pallier pour créer des sources d'inspiration ? Des guides pour de futur concept-art ?

Le temps a passé, le malaise reste et s'agrandit en parallèle de l'omniprésence des LLM dans le paysage. Qu'en est-il aujourd'hui pour Khaganat ?

On le répète souvent, la règle qui a fondé Khaganat est "Rêvez sans limite". Créer avant même de penser si l'on peut le réaliser. Sans quoi, ça ne ferait pas plus d'une dizaine d'années qu'on se lance dans la construction d'un MMORPG ! Le faire sans trop penser au bout du chemin, s'évader en se perdant dans les méandres de la ballade et surtout le faire ensemble en prenant du plaisir à le faire ensemble.

Nous avions aussi toujours tenu à une certaine éthique dans l'orientation du projet (https://khaganat.net/wikhan/fr:orientations_fondamentales), que ce soit dans l'approche de la création, la conception des éléments de gameplay, le rapport entre les joueuses en jeu avec le PwP (Player with Player), l'usage de licence Libre comme socle, l'univers créé comme laboratoire social et philosophique ou encore les espaces d'échanges comme "safe place" inclusives.

Créer une lore qui nous appartient à tous, nous humains, pas une grande multinationale prompte à poursuivre pour contre-façon le moindre geste de création un peu trop apprécié et soutenu par son public.

On aime Rêver, on aime questionner, on aime apprendre, on aime partager.

Et les LLM aujourd'hui c'est comment ?

Légalement, ce n'est pas clair et l'existant est questionnable. On a pu constater qu'il a été décidé dans certaines parties du monde que les production des LLM, eux-mêmes n'étant pas des humains, ne sont pas du domaine de la propriété intellectuelle et sont ainsi classées dans le domaine public. Est-ce qu'on le constate en pratique dans leur utilisation au travers des Internet ? Pas vraiment.
Aussi, les données d'entraînement des modèles existant viennent d'un pillage généralisé des productions disponibles (légalement ou non, ça a été largement démontré) de l'humanité sans une pensée pour le consentements des concernées ou des conséquences.
Et ces modèles sont ensuite capable de régurgiter verbatim certaines de ces productions qu'ils ont absorbé (ça a aussi été largement démontré). Quand il s'agissait d'individus, n'importe quel système judiciaire était prompte à les condamner. Pour les entités derrières ces modèles, pas particulièrement de réaction.

Socialement en revanche c'est bien plus direct : on constate déjà d'un côté du monde des licenciements massifs, des professions tournant leur fiche de poste vers la correction de production des LLM et de l'autre côté l'esclavage moderne des personnes corrigeant les données à faire absorber aux modèles. Les besoins matériels pour répondre aux investissements plombent les prix des divers matériels techniques (RAM, stockage...).

Techniquement, le développement constant de ces technologies est une aberration environnementale et vient s'ajouter à la balance de ce qui affecte le changement climatique. Au delà de l'impact direct, l'industrie autour des LLM emmène la plus grande vague d'investissement connue à ce jour pour son développement l'aggravant largement.
On note aussi le moissonnage massif de ces données sans cesse renouvelé par des robots scrappers plombant les hébergeurs de ressources à travers le Web. L'usage d'LLM rend invisibles ces deux bouts, fait oublier que ce n'est pas qu'une technologie qui répond à un usage mais une myriade d'humains derrière, en permanence.

Il y a encore tellement de choses à dire mais l'idée n'est pas de faire une thèse. Difficile d'accorder tout ce qu'il y a déjà avec notre principes et nos valeurs, n'est-ce pas ?

Faisons une expérience de pensée simplifiée. Imaginons maintenant que ces diverses contraintes disparaissent un jour :
 - plus d'impact environnemental
 - plus de pillage, les données viennent uniquement du domaine public
 - plus de consommation hautement coûteuse en énergie
 - plus de bulle financière
 - plus d'impact social
 
Qu'apporterait un tel outil génératif à Khaganat ?

On a bien sûr parlé de source d'inspiration, intéressant mais aussi très limité, nous le savons déjà.

Question licence, quand bien même le domaine public lève certains questionnements, on ne peut intégrer du domaine public à une licence Libre quelconque que si l'apport est soit trivial (difficile à déterminer) ou suffisamment entouré de "propriété intellectuel" de l'humain qui fournit l'apport (pas évident à déterminer non plus). Bref, des nœuds de cerveaux en devenir sans compter qu'ouvrir la porte à des contributions plus ou moins produites par des LLM c'est s'exposer à une grande quantité de contributions qui vont demander une masse conséquente de travail pour mettre les rendre acceptables et même déterminer qu'elles puissent l'être avec un risque conséquent de souci à long terme.

Et puis, pendant ce temps, on ne rêve, on ne partage et on a pas non plus aidés ces contributrices à apprendre quoique ce soit, à s'intégrer au projet. Pour se soutenir les unes les autres, il faut être en mesure de transmettre son savoir-faire, de le faire évoluer pour soi et les autres.

Les LLM favorisent la productivité mais n'augmentent pas le nombre d'humains sur le projet. On automatise la revue avec des LLM ? Outre la fiabilité bien peu acceptable, que reste-t-il du rapport humain ? De la transmission ? Du faire ensemble ?

Certaines de nos membres ont expérimenté qu'un processus itératif d'apprentissage avec des LLM les avaient aidés sur des points techniques où la documentation était lacunaire et les humains manquant. Au delà d'un usage possible ce serait plutôt une réflexion sur notre capacité à nous tourner vers les contributeurs, accepter leurs questions, faire une meilleure documentation, partager plus. Dans le fond, c'est déjà nos valeurs et déjà ce que nous faisons. Peut-être pousser plus dans ce sens dans et à l'extérieur du projet ? Plus que jamais, il faut travailler à renforcer l'entraide et l'apprentissage entre humains. Et outiller les humains en question à savoir échanger et communiquer.
Il est un peu déprimant de constater que les projets lacunaires en documentation utilisateurs de LLM n'ont eu aucune difficulté à rédiger des textes explicatifs (type AGENT.md) pour mettre le pied à l'étrier à leur LLM alors ils en ont jamais pris le temps pour les éventuels contributrices.

Retour à aujourd'hui : les impacts sont toujours là. Il nous semble important d'envoyer une position claire et aussi notre expérience et notre cheminement. De poser nos limites qu'importe notre capacité à les faire respecter.

Pour toutes les raisons éthiques ou politiques, l'usage d'LLM au sein du projet ne nous est pas acceptable, pour toute interaction avec le projet, que ce soit pour du WIP ou quelque chose destiné à être publié, quelque soit le domaine.

Ça c'est pour ce que nous produisons au sein du projets mais quand est-il des outils que nous utilisons ? De nombreux logiciels FLOSS intègrent maintenant des LLM à plus ou moins grande dose. Que pouvons nous faire ?

Déjà, faire le point, lister nos dépendances et nos outils actuels, déterminer leur position vis-à-vis de l'usage d'LLM. Trouver des alternatives si elles existent, les créer si nous en trouvons l'énergie. Malheureusement, pour beaucoup ces alternatives n'existent pas vraiment (noyau Linux, Blender, etc.), il nous faudra donc exprimer pourquoi nous déplorons leur positionnement éthique.

Bon OK, c'est pas tellement une "charte" mais on aime déblatérer dans le coin et j'ai pas mal déblatéré au pif. Je pense que le doc final sera bien différent de celui-ci  :)) l'important c'est d'avoir une base pour le faire à mon sens.

Je suppose qu'on peut critiquer ici et tout mais je me dis que la version sur le pad pour collaborer serait aussi bien utile :

https://carnets.numenaute.org/p/chartenonusageia

Aussi, dans https://khaganat.net/wikhan/fr:charte => Rajouter un point et lien vers la présente charte :

CitationNous invitons chacun à se passer de l'IA pour toute production ou interaction au sein du projet, autant pour les productions artistiques que logicielles ainsi que les échanges ou la documentation

Merci Alcyone.

Je valide le renvoi dans la charte, ça sera pas mal, et la formulation est bonne.

J'ai mis ma proposition sur le pad, mais je la colle ici pour que ça "ping" sur le canal. Je ne sais pas si j'ai mis tout le nécessaire ; j'ai essayé de faire court. Par exemple il me semble suffisant d'évoquer que c'est un souci écologique, humain, etc, sans développer. Si y'a besoin de développer, on renvoie ici ou sur une FAQ.

C'est une base, donc évidement à travailler. J'ai tenté de "synthétiser" la synthèse d'Alcyone... mais j'ai peut-être trop coupé.

CitationRapport aux LLM et à l'IA au sein de Khaganat
Ce document vise à expliciter notre positionnement et ses raisons, de façon concise et claire ; les liens à la fin renvoient vers les discussions qui exposent les arguments plus détaillés ayant mené à cette prise de position.

1. Définitions
Dans ce document, les termes "IA" ou "LLM" désignent les systèmes d'intelligence artificielle générative (grands modèles de langage, génération d'images, etc.). Ils sont considérés ici comme un projet politique et industriel, et non comme une simple catégorie technique. Cela exclut donc les "IA" classiques du jeu vidéo (comportements de PNJ, pathfinding) ou des logiciels graphiques (denoising) qui n'ont aucun rapport avec ce débat.
Les IA "locales" type ollama, llamacpp, etc sont par contre inclus dans la définition, peut importe que certains modèles/logiciels soit dit "open source" et puisse tourner sur des machines de particuliers, car cela reste des technologies basées et permises par les mêmes entreprises.

2. Consensus : l'usage de LLM pour toute production destinée au projet est exclu
2.1. Échanger, apprendre et faire entre humains.
"Le plaisir de bâtir ensemble est une force motrice essentielle", point 3 de notre charte, reste fondamental.

Khaganat ne vise pas à la productivité ou à rendre un objet livrable, mais à expérimenter en bonne compagnie, à arpenter un chemin avec plaisir. Il n'est donc non seulement pas nécessaire de déléguer ces actes à la machine, mais ce serait même nuisible à notre "vivre ensemble", fondement de notre communauté.

2.2. L'IA n'est pas compatible avec nos positions éthiques et politiques
Les valeurs politiques et éthiques sont fondamentales au sein de Khaganat.
L'IA est un désastre écologique, se base sur exploitation humaine, propage des biais, et est au service de ce que nous rejetons : un capitalisme toujours plus complaisant envers le fachisme. Pour ces raisons, il n'est pas envisageable de promouvoir ou valider l'utilisation de ces outils.


3. Zones grises : la complexité du réel
Mais au delà de ce consensus, nous reconnaissons aussi les complexités structurelles qui font que certains usages à la marge sont présents. Il convient cependant de les questionner, de chercher à dépasser la dépendance aux LLM, et en aucun cas cela ne légitime l'usage.

3.1. Dépendances logicielles
Certains outils sur lesquels nous nous appuyons ont des politiques différentes, voir très conciliantes avec les IA. À défaut de pouvoir "tout faire", nous essayons de documenter cela, et lorsque c'est possible, d'utiliser des alternatives.

3.2. Usage palliatif
Parfois, l'action humaine fait défaut (pour répondre à des questions, débloquer des situations, permettre de compenser des handicaps). Nous le déplorons et nous souhaiterions que ce genre d'usage soit évité mais à défaut, là aussi, de pouvoir "tout faire", nous reconnaissons que certaines d'entre nous peuvent temporairement recourir aux IA pour pallier à certains manques (que nous espérons temporaires). Il est cependant important de noter que dans ce genre de cas, l'usage d'IA est individuel, à la marge et non destiné à produire pour Khaganat directement.

Nous considérons que chaque usage palliatif révèle un manque dans notre capacité collective à s'entraider. Ces situations doivent donc être vues comme des incitations à améliorer notre documentation, notre accompagnement et nos espaces d'échange, afin de rendre ce recours de moins en moins nécessaire.

4. Liens
(Mettre les liens vers le sujet du forum, blog, etc ?)

Cette dernière proposition est convaincante, sauf le point 3.2 "Usage palliatif". N'ayant pas suivi les discussions qui ont mené à sa rédaction, ces paragraphes me donnent l'impression de pouvoir être utilisés pour un peu tout et n'importe quoi (et donc permettre de contourner tout le reste de la charte).

Est-ce que ça a été rédigé à partir d'exemples réels ?

Zatalyz a mentionné ça dans le chat il me semble: l'exemple était l'utilisation d'un LLM pour répondre à des questions techniques (sur de la configuration de serveur de mail par exemple), là ou aucun humain n'est disponible ou n'a les compétences ou le temps de répondre.

Si ça donne cette impression, alors il faudra effectivement qu'on développe dans la FAQ associée. Parce que non, vraiment, ce n'est pas pour justifier qu'on utilise pour tout et n'importe quoi.

Dans les exemples concrets :

Citationpour répondre à des questions

Je l'avoue, je m'en suis servie pour comprendre un peu mieux LDAP. Pour l'historique, on fait des aller-retours autour de LDAP depuis quasi le début du projet. On a eu des techs qui comprenaient assez de la techno pour la mettre en place, mais qui n'étaient pas en mesure d'expliquer son fonctionnement (manque de temps, de pédagogie, façon d'aborder les choses incompatibles, etc). J'ai lu des tas de tutos et docs écrits par des humains, mais ça reste tout de même velu, et je n'ai encore jamais rencontré quelqu'un de passionné par LDAP (c'est au mieux vu comme un outil utile). J'ai donc fini par décharger ma frustration sur un LLM. On sait que je deviens ronchonne quand je fais du sysadmin, mais je deviens vraiment infréquentable avec LDAP. J'en étais consciente et c'était mieux qu'une machine se prenne mes remarques à base de "mais c'est quoi cette techno de miarde et qui sont les débiles profonds qui ont pensé que ce truc était une bonne idée ?". Tu note : je me suis appuyé sur les humains, jusqu'à en atteindre les limites de ce qu'ils pouvaient fournir (et merci à tous ceux qui ont eu la patience de me faire avancer). Pour le reste, ben, je dois le dire, le LLM m'a permis d'enfin comprendre certains concepts, de comprendre aussi pourquoi jusque là je n'avais pas compris (ce n'est pas un langage de tech ou de rêveuse, mais un langage administratif...), bref de prendre un niveau et d'enfin donner du sens à certains aspects de tuto que je lisais.
=> quand il n'y a plus d'humains disponibles pour répondre à une question, et si on est dans une situation où la réponse est vraiment importante, alors... je peux comprendre qu'on craque et qu'on aille voir un LLM, puisque je cède :P (et on est d'accord, les connaissances du LLM ne doivent pas être considérées comme "la vérité" ; ceci dit, idem sur les humains).

Ceci dit, tu notera que la dernière architecture LDAP n'est toujours pas en place. Plusieurs raisons à ça, mais l'une d'elle est que quand je me sert d'un LLM pour avancer, je veux ensuite laisser maturer ça dans un coin de ma tête, sans LLM, pour réduire un biais d'emballement qu'on a quand on les utilise. Là, je me suis noté des trucs, j'y reviendrais quand j'aurais la disponibilité d'esprit pour, et je verrais si je comprends toujours autant, ou si je me suis fait prendre dans un mirage IA. Un mécanisme que je devrais développer un de ces jours dans un de mes articles, mais c'est long à écrire (et pour le coup, je ne les fait pas rédiger par LLM, même si ça serait rapide :P ).

Edit : et comme Alcyone le dit, oui, sur le mail... mais là les man sont aussi en faute, y'a des options vraiment expliqués n'importe comment ! (je ne me souviens plus de laquelle ceci dit, mais ça m'avait rendue dingue sur le moment).

CitationDébloquer des situations

Là je reste dans la tech et mes expériences perso, mais il m'est aussi arrivé de faire face à un souci sur un serveur ou un cms, pas toujours du genre qui peut attendre, de n'avoir personne de compétent sous la main qui sache comment débloquer le problème, de ne pas trouver la réponse sur le net. Parfois je laisse le problème sous le tapis (souvent même), et parfois, quand ça bloque vraiment (genre une fichue mise à jour impossible à cause d'une fichue option perdue dans un fichue endroit), ben faut reconnaitre que le LLM débloque.
On parle en général de trouve le nom de LA fonction qu'il faut, LA commande à lancer, etc. Des petits trucs, mais dans le genre bien bloquant.
C'est mal, je sais, mais ça ne manque pas de problèmes franchement craignos qui attendent tranquillement que "un jour" un chevalier blanc arrive et règle le souci. Rien que de penser à certains trucs, j'ai des palpitations... et pourtant, je n'ai pas encore demandé à un LLM de me les régler (souvent parce qu'ils sont gros et donc utiliser un LLM présente le risque d'utiliser *beaucoup* le LLM en question... trop, avec toutes les dérives associées).
Au choix sans même que je réfléchisse trop : ipv6, nftables, backup, monitoring, mail (quoi que là pour être honnête, un peu sur les bords), reaction, attaques de bots, spam, ce fichu certif ssl sur les VM et non le proxy (encore que l'ipv6 règlera ça)... Et on peut aussi parler des mises à jour de certaines bidouilles dans les cms (cookie unifié de dokuwiki, et ces fichues erreurs dans SMF et...). On n'est pas nombreux, on paie certains choix trop enthousiastes faits par le passé (et je ne regrette pas, ceci dit, qu'on ne dépende pas trop de boites commerciales pour nos services), et ce n'est pas bon pour ma santé mentale que je creuse ; mais si un de nos sysadmins est motivé à débloquer une de ces situations, se retrouve seul devant la montagne, et n'a qu'un LLM pour l'aider à la réduire en purée... et bien, même si l'usage de ce LLM doit s'accompagner des précautions et de la modération utilisées pour manipuler de la nytroglycérine, perso ça me va qu'il le fasse. Par contre, ce qui sera fait a intérêt à être soigneusement documenté. Et je ne veux pas du vibe coding ou des solutions non revues par des humains.

CitationPermettre de compenser des handicaps

.
Là c'est le point le plus critique.

Dans un monde idéal, le fait d'avoir un handicap ne devrait pas être un souci pour participer à diverses choses, parce que nous saurions nous adapter en tant que société pour inclure le maximum de monde.

Le monde est loin d'être idéal.

Et pour le coup, les LLM comblent un manque. C'est clairement pas la solution idéale, mais c'est mieux que rien sur ce point précis. Je suis désolée, j'ai visiblement oublié de mettre dans mes marques-pages des liens de personnes handi qui expliquent comment les LLM les aident, et ça aurait été mieux pour illustrer. J'ai en particulier souvenir d'un article assez cool d'une personne qui expliquait que c'était pas confortable nivau éthique pour elle d'utiliser ça, mais que ça lui permettait d'accéder soudain à des trucs inaccessibles jusque là dans sa vie numérique.

Est-ce qu'on est concerné sur Khaganat ? Je n'en sais rien, mais je sais que malgré mes efforts, les sites sont loin d'être au top côté accessibilité (mais là aussi : je ne suis pas dev, pas experte en accessibilité, handicapée moi-même même si c'est pas sur le visuel, donc y'a des limites à ce que je peux accomplir). Je sais très bien qu'on ne réponds pas aux besoins de celles qui ont besoin d'audio plus que de texte, qu'on ne sera jamais en mesure de répondre au FALC, et que c'est loin d'être gagné pour les aphantasistes. Si quelqu'un utilise un LLM pour compenser son handicap et ainsi accéder aux ressources de Khaganat et participer à ce qu'on fait, ben... on ne va pas le virer avec l'excuse "t'as qu'à pas être handicapé". Or, sur l'audio, le FALC ou la génération d'images, les LLM savent faire... et ce sont les trucs qui me viennent à l'esprit. On pourra, je l'espère, compenser ça un jour, mais en attendant ?

Au passage, est-ce que les LLM m'aident avec mon propre handicap ? Ouais. Sérieusement, sans ça, j'aurais disparu totalement de la circulation depuis quelques années. Ça n'a pas forcément de rapport direct avec Khaganat, mais ça m'arrive aussi de me servir de ça pour compenser l'absence d'humains pouvant m'aider. C'est une béquille parmi d'autre : elle est crasse et dangereuse, mais c'est mieux que de s'en passer, désolé.

***

Je ne l'ai pas mis dans les usages palliatifs, mais je l'ai quand même en tête : si un de ces jours, quelqu'un arrive en nous disant "y'a une faille monstrueuse, là, et je l'ai trouvé avec Claude", ben... faudra qu'on regarde la faille. Qu'elle aie été trouvée avec une IA ou non.
Puis si cette personne nous dit "pas de souci, j'ai vibe-codé la solution", ça me fait mal de le dire, mais si la faille est validée, faudra aussi qu'on regarde sa proposition (sauf si on voit comment faire sans). Parce qu'on ne laissera pas des failles béantes alors qu'on peut les boucher. Note ceci dit que j'envisage ça pour les questions de sécurité, si dans une approche similaire quelqu'un proposait une fonctionnalité, on l'enverra (je pense) dans les roses. Comme je n'ai pas envie d'inciter les gens à regarder les codes avec des LLM et nous flooder de tickets à la noix, je n'ai pas mis ça dans ma proposition, mais c'est peut-être une erreur.

Je sais que de ton côté tu es dans une vision plus puriste (pas d'IA quelque que soit la raison), je peux le comprendre. C'est d'ailleurs pour ça aussi que je suis honnête sur mon propre usage (alors que franchement c'est pas facile d'avouer que parfois, je m'en sers pour de vrai... et d'avouer aussi que c'est plus agréable de parler à une IA qu'à certains humains :p), histoire que tu puisse faire ton choix (ou d'autres comme toi) en sachant le niveau de compromission.

De mon côté, je considère la vision puriste comme intenable en restant dans la tech (pour faire son jardin, ça va, par contre). Les LLM sont là, ils s'infiltrent dans tous les usages, et au delà des problèmes réels qu'ils posent (partie politique&éthique), on ne peux pas juste balayer la complexité des situations individuelles.

Or, ce qui m'anime toujours, c'est l'inclusivité, c'est permettre aux gens de s'extraire de situations que je considère comme mauvaise pour aller vers un mieux, c'est d'essayer de construire un monde "meilleur". C'est pour moi la même chose que d'accepter que les gens s'inscrivent sur le forum avec une adresse en gmail, essayent de jouer (le jour où ce sera jouable...) avec windows, ou parlent de nous sur Facebook. J'ai envie qu'on fasse ce qu'on peut, sur Khaganat, pour montrer aux gens qu'on peut se passer des LLM, comme on peut se passer des GAFAM, comme on peut rêver un monde non-capitaliste et queer. Pour autant, je compte bien accueillir le max de monde (en bonne prêtresse de la propagande :p) sans attendre qu'ils soient dès la base "purs", et je suis bien consciente de ne pas être suffisament parfaite pour être en mesure de demander la perfection aux autres...

Citation de: Zatalyz le 22 Mai 2026 à 10:46:18De mon côté, je considère la vision puriste comme intenable en restant dans la tech (pour faire son jardin, ça va, par contre).

Je pense que croire que l'approche peut être circonscrite ainsi est trompeur, vu que le concept de pureté est un idéalisme platonicien (donc en totale déconnection de la réalité). Pour ton jardin, es-tu certaine que tes graines n'ont pas été améliorée en recourant à des outils LLMs ? La gestion de l'eau que tu utilises pour arroser est-elle basée sur seulement des outils LLM-free ? La confection de tes outils exclue-t-elle l'usage de LLM (pour la gestion des parcs forestiers, la coupe du bois, la fabrication du manche, l'exploitation des minéraux, la fonte des métaux, leur façonnage...).

On voit très vite la boucle sans fin que cela entraîne. Et là je suis gentil, je ne pointe que la question des LLMs mais si tu vises à un peu d'intersectionnalité, il est certain que tu vas t'épuiser rapidement. C'est ce que la série The good place (https://fr.wikipedia.org/wiki/The_Good_Place) pointe de façon très drôle : tes choix ne peuvent être moralement acceptables dans la société moderne.

C'est pour ça que je suis content qu'on ait toujours privilégié une approche plutôt éthique depuis le commencement du projet. C'est plus réaliste et ça me semble une façon de faire plus humaine.

c'est long, j'ai lu en diagonal.
- vibe-coding-machin, c'est exclu.
- chercher des bugs/sécurité/exploit, c'est obligatoire mais ça doit être réparér par un humain.
- pour les pnj et mob, serveur interne entraînement pour nous, très léger et peu gourmand en ressources.
- on dit stp et merci à Skynet pour qu'il ne nous tue pas quand il sera le maitre du monde   :p

C'est malheureusement une défense courante des LLM : on peut s'en passer, sauf pour X (ou X est justement le truc pour lequel la personne qui écrit les utilise). Si on l'accepte pour X = "la tech", alors il ne reste aucun argument honnête pour le refuser pour X = "faire son jardin".

Dit autrement : si on l'accepte pour remplacer la doc de ce qu'on veut faire tourner sur le serveur, alors on l'accepte aussi pour réaliser les modèles et textures, et pour écrire l'histoire.

Citation de: vv221 le 22 Mai 2026 à 17:58:53Si on l'accepte pour X = "la tech", alors il ne reste aucun argument honnête pour le refuser pour X = "faire son jardin"

Ce n'est pas ce que j'ai voulu dire, mais l'inverse : je ne peux pas dire que je le refuse même pour mon jardin car c'est impossible. Donc il me faut déterminer où je mets la limite pour chacune de mes pratiques car elle ne sera jamais parfaite. C'est un positionnement éthique (car arbitraire) et pas moral (où il y aurait une étanchéité parfaite entre bonne et mauvaise solution).

Je réagissais ici à la phrase originale de Zatalyz ;)

Mon approche de la question est elle aussi éthique, et d'après beaucoup de personnes, radicale.

Tiens par exemple: personne ne conteste le point 3.1 de la proposition, comme quoi il y aurait des outils (le noyau Linux par exemple) qui seraient irremplaçables malgré que leurs développeurs choisissent d'utiliser des LLM de façon plus ou moins importante.

Chacune met ses limites où elle veut et parfois où elle peut. Parce que si on décide que la première étape de Khaganat c'est de remplacer Linux (mettons par un système BSD pour les serveurs), de remplacer Blender, de remplacer les binutils qui sont nécessaires pour compiler pas mal de trucs et ben... c'est plus du tout le même projet.

(Je mentionne pour ceux qui ne savent pas, que je contribue beaucoup à Haiku, qui pourrait se positionner comme un concurrent de Linux entre autres choses, et n'a pas recours aux LLM. Je comprend tout à fait que Haiku ne soit pas considéré suffisament mûr pour les besoins de Khaganat pour la partie client où il serait éventuellement utilisable, mais ça me chagrine un peu que ce soit balayé de façon assez expéditive comme un "pas d'alternative" sans avoir creusé la question plus que ça. Mais là je fais du lobbying pour mes propres intérêts et je comprend tout à fait que ça n'emballe pas tout le monde de se lancer là dedans.)

Du coup, l'argument "il y a une exception limitée à l'utilisation des LLMs, et donc autant tout autoriser" ne tient pas vraiment. Il y a forcément un compromis à faire, le tout est de choisir où on place la limite. Et même si l'objectif est "le plus loin possible", ça ne sera de toutes façons jamais parfait (enfin, à moins de tout abandonner, ce qui n'est pas vraiment une solution intéressante pour l'instant, je pense).

Franchement, je suis en désaccord avec toute la section 3. Mais le point 3.1 indique une volonté de s'éloigner de ces systèmes reposant sur des LLM (le temps de trouver une alternative), alors que le 3.2 est littéralement une invitation à utiliser des LLM en remplacement des humains. Jusque dans son titre « Usage palliatif ».

Après je peux comprendre que ce soit le consensus au sein de Khaganat, auquel cas c'est moi qui n'y ai plus ma place. De toutes façons je pense que c'est déjà trop tard : une fois les utilisations des IA installées, elle ne s'en vont plus. Et clairement, dans le cas de Khaganat elles sont déjà bien installées.

Citation de: vv221 le 22 Mai 2026 à 20:31:27le 3.2 est littéralement une invitation à utiliser des LLM en remplacement des humains. Jusque dans son titre « Usage palliatif ».

Tu as lu trop vite ou tu n'as pas compris, car il est proposé d'écrire justement « Nous le déplorons et nous souhaiterions que ce genre d'usage soit évité ». C'est une invitation à ne pas les utiliser. Par contre, nous proposons en effet de ne pas condamner les utilisatrices mais plutôt d'essayer de voir comment nous pourrions nous en passer ensemble, dans la mesure de nos moyens respectifs.

Citation de: vv221 le 22 Mai 2026 à 20:31:27dans le cas de Khaganat elles sont déjà bien installées

À quels usages fais-tu référence ?

Je parle de toute la partie sysadmin, avec Zatalyz et Deed qui nous disent bien que c'est devenu "obligatoire". Et je ne vois aucune chance que ça reste limité à ces utilisations, en admettant que ce soit bien le seul cas où c'est utilisé.

Ce qui nous amène au problème plus profond, qui à mon avis a peu de chances d'être résolu : ça a détruit ma confiance. Quand quelqu'un me dit « Je n'utilise des IA que pour X », je ne crois pas cette personne. Ça ne correspond à aucun exemple réel que j'ai pu constater, dans la vraie vie quand on utilise des IA... on les utilise, tout court. Les quelques limites posées au début sautent rapidement.

Et franchement ma confiance a peu de chances d'être restaurée par une charte. Je pense que je vais attendre la fin de cette folie collective et la disparition des IA génératives avant de revenir dans le coin. En espérant qu'il y ait encore à ce moment-là quelque chose vers lequel revenir.

Bref : Bon vent, j'espère sincèrement que Khaganat vivra plus longtemps que ChatGPT.

Mon point de vue sur l'IA.

Je constate que le débat s'élargie sur d'autres sujets :
- La main mise par de grand groupe comme Google, Meta, Microsoft (plus quelques nouveaux acteurs).
- L'écologie, car certain fournisseur d'IA utilise de grand Datacenter, beaucoup d'eau et d'énergie.
- Et l'utilisation de ce mot de clef pour justifier des suppressions d'emploi/de poste.

Je ne rentrerai pas dans le débat des grands groupes, tous centralisés dans des pays qui ont une attitude belliqueuse contre l'Europe. A nous de définir les limites.
Quand à l'écologie, difficile de juger quand on voit tout ce que l'on importe (encore une fois de pays respectant rien ou juste en façade). J'ai même entendu qu'avoir un enfant n'était pas écologique, là je ne sais quoi dire.
Nous pouvons utiliser des IA dont les maisons mères et les services proviennent de pays plus respectueux, voir directement sur notre machine.
L'utilisation du mot de clef IA pour justifier des licenciements économique. Tous les deux ans, on retrouve ce scénario pour permettre de déclencher une vague de licenciement. Cela a un avantage, le CEO n'a pas à justifier ! Il est plus simple de suivre ce que les journalistes claironnent depuis des mois (eux-même suivant les dire de certain patron voulant préparer leurs investisseurs). On passe sous les radars et personne ne mettra en cause la légitimité de l'action. Il est difficile de répondre, la lutte syndicale afin de faire valoir nos droits, changer de travail afin de tourner la page, ...

Je clos ces sujets, pour ma part, et je me recentre sur l'IA.

Comme toute nouveauté, cela génère beaucoup d'enthousiasme et de suspicions, mais on ne peut pas arrêter les avancées. Doit-on refuser sous peine d'être dépassé par celle-ci et par ceux qui les utilises ?

Etant donnée, que la base pour entraîner provient de tout le monde (avec ou sans consentement ...), pour un projet OpenSource, cela me semble pertinent de l'utiliser.

L'IA n'est pas une personne mais un outil. A nous de montrer l'usage que l'on fait de celui-ci et surtout que l'on montre notre vision.

Attention, on doit toujours valider le résultat, l'outil s'est bien, mais celui-ci peut générer des erreurs. si l'IA fait une bêtise, celui qui a lancé est responsable.

l'IA couvrant tous les aspects, je pense qu'on doit l'utiliser dans tous les domaines (Codage, Génération d'image, Génération du son/musique, 3D, ...). On ne peut pas faire de distinction entre ces différents modes (il nous faut être équitable). Par contre, on n'est pas obligé de toujours l'utiliser.

On se doit aussi d'être transparent, quelle IA est utilisé, quelle version (et "identifiant unique"), lien sur le modèle, afin que l'on puisse contrôler, analyser, ... bref pas rester passif. Quel est le "prompt" utilisé, qu'elles sont tous les "prompt" systèmes utilisés.
On devrait définir le commit afin d'ajouter un indicateur pour signaler l'utilisation de l'IA: par exemple [AI used].

Dans le cadre de la recherche d'incident (issue), on devra ajouter des étapes obligatoires.
1- analyse du problème détecté
2- proposition d'une solution temporaire pour bloquer le problème (workaround) et si possible proposition d'un patch.
3- Vérification que l'incident n'est pas déjà déclaré (recherche doit être réalisé moins d'un jour avant la création de l'incident).

Concernant l'usage, voici mes idées:
1- utiliser l'IA sur un compte dédié (pas celui que vous utilisez pour lire vos courriels, XMPP, ...), bref un vrai compte pour l'usage de l'IA.
2- de mettre que des crédentiales limités (par exemple une clef SSH avec un mot de passe, l'idéal serait d'avoir que la clef qui pousse sur le repo GIT (avec une contrainte que le compte n'aura pas le droit de forcer une mise à jour [ne pas permettre de supprimer des commits, ...], voir mieux encore, un compte dédié Utilisateur-IA [Utilisateur : étant la personne qui valide]
3- ne pas permettre à l'IA d'ajouter des "hooks" (bloquer au niveau de git)

Bref, ici, je considère que l'IA peut être entraîné pour exécuter du code malveillant, il faut pouvoir cloisonner celle-ci (et se protéger).

Dernier point, sur la partie code, nous devons faire une attention sur les modules/libraires externe utilisé (on doit être pertinent sur l'utilisation de lib externe et s'assurer qu'elle n'ont pas de faille de sécurité, maintenabilité, ...)



Avant tout, nous sommes des hommes de dévouement et de sacrifice. Nous devons travailler pour tous avant de travailler pour nous.
Victor Hugo

CitationJe clos ces sujets, pour ma part, et je me recentre sur l'IA.

À mon avis, c'est une erreur.

Soit il y a des solutions à ces problèmes, c'est-à-dire qu'il existe un LLM ne dépendant pas d'un grand groupe américain, et qui fait une utilisation raisonnable des resources (eau, électricité, etc). Auquel cas on peut discuter des aspects techniques. Soit il n'y a pas, et il faut, pour moi, d'abord régler ce problème avant de discuter des autres.

CitationEtant donnée, que la base pour entraîner provient de tout le monde (avec ou sans consentement ...), pour un projet OpenSource, cela me semble pertinent de l'utiliser.

En temps que développeur de logiciel open source, je ne partage pas mon code sans consentement. Il y a une license qui demande de citer le nom de l'auteur. Je m'attends aussi à ce que les visiteurs de mon site web (humains ou robots, peu importe) en fasse une utilisation raisonable et efficace. C'est indiqué sur mon site par exemple de ne pas faire de mirroir complet par HTTP pour les parties comportant beaucoup de fichiers, et de me contacter pour avoir une solution plus efficace (mirroir rsync par exemple). Ce que les humains font en général, mais que les LLM ne font pas, saturant ainsi mon serveur.

Certes, pour le logiciel que j'écrit, je ne demande pas grand chose en retour. C'est souvent sous license MIT, et donc, le seul truc, c'est de m'attribuer la paternité du code et de garder la license qui autorise à repartager ce code. Avec un LLM qui serait entraîné sur du code que j'ai écrit et qui en régurgite une partie, ça ne sera pas le cas. Et même si c'est plus indirect, que le code ne ressemble pas tout à fait au mien, peu importe. Un des trucs qui me fait plaisir c'est de recevoir de temps en temps sur mon site web des messages de gens que j'ai pu dépanner grâce à un de mes articles (par exemple sur un composant électronique relativement obscur). Si ils ont obtenu leur réponse à travers un LLM? Fini, on peut oublier ce genre d'interaction.

Citationmais on ne peut pas arrêter les avancées. Doit-on refuser sous peine d'être dépassé par celle-ci et par ceux qui les utilises ?

Oui.

Et c'est justement maintenant qu'il faut le faire, avant que tout le monde soit effectivement devenu dépendant. Comme on peut l'être au fait de se déplacer en voiture par exemple, alors qu'on aurait très bien pu faire d'autres choix, mais pour ça il aurait fallu réagir il y a 50 ans, maintenant ça va prendre 50 ans de plus à déconstruire.

Et oui, je pense aussi qu'avoir des enfants n'est pas écologique. Avez-vous entendu parler du mouvement pour l'extinction volontaire de l'humanité (https://www.vhemt.org/findex.htm)? Par contre, dans ce cas là je ne suis pas aussi directement impacté, et donc, je ne vais pas vous dire quoi faire avec vos choix de vie respectifs!

Citation de: Deedc'est long, j'ai lu en diagonal.

Et c'est dommage, le but est d'échanger et de travailler ensemble à un consensus. Là à mon sens tu fermes ainsi directement les échanges de façon non constructive, péremptoire et peu respectueuse du temps qu'on pris les autres à rechercher et écrire.

Citation de: AleajactaestJe clos ces sujets, pour ma part, et je me recentre sur l'IA.

Pulkomandy y a mieux répondu que je ne le ferai. Se questionner sur l'outil sans prendre en compte son ancrage dans le monde réel est par définition complètement hors sol, pour toutes les raisons déjà discutées plus haut. Cela a un intérêt tant que l'on ne parle pas d'usage réel mais hypothétique (ce que dans un sens j'ai fait dans le 1er poste, avec des conclusions différentes vis-à-vis du projet).

In fine, idem Deed, sans compter que les arguments reprennent un peu des figures rhétorique éculées pour lequel je ne peux malgré tout pas ne pas dire un mot.

Citation de: Aleajactaestmais on ne peut pas arrêter les avancées. Doit-on refuser sous peine d'être dépassé par celle-ci et par ceux qui les utilises ?

On y retrouve ici pour moi :
- La fausse inscription du projet dans une compétition par le concept du "dépassement". Dépassé pour quoi ? World of Warcraft a gagné depuis longtemps le marché. Une fois sorti du marché, où est la compétition ? Et au-delà, pourquoi être compétitif ? Un logiciel Libre vise-t-il à être compétitif ?
- Une reprise variante de la maxime type "On n'arrête pas le progrès" dans la thématique T.I.N.A (https://fr.wikipedia.org/wiki/There_is_no_alternative). Pulkomandy a donné l'exemple concret de la voiture imposée vis-à-vis de ses alternatives. Je vais en donner un autre pour grossir un peu le trait et mettre surtout en valeur le schéma d'argumentation posant problème à mon sens : on maîtrise maintenant très bien la fixation des puces RFID sous-cutané, doit-on arrêter le progrès et conserver nos vieilles cartes d'identité que l'on sort sur demande alors qu'on pourrait être pucé et identifié partout et en permanence sans avoir besoin de la transporter ?
Le progrès/les avancées c'est précisément ce que nous en tant que société sommes aptes à mesurer et devons déterminer comment un élément issue d'une recherche peut être conçu en applications utilisables, comment, avec quelles limites et se questionner si cela même a un sens. Il y a une sorte de renversement sémantique dans cette expression, "comme si le progrès s'était émancipé de nos propres désirs et échappait à toute maîtrise" pour citer Étienne Klein.

Citation de: AleajactaestAvant tout, nous sommes des hommes de dévouement et de sacrifice. Nous devons travailler pour tous avant de travailler pour nous.
Victor Hugo

Cette dernière citation est intéressante, dans le sens que les problèmes éthiques soulevés pour la plupart ne nous impactent pas directement nous, ou du moins, nous impacteront relativement tard comparé aux premiers touchés pour autant c'est bien parce que "nous devons travailler pour tous avant de travailler pour nous" que l'on s'en préoccupe à mon sens.

Citation de: Zatalyz3. Zones grises : la complexité du réel
Mais au delà de ce consensus, nous reconnaissons aussi les complexités structurelles qui font que certains usages à la marge sont présents. Il convient cependant de les questionner, de chercher à dépasser la dépendance aux LLM, et en aucun cas cela ne légitime l'usage.

3.1. Dépendances logicielles
Certains outils sur lesquels nous nous appuyons ont des politiques différentes, voir très conciliantes avec les IA. À défaut de pouvoir "tout faire", nous essayons de documenter cela, et lorsque c'est possible, d'utiliser des alternatives.

3.2. Usage palliatif
Parfois, l'action humaine fait défaut (pour répondre à des questions, débloquer des situations, permettre de compenser des handicaps). Nous le déplorons et nous souhaiterions que ce genre d'usage soit évité mais à défaut, là aussi, de pouvoir "tout faire", nous reconnaissons que certaines d'entre nous peuvent temporairement recourir aux IA pour pallier à certains manques (que nous espérons temporaires). Il est cependant important de noter que dans ce genre de cas, l'usage d'IA est individuel, à la marge et non destiné à produire pour Khaganat directement.

Nous considérons que chaque usage palliatif révèle un manque dans notre capacité collective à s'entraider. Ces situations doivent donc être vues comme des incitations à améliorer notre documentation, notre accompagnement et nos espaces d'échange, afin de rendre ce recours de moins en moins nécessaire.

Le reste de la "charte" me convient même si il y a probablement des ajustements à faire. Ici c'est plutôt la formulation du 3.2 qui me pose question je pense et j'ai mis (trop) longtemps à y répondre, je n'arrive toujours pas à me faire une idée claire.

C'est effectivement essentiel que l'usage reste "individuel" et "non destiné à produire pour Khaganat directement" de même qu'excessivement "à la marge" mais je préférerais y voir également un engagement des membres à exposer ces manques afin de chercher à y palier autrement et à défaut, indiquer l'usage fait pour y palier (sur le forum ce serait adapté je pense, un peu en mode journal de bord ?), ce qui serait important pour comprendre la pleine mesure du compromis réalisé et son importance et aussi pour conserver une confiance dans ce compromis.
Vu d'un autre angle : si c'est un palliatif, on doit faire autant que possible pour y palier et surtout le faire concrètement.

Je n'oublie pas que les services basés sur les LLM exploitent, comme bien d'autres services, notre sensibilité à nous laisser porter et les craintes de vv221 dans ce sens, que l'usage se fasse plus systématique, me semble fondées si on n'y met pas de garde-fou particulier.

Je reprends un peu depuis mon dernier message.

Pour la réponse de Deed : c'est peut-être dommage qu'il n'aie pas tout lu, mais, ben, je préfère que quelqu'un s'exprime sur sa vision même s'il n'a pas tout lu : on a besoin de savoir l'avis des divers membres. Et cette honnêteté me va. Il faut reconnaitre que ça demande pas mal de jus de cerveau, et qu'on le priorise différement. Je rappelle que Deed passe pas mal de temps chaque semaine à la maintenance des serveurs ; qu'après ça il ne soit pas motivé à lire les tartines philosophiques, ça se comprends. Pour autant, vu que c'est un contributeur très actif, son avis sur les LLM est important, parce qu'in fine son approche aura un impact sur son travail (comme pour moi, d'ailleurs).

Le consensus, lui, va demander soit de tout lire, soit de déléguer l'avis aux autres... Par contre c'est clair que quand on en sera à dire "on valide ça ou non comme charte", je n'ai pas envie que quelqu'un se pointe comme une fleur et questionne un truc déjà traité dans les discussions. Mais ça n'a jamais été le problème jusque là.

Citation de: Deed- vibe-coding-machin, c'est exclu.

J'ai l'impression que tout le monde tombe d'accord là-dessus. Au moins un point qui sera clair !

Citation de: Deed- chercher des bugs/sécurité/exploit, c'est obligatoire mais ça doit être réparér par un humain.

Obligatoire, je ne sais pas. Je pense que ça arrivera, qu'on le veuille ou non. Et je pense aussi que c'est difficile de dire "ok, on a un problème de sécurité, mais on va s'interdire de regarder sous prétexte que c'est une IA qui l'a trouvé". Et que ce sera aussi difficile de dire "la personne a proposé un patch avec une IA, et après relecture, il corrige le souci, mais on ne va pas le prendre."

Mais oui, il faudra une attention humaine, si possible non "polluée" par IA (à cause des biais que l'usage des LLM amène). Faut que je développe ces biais, vraiment, car c'est un point vraiment important pour refuser des contributions-LLM.

Citation de: Deed- pour les pnj et mob, serveur interne entraînement pour nous, très léger et peu gourmand en ressources.

On parle d'IA dans ces cas, mais ce ne sont pas des LLM, et le LLM n'apportera rien. Grosse conso de ressource pour un résultat sans grand intérêt. Je sais qu'on avait aussi eu une discussion à un moment à propos des discussions avec les PNJ, là dessus je serais ferme ; je préfère des PNJ "cons" qui n'ont que trois phrases, aux possibilités et dérappages des LLM. Parce que les dérappages en question sont hyper graves. D'autant que le but est de faire du lien entre humain, et le rp via LLM ne le favorise pas.

Citation de: pulkomandyJe comprend tout à fait que Haiku ne soit pas considéré suffisament mûr pour les besoins de Khaganat pour la partie client où il serait éventuellement utilisable, mais ça me chagrine un peu que ce soit balayé de façon assez expéditive comme un "pas d'alternative" sans avoir creusé la question plus que ça.

J'avoue que j'étais triste en lisant ça. J'espère bien qu'on aura un client Haiku un de ces jours. Bon, pour le moment, on n'a pas de client (quoi que, ça revient peu à peu), et comme les testeuses potentielles sont sous linux, ben on teste en premier sous linux.
Et oui, il y a des alternatives, mais comme tu le dis, c'est la question de où placer les limites. On a déjà fait des choix lourds, comme héberger au maximum nos propres outils. Je ne le regrette pas, mais du coup on a un Chatons Sauvage, plus qu'un MMORPG. Si on se lance à refaire tous les outils contaminés par LLM, on aura peut-être un OS, et toujours pas de MMORPG.

Et ce n'est évidement pas une façon de dire "ok, alors autant utiliser les LLM à fond puisqu'on les tolère dans les marges" (pour répondre à Vv221). Sinon je pourrais reprocher à certains de perpétuer le patriarcat parce qu'ils ne se sont pas coupé les couilles (ouais, je sais aussi être de mauvaise foi avec des arguments pourris). On fait des concessions, c'est un fait, parce qu'on ne peux pas tout faire et être de tous les combats, et que certains choix sont trop "coûteux" pour qu'on arrive à les assumer. Si on "peut s'en passer, même pour X", alors j'attends avec impatience l'application personnelle sur les questions patriarcales et capitalistes comme preuve. Mais à ma connaissance on négocie toutes et tous avec ceux-là, qui sont pourtant bien plus à la racine du problème  :P

Par contre, et c'est bien ce que j'espère qu'on arrivera à faire ici, on peut essayer de lutter, questionner, et limiter les comportements problématiques. Quel que soit le problème de base. Je ne prétends pas que ma proposition pour la charte est "bonne" (c'est un premier jet). Je constate cependant qu'Alcyone et moi sommes les seuls à avoir proposé un texte sur lequel travailler et j'attend évidement les reformulations (merci à YannK d'avoir d'ailleurs osé quelques retouches, si je ne me trompe pas).

Ici je rappelle la Charte (pas de l'IA, mais de Khaganat) :

Citation2. Nous sommes tous bénévoles
- Vous ne pouvez exiger d'une autre personne qu'elle réalise un travail pour vous.
- Comme dans tout projet libre, si vous voulez que quelque chose soit fait, c'est à vous de montrer l'exemple.

Or, c'est un point qui me gêne de plus en plus : qu'il y aie injonction à "faire" sans que les personnes qui posent l'injonction ne se mettent au travail. Mais comme je suis agacée, pour le moment je ne modère pas (m'appliquant la règle que j'ai moi-même édicté : on évite de sortir Courtoisie quand on est sous le coup d'une quelconque émotion).

Typiquement :

Citation de: vv221Je parle de toute la partie sysadmin, avec Zatalyz et Deed qui nous disent bien que c'est devenu "obligatoire". Et je ne vois aucune chance que ça reste limité à ces utilisations, en admettant que ce soit bien le seul cas où c'est utilisé.

Non. On ne dit pas que c'est obligatoire. On dit qu'on galère, qu'on manque d'aide, qu'on se retrouve à gérer une énorme machine alors que ni lui ni moi n'avons de formation de tech, et que les LLM nous ont sorti de quelques ornières là où le silence et l'inaction des humains nous y laissaient. Ça ne veux pas dire qu'on considère que les LLM comme une solution, ni qu'on y recourt automatiquement (certainement pas). Mais il va peut-être falloir prendre aussi tes responsabilités là-dessus, parce que tu as les compétences, les accès, pour que le sysadmin sur Khaganat n'aie pas besoin des LLM. Ça ne me gêne pas du tout de confier à quelqu'un d'autre le souci de l'authentification unifiée, par exemple, mais depuis a minima 2013 (https://khaganat.net/wikhan/fr:identification) (au passage ce lien n'est pas à jour, encore un problème non résolu, ni par les humains ni par les LLM), les divers "techs" qui se sont succédés sur le projet n'ont pas réussi à répondre à cette problématique.

Quand à dire que les gens ne savent pas se poser des limites, c'est un peu comme de dire que tous les hommes sont des violeurs. Ce n'est pas complètement faux, mais heureusement quand même que chacun réfléchit sur ses actes et ses limites, et que chaque rencontre impliquant un individu mâle n'implique pas un viol. Vu que le consentement est une notion qui a beaucoup évolué ces dernières années, il me semble raisonnable d'espérer qu'on puisse faire évoluer aussi nos rapports aux LLM. Je suis une grande optimiste sur la nature humaine.

Citation de: Aleajactaeston ne peut pas arrêter les avancées

Citation de: pulkomandyComme on peut l'être au fait de se déplacer en voiture par exemple, alors qu'on aurait très bien pu faire d'autres choix, mais pour ça il aurait fallu réagir il y a 50 ans, maintenant ça va prendre 50 ans de plus à déconstruire.

Citation de: AlcyoneLe progrès/les avancées c'est précisément ce que nous en tant que société sommes aptes à mesurer et devons déterminer comment un élément issue d'une recherche peut être conçu en applications utilisables, comment, avec quelles limites et se questionner si cela même a un sens.

Je rajoute mon grain de sel sur cette part du débat.

Je crois aussi (j'insiste sur le terme de croyance) qu'on ne peux pas "arrêter", dans le sens où quand quelque chose est là et commence à être adopté largement, le refuser "en bloc" est complexe, parfois voir souvent à notre désavantage quand ce dernier procure des "avantages". Et pour autant, c'est important justement de parfois faire le choix de la difficulté, pour influencer les trajectoires de la société, essayer de limiter la vitesse à laquelle on va se prendre certains murs.

Prétendre que les LLM n'existent pas, qu'ils vont disparaitre du jour au lendemain, c'est illusoire. Les utiliser sans se questionner, pour tout et n'importe quoi, c'est valider les problèmes qu'ils posent. Très clairement, on ne fait pas un choix "facile" en refusant de vibe-coder notre client, on aurait peut-être un jeu qui semblerait marcher dans quelques mois... Mais c'est aussi un choix réfléchi, parce qu'on sait que si on faisait ça, ça ne répondrait pas à nos aspirations profondes (qu'il s'agisse de faire du "beau" code ciselé à la main, de travailler dans une certaine éthique, de s'amuser à faire, de ne pas valider certaines entreprises, etc). Sur Khaganat, on n'a jamais pris les choix faciles ; sinon, on serait Star Citizen, et la communauté qui va avec.

Par ailleurs, j'aime beaucoup certaines propositions d'Aleajactaest.

Citation de: AleajactaestOn se doit aussi d'être transparent, quelle IA est utilisé, quelle version (et "identifiant unique"), lien sur le modèle, afin que l'on puisse contrôler, analyser, ... bref pas rester passif. Quel est le "prompt" utilisé, qu'elles sont tous les "prompt" systèmes utilisés.
On devrait définir le commit afin d'ajouter un indicateur pour signaler l'utilisation de l'IA: par exemple [AI used].

Ça, ce sont des propositions concrètes qui me parlent. S'il y a usage d'IA (comme dans mes usages "palliatifs", et j'espère un meilleur nom), ce serait effectivement intéressant de s'assurer que ce soit clair et documenté. Cela ajoute du travail à qui utilise l'IA, aide potentiellement à une prise de conscience ; cela peut aussi permettre à la communauté de discuter des usages en question, d'essayer de trouver comment s'en passer.

Idem pour ceci :

Citation de: AleajactaestDans le cadre de la recherche d'incident (issue), on devra ajouter des étapes obligatoires.
1- analyse du problème détecté
2- proposition d'une solution temporaire pour bloquer le problème (workaround) et si possible proposition d'un patch.
3- Vérification que l'incident n'est pas déjà déclaré (recherche doit être réalisé moins d'un jour avant la création de l'incident).

C'est une proposition concrète qui permet de filtrer du "flood IA" de basse qualité. On est typiquement sur un usage qui arrivera, car tous les projets y font face actuellement. Ajouter ces étapes obligatoire (et il peut y en avoir d'autres, à nous de les trouver) est une façon de réduire le "bruit" qui risque d'être généré. D'un autre côté, j'aimerais que ce ne soit pas une invitation à utiliser l'IA sur le code.

Je serais aussi pour mettre une limite du type "pas plus d'une issue par semaine et par humain, qui aie été détecté par IA", ce qui évitera qu'un agent floode et nous oblige à faire la curation (qu'est-ce qui est urgent, qu'est-ce qui est du bug sans grand impact ?), et qu'on aie quelques centaines d'issues ouvertes et de merge request à examiner d'un coup. On verra quand on en sera là...
Mais il me semble important de rester à une échelle humaine et de gérer un problème à la fois.

Citation de: AleajacaestBref, ici, je considère que l'IA peut être entraîné pour exécuter du code malveillant, il faut pouvoir cloisonner celle-ci (et se protéger).

De mon côté, je ne souhaite vraiment pas autoriser des agents à accéder à notre forge et j'espère vraiment que les devs s'en passeront autant que possible. On ne cherche pas la productivité, mais le plaisir de "faire", et il ne devrait pas y avoir de raison de confier les tâches à une IA. Si ce qu'on aime est l'orchestration plus que le code, il y a de quoi faire pour structurer le travail (tellement à faire, d'ailleurs !), et laisser à d'autres le soin de coder. Ce qui arrivera, ou pas, on est d'accord. Mais je préfère largement voir sur le wikhan, le forum, la forge, les propositions et discussions sur "comment on structure les données, le travail, quels choix techniques" etc, plutôt que cela passe dans la moulinette des prompts et que les IA "décident" d'utiliser telle ou telle techno, fonction, etc. Je sais que je réagis peu là dessus, ça manque de gens compétents capables de faire le ping pong, mais j'apprends en lisant :)

Citation de: AleajacaestDernier point, sur la partie code, nous devons faire une attention sur les modules/libraires externe utilisé (on doit être pertinent sur l'utilisation de lib externe et s'assurer qu'elle n'ont pas de faille de sécurité, maintenabilité, ...)

Ça a toujours été un point critique. Plus on a de dépendances, plus on dépend (justement) du sérieux des équipes qui les maintiennent. D'un autre côté, tout recoder nous-même est parfois franchement contre-productif, d'autant qu'il faut aussi maintenir derrière. Cela demande surtout de documenter au maximum les dépendances, et de les limiter chaque fois qu'elles ne sont pas si utiles que ça. Je sais que sur les sites web, il y a souvent l'erreur "j'importe tel outil pour mon site" et au final il y aura l'appel à une ou deux fonctions seulement, qui auraient pu simplement être ajoutés en "hook" dans le php/html/css/javascript.

Citation de: pulkomandyUn des trucs qui me fait plaisir c'est de recevoir de temps en temps sur mon site web des messages de gens que j'ai pu dépanner grâce à un de mes articles (par exemple sur un composant électronique relativement obscur). Si ils ont obtenu leur réponse à travers un LLM? Fini, on peut oublier ce genre d'interaction.

Je ne pense pas que ce genre d'interaction disparaitra. C'est une question d'humain plus que d'outil. Certains se contentent de l'info et passent à autre chose, d'autres cherchent aussi une connexion, des échanges, et continueront de le faire, les LLM ne nourrissant pas ce besoin.

Du moins, je l'espère !

De mon côté, je savoure de plus en plus le "small web" et je me retrouve à reparcourir les annuaires (comme Curlie (https://curlie.org/)) pour retrouver des savoirs "humains", en dehors des circuits lissés, marchandisés, générés. On est par contre vraiment à un moment charnière où le web humain doit trouver comment exister et se connecter au milieu du flood automatisé. Mais je dévie du sujet principal ;)

Citation de: pulkomandyAvez-vous entendu parler du mouvement pour l'extinction volontaire de l'humanité?

J'adhère totalement depuis que tu me l'as fait découvrir (ça remonte un peu) ^^
Pour ceux qui trouvent que la formulation pique un peu : prenez le temps de lire, le postionnement est réellement intéressant. Et non, je ne maudit pas mes amis qui ont des enfants. Ils sont cutes, vos bébés. Mais je me sens mieux à ne pas ajouter les miens au bordel ambiant.

Citation de: AlcyoneIci c'est plutôt la formulation du 3.2 qui me pose question je pense et j'ai mis (trop) longtemps à y répondre, je n'arrive toujours pas à me faire une idée claire.

Elle ne me convient pas vraiment non plus. Yannk (je crois) a amélioré un peu sur le pad. Je n'ai pas trouvé comment formuler ça mieux.

Citation de: Alcyoneje préférerais y voir également un engagement des membres à exposer ces manques afin de chercher à y palier autrement et à défaut, indiquer l'usage fait pour y pallier (sur le forum ce serait adapté je pense, un peu en mode journal de bord ?)

En tout cas ça pourrait être un premier pas. Comme sur les propositions concrètes d'Aleajactaest, il me semble que l'idée serait de documenter les usages de ce genre, quel que soit le domaine, afin d'arriver à comprendre pourquoi il a fallu recourir aux LLM et si une alternative peut être mise en place. Ce serait aussi peut-être une solution pour briser l'isolement de certaines contributrices. Si je vous dit que j'utilise un LLM ces temps pour avancer sur ce foutu transfert de serveur mail, non pas tant pour les aspects techniques, mais pour juste me sentir moins seule face à la montagne, est-ce que vous allez me faire des pamjais sur krypte et me dire que la personnalisation du footer de postfixadmin est sans intérêt ? Parce que je trouverais ça tellement plus satisfaisant. Mais le LLM, sur ce chantier obligatoire que je ne peux ni repousser ni déléguer, est pour le moment le seul truc qui évite que je sois complètement roulée en boule dans un coin. Et pour le moment, c'est ma confiance dans les humains qui est au plus bas, parce que je suis sûre que ma détresse résonnera dans le vide sur Krypte, vu comme elle résonne habituellement...

CitationPour la réponse de Deed : c'est peut-être dommage qu'il n'aie pas tout lu, mais, ben, je préfère que quelqu'un s'exprime sur sa vision même s'il n'a pas tout lu : on a besoin de savoir l'avis des divers membres. Et cette honnêteté me va. Il faut reconnaitre que ça demande pas mal de jus de cerveau, et qu'on le priorise différement. Je rappelle que Deed passe pas mal de temps chaque semaine à la maintenance des serveurs ; qu'après ça il ne soit pas motivé à lire les tartines philosophiques, ça se comprends. Pour autant, vu que c'est un contributeur très actif, son avis sur les LLM est important, parce qu'in fine son approche aura un impact sur son travail (comme pour moi, d'ailleurs).

Le consensus, lui, va demander soit de tout lire, soit de déléguer l'avis aux autres... Par contre c'est clair que quand on en sera à dire "on valide ça ou non comme charte", je n'ai pas envie que quelqu'un se pointe comme une fleur et questionne un truc déjà traité dans les discussions. Mais ça n'a jamais été le problème jusque là.

In fine, c'est aussi ce que je souhaite éviter par ma réaction et l'absence d'échange me pose problème dans ce sens mais comme tu dis, à défaut d'échange, tu délègues à ceux qui le font et si c'est fait consciemment, ça ne me pose pas de problème. Je suis d'accord aussi sur le fait que je préfère avoir un point de vue que pas du tout, toujours dans ce cadre.

C'est bien entendu totalement orthogonal au travail fourni sur d'autres partis du projet bien entendu que je reconnais personnellement et le manifeste au moins de temps à autre dans l'un ou l'autre canal à défaut d'être versé dans le sujet pour y contribuer.

La façon de faire/formulation me rebute surtout mais je ne pense pas que ce soit intentionnel pour autant.

CitationÇa, ce sont des propositions concrètes qui me parlent. S'il y a usage d'IA (comme dans mes usages "palliatifs", et j'espère un meilleur nom), ce serait effectivement intéressant de s'assurer que ce soit clair et documenté. Cela ajoute du travail à qui utilise l'IA, aide potentiellement à une prise de conscience ; cela peut aussi permettre à la communauté de discuter des usages en question, d'essayer de trouver comment s'en passer.

CitationC'est une proposition concrète qui permet de filtrer du "flood IA" de basse qualité. On est typiquement sur un usage qui arrivera, car tous les projets y font face actuellement. Ajouter ces étapes obligatoire (et il peut y en avoir d'autres, à nous de les trouver) est une façon de réduire le "bruit" qui risque d'être généré. D'un autre côté, j'aimerais que ce ne soit pas une invitation à utiliser l'IA sur le code.

Comme je le disais plus haut pour le point 3.2, si l'on fixe que l'usage paliatif est "non destiné à produire pour Khaganat directement" alors ces points précis sous cette forme (commit de notre part) ne devraient pas être mis en place. Si l'on respecte ce point, on rejette le flood IA par défaut, la charte permettant de nous dispenser son analyse si l'on le souhaite (rien n'empêche de discuter pour implémenter une bonne idée autrement bien sûr).

Dans le cas contraire, les chartes accueillant l'IA indiquées dans mon 1er poste détaillent globalement toutes bien ce qu'il y a comme informations à recueillir (modèle, version, soft intermédiaire, historique des prompts, etc. j'avoue les lire tellement souvent (je dois en être à plus d'une centaine je pense...) que j'oublie que certaines n'en ont probablement jamais lu). Et quoiqu'on écrive dans la charte le cas échéant, si on peut mettre de l'IA, tu auras de toute façon du flood derrière si tant est que le projet est un minipeu connu (ce n'est pas notre cas pour le moment). Fixer une limite revient aussi à l'autoriser (on peut même l'automatiser d'ailleurs). Un non définitif n'étant de toute façon pas très bien compris quand ce n'est pas l'éthique qui en arrête l'usage de toute manière.

Si on le prend dans le cadre du point 3.2, alors dans ce cas je pense qu'on se retrouve là-dessus tel que tu le détailles à la fin de ton message :-)

Je m'aperçois que j'avais complètement oublié de te répondre Pulkomandy ! Mes excuses !

Citation de: PulkomandyJe mentionne pour ceux qui ne savent pas, que je contribue beaucoup à Haiku, qui pourrait se positionner comme un concurrent de Linux entre autres choses, et n'a pas recours aux LLM. Je comprend tout à fait que Haiku ne soit pas considéré suffisamment mûr pour les besoins de Khaganat pour la partie client où il serait éventuellement utilisable, mais ça me chagrine un peu que ce soit balayé de façon assez expéditive comme un "pas d'alternative" sans avoir creusé la question plus que ça. Mais là je fais du lobbying pour mes propres intérêts et je comprend tout à fait que ça n'emballe pas tout le monde de se lancer là dedans.

Pour moi, Haiku n'a jamais été sorti des systèmes cibles pour les différentes productions de Khaganat (pour ma part je vois les lores et productions tirées de ces lores par le projets, pas uniquement le MMO basé sur Khanat) et j'ose espérer qu'un maximum de choses pourront y être disponibles. Car on utilise des formats standard, c'est le cas des textes, de la musique ou des productions graphiques (encore que je ne sais pas l'état de la 3D sur Haiku ?).

Là où je pense à une limite au quotidien (qui vaut pour la plupart des concurrents du noyau Linux), c'est la disponibilité des drivers sur nos machines de travail au quotidien. Ça c'est pour toutes ici et honnêtement j'aimerais vraiment que le travail du noyau Linux soit réutilisable afin de faciliter ce point mais j'ai conscience que la quasi-totalité des autres noyaux ont une licence ne le permettant pas directement non plus.

Un autre point, essentiellement spécifique à moi, c'est que je fais aussi de la musique sur l'ordinateur (on dit M.A.O) et là, corrige moi si je ne suis pas à jour (je lis toutes les dépêches linuxfr avec intérêt!) mais il me semble que la partie audio sur Haiku n'est pas encore prête pour cette usage d'une part (priorité au temps réel, compatibilité avec l'existant sur Linux (alsa/jack), ...), d'autre part et de ce fait, il y a peu de portages disponibles de l'existant en logiciel M.A.O.
C'est un point sur lequel je souhaiterais bien que ça évolue mais sur lequel je ne suis pas du tout compétent (je travaille à être compétent sur la maintenance et le portage de certains logiciels/plugins mais c'est ma limite). Je peux apporter mon expérience et mes tests mais je ne peux rien faire de plus pour améliorer tout ça.

Je n'ai ni l'énergie ni le temps de faire un long pavé, alors je vais aller à ce qui me paraît essentiel.
La deuxième proposition sur le pad (https://carnets.numenaute.org/p/chartenonusageia) me convient globalement. Sachant qu'elle pourrait encore bouger marginalement, ou dans les formulations, et que je n'ai pas non plus la motivation de recopier sa version à date (04/06/2026). Mais c'est l'idée.

Je me retrouve complètement dans la partie "pas envie d'utiliser de l'IA alors qu'on est dans le projet pour apprendre et échanger entre humains".
Je me retrouve globalement dans la partie "et puis c'est pas ce qu'on a envie de promouvoir comme monde" (le "globalement", c'est sur des questions de formulation plus que sur le fond).
Et comme l'ont dit certaines (j'ai pas les noms en tête), il y a un principe de réalité et nous n'avons pas les moyens (et je ne crois pas que ce soit l'ambition de Khaganat) de changer frontalement le monde (le faire changer subtilement, par petites touches, par contre...) : donc ça me paraît contre-productif de diaboliser, ostraciser, ou mépriser celles qui, pour tout un tas de raisons, n'iront pas lutter contre le courant. Le plus important me paraît être d'avoir conscience des cas où nous nous écarterons de l'objectif zéro IA, de pourquoi nous le faisons, et de quels efforts nous sommes prêtes (ou pas) à faire pour nous en rapprocher à nouveau.

Bon je vais essayer de faire court (euh... c'est raté...). Je ne participe pas beaucoup à Khaganat par ailleurs, donc ça m'embête un peu de prendre plus que ma part dans cette discussion. La décision à la fin reviendra aux gens qui font vraiment des trucs, et pas à moi qui ne suit que visiteur, en gros. Du coup, je suis OK si tout le monde n'a pas envie de prendre le temps de me lire.


Je précise un peu les choses sur les chapitres 3.1 et 3.2. J'ai pris l'exemple de Haiku pour le 3.1 parce que ça me concerne un peu personellement. Mais c'était juste un exemple et effectivement Haiku n'est probablement pas prêt pour Khaganat (pas d'accélération 3D, drivers son pas tout à fait au point, et plein d'autres problèmes qui finissent par transformer n'importe qui qui essaie d'utiliser Haiku en développeur de système d'exploitation).

Le point était juste que Haiku (ou les systèmes BSD, ou d'autres) n'ont même pas été envisagés sérieusement, même si c'est pour les rejeter.

Vu tous les problèmes (principalement écologiques pour moi, mais chacune peut prendre les problèmes qui l'embêtent le plus) avec les LLM, je pense que ces deux règles devraient avoir une contrainte de justification. C'est à dire, chaque fois qu'il y a utilisation d'un projet qui utilise des LLM, il faudrait une page de wiki expliquant pourquoi les alternatives ne sont pas adaptées (pour le 3.1) ou ont échoué (pour le 3.2). Ça force au moins à vraiment se poser la question.

Bon, c'est du travail en plus. Mais ça permettrait au moins de savoir où on en est, et pour les gens qui tiennent absolument à rendre possible un monde sans LLM, de savoir à quels projets s'attaquer en priorité pour construire des alternatives acceptables.


Deuxième point, je vois deux choses un peu différentes: l'utilisation de LLM par les contributeurs du projet, et par des contributeurs externes (par exemple quelqu'un qui sortirait de nulle part avec une liste de failles de sécurité). Dans ce deuxième cas, il y a effectivement un risque de "flood" et d'être submergé par des propositions de mauvaise qualité.
Ça demande de mettre en place de quoi pouvoir dire non à ces contributions, même si c'est appliqué sélectivement (de ce point de vue là, ça n'empêcherait pas d'accepter les contributions de qualités mais faites avec l'aide d'un LLM).

Il y a en fait deux questions là dedans: mettre en place des protections pour ne pas se faire submerger, c'est la moindre des choses. Mais il y a l'autre question qui est de savoir si on veut rejeter en bloc les LLM, par principe, et même si les contributions sont de bonne qualité (pour des raisons écologiques, sociétales, et tout ce qui concerne surtout l'impact des LLMs en dehors du contenu qu'ils génèrent, plutôt que pour le contenu généré en lui-même). Là c'est un vrai choix qui est beaucoup plus sujet à débat. Surtout que on sait très bien que une telle interdiction serait essentiellement symbolique (c'est pas Khaganat qui va utiliser des milliards de tokens d'IA et justifier à lui tout seul la construction de nouveaux datacenters).

CitationCe serait aussi peut-être une solution pour briser l'isolement de certaines contributrices. Si je vous dit que j'utilise un LLM ces temps pour avancer sur ce foutu transfert de serveur mail, non pas tant pour les aspects techniques, mais pour juste me sentir moins seule face à la montagne, est-ce que vous allez me faire des pamjais sur krypte et me dire que la personnalisation du footer de postfixadmin est sans intérêt ? Parce que je trouverais ça tellement plus satisfaisant.

Dans ce cas je crois qu'on peut dire que l'utilisation de LLM n'est pas le problème, et qu'il y a un échec collectif qui remonte bien avant pour en arriver là.

Je connecte ça à autre chose d'un peu similaire: il y a des gens qui passent un temps conséquent sur les réseaux sociaux addictifs (TikTok, Instagram, Youtube, ou devant la télé). Cela empêche l'ennui, qui n'est pas un truc agréable, mais qui normalement pousse les gens à se bouger et à faire quelque chose de leur temps. Sans l'ennui, on resterait tous dans notre lit toute la journée à regarder le plafond.

Donc, l'utilisation de LLM contourne la solitude un peu comme les réseaux sociaux contournent l'ennui. Mais ça règle pas le problème et ça peut empirer les choses. Ça rejoint ce que je disais plus tôt sur mes craintes que les LLMs mettent un peu fin aux interactions entre les gens. Plus besoin pour un introverti comme moi d'aller parler aux gens si je peux avoir une réponse d'un LLM. Donc oui, individuellement, ça permet de fonctionner, mais clairement ça ne règle pas le problème... Cela dit, c'est vrai aussi que dans cette réflexion j'envisage aussi d'autres usages des LLMs qui n'ont rien à voir avec Khaganat (par exemple, Google qui prévoit de ne plus mettre de liens vers des sites web dans ses résultats de recherche).


Je lance aussi un autre sujet maintenant que je suis là. Sur le forum de Haiku nous avons fait le choix d'autoriser les gens faisant du "vibe coding" à parler de ce qu'ils font. Je recommande pas: ça donne des sujets de forum avec des avancées très rapides pour le développement d'applications, souvent pour des trucs qui existent déjà par ailleurs, et qui vont très probablement finir par être abandonnés. Faire les choses à la main, c'est plus long et plus difficile, mais ça encourage à suivre les projets sur la durée. Parfois ça me donne l'impression qu'on compare mon petit potager avec quelques légumes et un grand étal de supermarché avec énormément de choix de légumes sans goût et plein de pesticides. Et, forcément, d'un certain point de vue, je peux pas lutter. Dans ces conditions il faut vraiment être prêt à assumer la décroissance...

Bon c'était pas assez long, j'en rajoute...

Je relis le pad.

Les trucs qui m'embêtent sont dans la première partie 'Charte "(non)-usage de l'IA"' dont je ne sais pas ce qu'elle va devenir (à jeter? article de blog explicatif pour la charte?). Dans la deuxième version "Rapport aux LLM et à l'IA au sein de Khaganat" je pense que ces remarques sont déjà prises en compte.

CitationLes LLM favorisent la productivité

D'une part, la productivité ce n'est pas forcément un but. D'autre part, l'augmentation de la productivité effective par les LLMs, ça reste à prouver. Dans le développement de code, il semble pour l'instant que ça permet d'écrire et de modifier beaucoup plus de lignes de code beaucoup plus vite, mais finalement pas de créer plus rapidement des nouvelles fonctionnalités. Ce qu'on gagne en temps de développement initial, on le perd en relecture de code ou en debogage des problèmes qui surviennent par la suite.

CitationMalheureusement, pour beaucoup ces alternatives n'existent pas vraiment (noyau Linux, Blender, etc.), il nous faudra donc exprimer pourquoi nous déplorons leur positionnement éthique.

Je suis OK sur le principe mais très embêté par l'affirmation non etayée qu'il n'y a pas d'alternative à Linux et à Blender. Je dirais qu'on peut simplement enlever cette parenthèse de la phrase, et qu'il faudra faire un document séparé pour l'analyse des alternatives existantes et de pourquoi elles ne sont pas satisfaisantes.

Citation

CitationLes LLM favorisent la productivité

D'une part, la productivité ce n'est pas forcément un but. D'autre part, l'augmentation de la productivité effective par les LLMs, ça reste à prouver. Dans le développement de code, il semble pour l'instant que ça permet d'écrire et de modifier beaucoup plus de lignes de code beaucoup plus vite, mais finalement pas de créer plus rapidement des nouvelles fonctionnalités. Ce qu'on gagne en temps de développement initial, on le perd en relecture de code ou en debogage des problèmes qui surviennent par la suite.

Oui, c'est tout à fait mal dit, je voulais justement dire qu'ils favorisent le fait de produire : on peut produire très vite une masse de code, factuellement et aussi un état d'esprit dédié à la productivité comme fin en soi, c'est aussi pour cela qu'on les impose et c'est aussi un argument pour beaucoup (que l'on retrouve dans la notion d'être "dépassé"). Ce qui est orthogonal à l'efficience. Avec tous les problèmes pointés après ainsi que dans ton commentaire.

Une reformulation type "Les LLM favorisent la productivité comme fin en soi" est plus claire mais ne me satisfait pas trop trop... N'hésite pas à reformuler dans le pad  ;)

CitationJe suis OK sur le principe mais très embêté par l'affirmation non étayée qu'il n'y a pas d'alternative à Linux et à Blender. Je dirais qu'on peut simplement enlever cette parenthèse de la phrase, et qu'il faudra faire un document séparé pour l'analyse des alternatives existantes et de pourquoi elles ne sont pas satisfaisantes.

J'ai étayé au-dessus mais tu as raison, il faudrait le clarifier ainsi, j'ai viré les parenthèses.

Citationje pense que ces deux règles devraient avoir une contrainte de justification. C'est à dire, chaque fois qu'il y a utilisation d'un projet qui utilise des LLM, il faudrait une page de wiki expliquant pourquoi les alternatives ne sont pas adaptées (pour le 3.1) ou ont échoué (pour le 3.2). Ça force au moins à vraiment se poser la question.

Et du reste je suis entièrement de cet avis, aucun élément ne va de soi et cela demande à chaque fois d'expliquer pourquoi, c'est comme ça que je le voyais pour ma part mais je l'ai mal exprimé. Ce que je voulais dire par :

CitationDéjà, faire le point, lister nos dépendances et nos outils actuels, déterminer leur position vis-à-vis de l'usage d'LLM. Trouver des alternatives si elles existent, les créer si nous en trouvons l'énergie. Malheureusement, pour beaucoup ces alternatives n'existent pas vraiment, il nous faudra donc exprimer pourquoi nous déplorons leur positionnement éthique.

_____

CitationBon je vais essayer de faire court (euh... c'est raté...). Je ne participe pas beaucoup à Khaganat par ailleurs, donc ça m'embête un peu de prendre plus que ma part dans cette discussion. La décision à la fin reviendra aux gens qui font vraiment des trucs, et pas à moi qui ne suit que visiteur, en gros. Du coup, je suis OK si tout le monde n'a pas envie de prendre le temps de me lire.

Moi je suis heureux que tu prennes part à la discussion et c'est une contribution en soi  :))

____

Merci Lyne pour ton apport  :))

Citationdonc ça me paraît contre-productif de diaboliser, ostraciser, ou mépriser celles qui, pour tout un tas de raisons, n'iront pas lutter contre le courant. Le plus important me paraît être d'avoir conscience des cas où nous nous écarterons de l'objectif zéro IA, de pourquoi nous le faisons, et de quels efforts nous sommes prêtes (ou pas) à faire pour nous en rapprocher à nouveau.

Je suis d'accord, c'est ce que l'on retrouve dans la proposition de Zat' sur "Quelles que soient leurs motivations, nous souhaitons éviter toute dérive moralisatrice envers les usagères de ces outils dans de tels cas.".

Je tiens à préciser que c'est un compromis qui me convient pour ma part tant que l'on reste dans le cadre "non destiné à produire pour Khaganat directement.".

Alors sur un point précis , ça produit de la basse qualité pour l'instant, ceux qui ont validé du code par LLM , ça passe pour un petite fonction de quelques lignes . Mais plus long, dans la plus part des cas, c'est buggé de folies ou/et très très lent ... Les mainteneurs passent leur temps à debbuger les contribution par LLM .
Ou alors je ne lis que ce qui se plaignent   :p

Concernant la productivité, le coût des IA etc, j'ai eu une discussion assez intéressante avec Daeldir récement (notre premier sysadmin sur le projet, qui est un sacré huluberlu côté rapport à l'informatique et au monde, pour celles qui ne le connaissent pas).
Sa théorie (je résume comme je peux) est que le vibe coding est en réalité vraiment un truc de process industriel, absolument adaptée à cet univers. C'est à dire que l'industrie, depuis longtemps, se justifie en produisant, beaucoup, trop, tout le temps, même au niveau du code, ajoutant toujours plus de surcouches pour auto-justifier la-dite production (le célèbre code spaghetti). Jusqu'à il y a peu, on confiait le job à des devs incompétents ou désabusés (les quelques passionnés embauchés là-dedans essayant de survivre comme ils peuvent), qu'on remplace par des LLM qui font aussi "mal". Et... ben ça va très très bien dans les process industriels, ça répond à leur logique. Le KISS ? trop efficace, donc pas rentable. Il faut justifier la "valeur" par de la "masse", peu importe pour "quoi". Evidement c'est Daeldir, ça allait plus loin, je résume à très gros traits.
Voilà, ça n'apporte rien à la discussion directement, mais j'ai trouvé cette discussion assez parlante pour comprendre à la fois cette question de "productivité", et pourquoi il y a peu de chance que les LLM disparaissent du jour au lendemain si cette logique est en tant soit peu fondée. Ouais, clairement, on ne veux pas être productif  ^^

https://ladybird.org/posts/changing-how-we-develop-ladybird/

Voilà, ça peut-être ça qui va arriver partout si ça continu ...

Petite précision pour contextualiser : Ladybird est le navigateur custom de SerenityOS qui a récupéré suffisamment de dons pour avoir du dev à plein temps et prendre son indépendance, le projet ayant beaucoup de succès.

Ils sont passé plein pot développement par IA il y a quelques temps (avec du Rewrite It In Rust par IA et tout), du coup c'est un des projets ayant grande presse sur le sujet.

La nouvelle, c'est que dans leur travail pour la sortie d'une Alpha, ils ferment totalement les contributions extérieures en tournant un peu autour du sujet de la perte de confiance dans la masse de code généré par IA (pas par eux, par les contributeurs externes).

CitationAI tools have changed the economics of this very quickly. We use them ourselves every day, but a pull request no longer tells us as much as it used to about the person submitting it. A substantial patch used to imply substantial effort, and that effort was a reasonable proxy for good faith. That assumption no longer holds.

Je me permets de citer le brouillon de la 1ère charte/futur article de blog qui match bien à mon sens sur ce point :

Citation[...] sans compter qu'ouvrir la porte à des contributions plus ou moins produites par des LLM c'est s'exposer à une grande quantité de contributions qui vont demander une masse conséquente de travail pour mettre les rendre acceptables et même déterminer qu'elles puissent l'être avec un risque conséquent de souci à long terme.

Et puis, pendant ce temps, on ne rêve, on ne partage et on a pas non plus aidés ces contributrices à apprendre quoique ce soit, à s'intégrer au projet. Pour se soutenir les unes les autres, il faut être en mesure de transmettre son savoir-faire, de le faire évoluer pour soi et les autres.

Les LLM favorisent la productivité mais n'augmentent pas le nombre d'humains sur le projet. On automatise la revue avec des LLM ? Outre la fiabilité bien peu acceptable, que reste-t-il du rapport humain ? De la transmission ? Du faire ensemble ?

________

Et du coup :

Citation de: DeedVoilà, ça peut-être ça qui va arriver partout si ça continu ...

Je ne pense pas, c'est ce qui peut arriver pour les projets convaincus et versés dans les LLM éventuellement.

Pour d'autres, si c'est précisément la perte de confiance due au temps et l'investissement qu'il fallait pour coder un patch, refuser les contributions par LLM est une possibilité et c'est de fait déjà le cas pour un certain nombre de projets.

Un truc qui est sûr en revanche, c'est que les programmes de bug bounty (comprendre obtenir du fric si on trouve une faille de sécurité) eux ferment car ils sont devenus ingérables.