Khaganat et son rapport aux LLM

Les IA générative / LLM sont l'un des grands sujets du monde (et du monde du Libre).

Khaganat s'y est frotté vers ses débuts il y a 2-3 par les expérimentations de certaines de ses membres.

Le sujet n'a pas fait l'unanimité et comme Lyne le concluait dans l'article de blog de l'AG correspondante :

Cela a suscité les seuls échanges en séance, qui ont rapidement conclu que nous sommes toutes d'accord pour dire que l'IA peut être une source d'inspiration interne, éventuellement pour avoir des visions différentes, tant que nous n'avons pas de ressources capables de modéliser ou créer des graphismes, mais pas au-delà. Les seules images diffusées sont des images que nous créons nous-mêmes avec nos outils validés.

Au passage, une remarque sur les images utilisées pour illustrer les blogs4) : dans les banques d'images, on trouve de plus en plus d'images générées par IA, donc il faudra être particulièrement attentives à ce que nous utiliserons.

On s'était dit (quelques années) plus tard à l'occasion de discussions informelles que ce serait bien de réaborder le sujet et ce avant la prochaine AG afin d'avoir un positionnement plus officiellement annoncé et exposé.

Le sujet a initialement été relancé sur le chat, je remets ici les logs pour le continuer plus posément :

Locynaeh :

Du coup je lance le sujet : quel est le positionnement de Khaganat sur l'usage des IA/LLM ?

Et de façon connexe : quelle relation aux outils "AI-tainted" que nous utilisons ?
Sachant pour le contexte qu'il est facile de lister les projets s'y opposant en défendant leurs valeurs, l'inverse est quasi impossible tant l'usage est massif (sans parler de la quantité de projets vibe-codés qui sort quotidiennement).

Quelques références :
 - https://github.com/Vxrpenter/AIMania/blob/main/WHY.md#why (arguments contres et références)
 - https://codeberg.org/small-hack/open-slopware#why-not-llms (arguments contres et références)
 - https://noai.starlightnet.work/list.html (liste maintenue des projets ayant officiellement une politique interdisant les LLM)
 - https://github.com/melissawm/open-source-ai-contribution-policies (liste de politique IA de projets FLOSS, qu'elles soient pour ou contre)
 - https://gitlab.com/inkscape/inkscape-board/-/work_items/5#note_3140424828 (politique en cours de discussion chez Inkscape que je trouve bien adaptée selon mon point de vue).

Pour le 1er point, je pense que l'on connait déjà mon positionnement ici, je peux détailler bien entendu (le draft d'Inkscape reprend bien ce que j'en pense cependant).

Pour la question connexe. Je pense que pour les outils au-delà des briques inévitables (style noyau Linux ou langage comme Python) fonction de nos moyens, ça vaut la peine de mettre un mot, indiquant notre non support (le cas échéant) et l'absence d'alternative satisfaisante s'y opposant clairement à ce jour : Godot, Blender, etc...

Yannk :

J'aime beaucoup aussi la position de Inkscape. De mon côté j'y ajoute le fait que le but de Khaganat c'est de prendre plaisir à faire ensemble, et que le but n'est pas tant d'arriver à un livrable (heureusement parce que bon, au bout de... 12 ans ?, on n'a pas "livré" grand chose en terme de jeu), que de se soutenir pour apprendre les unes des autres et faire ce qui nous plaît.

On a pu expérimenter un temps avec les LLMs par le passé, il ne faut pas le cacher, mais l'association avazit déjà convenu que ce n'était pas envisageable d'en faire un usage autre que ponctuel et transitionnel. Il me semble qu'on peut aller au-delà, en partant d'un des arguments de Inkscape : pour se soutenir les unes les autres, il faut être en mesure de transmettre son savoir-faire, de le faire évoluer pour soi et les autres.

Et si, par exemple, j ne faisais de la 3D et des textures qqu'avec des prompts d'IAG, je ne serais pas en mesure d'expliquer les raisons de certains choix techniques, d'apprendre à d'autres comme s'y prendre, comment débuter la modélisation ou le rigging.

Locynaeh :

C'est clairement des arguments que je partage :-) la partie apprentissage, apprendre à faire, transmettre, me touche beaucoup

Yannk :

J'anime des ateliers d'écriture en milieu universitaire (élèves ingénieurs) et chaque fois on installe un débat sur l'autorisation ou non de l'IAG, pour que les étudiantes et étudiants trouvent un consensus d'usage. Et très clairement, il en est ressorti à chaque fois que comme iels ne sont pas en situation de production calibrée (iels auront l'UV en étant simplement là toute la semaine, quelle que soit la qualité produite), iels trouveraient dommage de ne pas profiter de l'opportunité d'apprendre un nouveau savoir-faire.

Il me semble qu'on est dans une situation similaire avec le projet que porte Khaganat

vv221 :

Merci pour avoir lancé le sujet Alcyone. Je suis assez curieux de voir si je vais être le seul à soutenir une opposition totale sur des bases uniquement politiques.

Locynaeh :

"Uniquement" c'est possible, j'y suis opposé politiquement mais pas que

vv221 :

Oh, ce n'est pas que je ne m'y oppose pas pour d'autres raisons (double négation \o/), mais je les considère toutes comme négligeables comparées à l'axe politique

Locynaeh :

Oui, je suis assez d'accord même si je mettrais un angle éthique qui revient un peu au même, sans même évoquer les autres raisons, elles se suffisent à elles-mêmes.
Je suis assez effaré de voir à quel point ont les écartes facilement. Je le comprends aussi car c'est un peu le mode de vie de notre société de dégager l'éthique autant que possible pour le bien-être et la prospérité du capitalisme. On le subit au quotidien, c'est aussi plus simple d'y céder.

vv221:

Ouais, mais si on cherchait la simplicité avant tout, on jouerait à World of Warcraft sur Windows et ce salon n'existerait pas ;P

PulkoMandy:

* PulkoMandy ronchonne un peu en voyant Linux classé dans les "briques inévitables"

Locynaeh:

Sur la quantité de drivers supportés 😜 sinon je serais déjà sur *insère le nom d'un noyau opposé aux LLM*
vv221: certes mais il y a différents niveau de compromis selon la charge mentale, les moyens, tout ça^^'

vv221:

Pour l'instant je ne connais pas d'aternative à Linux qui puisse faire tourner ma collection de jeux. Sinon j'aurais aussi déjà migré.
(même Windows ne pourrait pas tous les faire tourner, c'est dire à quel point je suis limité dans mes options...)

PulkoMandy:

C'est vrai que depuis que j'essaie d'écrire des drivers, j'ai plus le temps de jouer...

vv221:

PulkoMandy, pour Haiku vous devez écrire les drivers from scratch, sans assistance particulière de la part des fabricants ?

PulkoMandy:

Oui en général. On récupère du code de freebsd et de openbsd aussi (pour les drivers réseau par exemple)

K'Deed:

après j'ai lu que les modif par IA sont refusés presque partout. Il laisse le droit juste une légère aide . Apparement, le code par 100% IA , c'est un bug corrigé, 5 bug en plus....

Locynaeh:

K'Deed, dans quel contexte ?

K'Deed:

comme assistant
j'ai vu ça sur godot et le kernel

Locynaeh:

Hum, ni l'un ni l'autre n'a une politique disant ça, c'est beaucoup moins restrictif
A vrai dire c'est l'inverse, très peu de projets refuse l'IA
La plupart refuse les contributions complètement vibecodé (comme ils refusaient globalement le code de merde, c'est la même raison en fait)
"vibecodé" comprendre codé intégralement par l'IA, qu'importe le nombre d'itérations
Sauf cas particulier, interdire le code vibecodé c'est en gros ce que disent toutes les politiques permissives

K'Deed:

Locynaeh: ça a changer cette semaine

vv221:

K'Deed, si tu as lu ça, tu te plantes
Aussi bien Linux que Godot acceptent les contributions générées par IA.
Tout comme, en fait, la majorité des projets logiciels.

Locynaeh:

K'Deed: pas vu de maj de la politique là

Suite :

mar. 28 avril 2026 21:08:45 - vv221: Génial, Blender a rejoint le côté obscur : https://www.blender.org/press/anthropic-joins-the-blender-development-fund-as-corporate-patron/

mar. 28 avril 2026 21:08:56 - vv221: Il nous reste quoi, pour la 3D sur Linux ?

mar. 28 avril 2026 21:14:38 - kujiu: J'ai prévu de me mettre à Blender. Mais bon, je vois mal comment aller voir ailleurs vu tout ce qu'il fait.
J'ai lâché l'affaire en matière de boycott de logiciel dopé à l'IA, c'est devenu impossible.

mar. 28 avril 2026 21:15:24 - Alcyone: vv221, Blender était déjà porté sur les contributions LLM depuis un bail d'où le fait que j'indiquais dans le sujet de discussion LLM :
> Pour la question connexe. Je pense que pour les outils au-delà des briques inévitables (style noyau Linux ou langage comme Python) fonction de nos moyens, ça vaut la peine de mettre un mot, indiquant notre non support (le cas échéant) et l'absence d'alternative satisfaisante s'y opposant clairement à ce jour : Godot, Blender, etc.

mar. 28 avril 2026 21:16:28 - vv221: Je n'avais pas tiqué sur Blender à ce moment-là, je conaissais seulement la trahison de Godot.

mar. 28 avril 2026 21:16:37 - kujiu: Il faudra aussi que j'aille voir le forum pour répondre.

mar. 28 avril 2026 21:16:43 - Alcyone: C'est plus ancien de mémoire

mar. 28 avril 2026 21:17:04 - kujiu: Ouais, Blender ça fait un moment, mais ils ont un groupe à part pour l'IA.

mar. 28 avril 2026 22:01:18 - vv221: Ici c'est avec ce nouveau financement que je le découvre...
Je ne suis malheureusement pas très surpris.

mar. 28 avril 2026 22:14:08 - osquallo: essaye wings3d peut être :p *n'a aucune idée de comment s'est financé ni tous ces truc à débats*

mer. 29 avril 2026 15:01:19 - FrancoisA: Mais si un logiciel offre la possibilité d'utiliser l'IA personne ne t'oblige à l'utiliser.
Une voiture peut tuer. Mais ce n'est pas pour cela que les gens normaux utilisent leur voiture.
En revanche, Khaganat a eu raison de quitter Gitlab, car ce genre de plateforme peut réutiliser le code open source à l'insu des développeurs.

mer. 29 avril 2026 15:07:01 - FrancoisA: Je pensais surtout à GitHub qui a été racheté par Microsoft (qui a installé Copilot dessus).

mer. 29 avril 2026 15:09:43 - gpsqueeek: Les voitures comme l'IA polluent énormément. Pour pas mal d'usages urbains, la voiture n'a pas lieu d'être utilisée. Pour autant,dans les zones qui ne sont pas desservies, pas bien le choix...
Quand du code est généré par IA, c'est impossible à maintenir, on perd les compétences, le tout avec une grosse pollution à la clé, avec pillage de plein de données en amont pour l'entrainement (sur tout code public, pas juste github)
Je veux bien entendre que pour certains cas d'usage ça ouvre des portes, perso je fais sans (enfin, autant que je sache, mais il y en a tellement partout maintenant...)
Quand je parle d'IA ci dessus, je parle d'IA générative hein

mer. 29 avril 2026 15:24:08 - Alcyone: A mon sens FrancoisA, tu tombes dans l'habituel poncif ignorant des siècles de philo de la technique sur la supposée neutralité de l'outil. C'est malheureusement très courant et c'est dommage. On va pas rentrer dans une thèse sur le sujet mais je vais poser là que c'est un propos qui a très peu de sens une fois que l'on se pose une minute pour y réfléchir.

J'avais dans un coin un article très court de l'auteur de DotClear sur ce sujet (en français) qui invite à faire les 1ers pas de réflexion : https://open-time.net/post/2023/01/16/Neutre-ou-pas-neutre

Et effectivement on peut poursuivre l'exemple de gpsqueeek : quand cet outil est conçu dans le dédain total des enjeux climatiques actuels (au point que les boîtes conceptrices ont retiré officiellement leurs objectifs dans ce domaine et financent activement le gouvernement d'extrême-droite d'un des pays les plus influents du monde s'y opposant pour favoriser leurs profits dans ce domaine), il n'y a pas de "bonne" façon de l'utiliser qui peut contrebalançer cela.

Et tu peux également faire le tour de l'ensemble des problèmes directs et indirects posé par le développement de l'IA générative/LLM (voir le sujet de forum démarré à cet effet : https://khaganat.net/forum/index.php/topic,821.msg3421.html#msg3421).

mer. 29 avril 2026 15:26:34 - FrancoisA: On est d'accord qu'il vaut mieux ne pas utiliser l'IA.

mer. 29 avril 2026 15:27:34 - Alcyone: Le parallèle avec la voiture est très intéressant dans le sens que l'objet seul n'a pas de sens sans son contexte, l'industrie l'environnant, son impact sur le développement des villes, le développement d'autres moyens de transports, etc.
Cet article de Louis Derrac qui cite à juste titre "La vallée de Silicium" de Damasio reprend le sujet un peu synthétiquement (et reprend l'exemple de la voiture): https://louisderrac.com/les-outils-techniques-sont-neutres-prenez-ce-couteau-par-exemple/

mer. 29 avril 2026 15:45:11 - osquallo: sauf que tous ces probleme date de bien avant l'ia

mer. 29 avril 2026 15:45:55 - Alcyone: osquallo, c'est bien pour ça que la philo de la technique date de bien avant l'électricité ;-)
L'IA pose de nouveaux problèmes et en aggrave de nombreux existant

mer. 29 avril 2026 15:48:13 - osquallo: il ne les pose pas il les met juste en lumière la ou vous n'arriviez pas a les voir

mer. 29 avril 2026 15:48:35 - vv221: L'IA est surtout avant tout un projet de société, pas "un outil neutre". Un projet de société fasciste.
Utiliser l'IA, défendre l'utilisation de l'IA, défendre même *l'existence* de l'IA, c'est défendre ce projet fasciste.

mer. 29 avril 2026 15:52:07 - Alcyone: osquallo, en tournant très fort le sujet, on peut imaginer que l'IA a un effet loupe sur de nombreux problèmes existant dont elle augmente la portée. Je pense sincèrement que les modifications qu'elle entraîne et sa dimension crée en soi de nouveaux problèmes, particulièrement sociaux et sociétaux.

mer. 29 avril 2026 15:53:03 - osquallo: le probleme c'est surtotu du coter de l'humain et tant qu'on se dedouiane sur les outils pour pas avoir a ce changer soi meme rien ne changera

Je te réponds ici osquallo :

mer. 29 avril 2026 15:53:03 - osquallo: le probleme c'est surtotu du coter de l'humain et tant qu'on se dedouiane sur les outils pour pas avoir a ce changer soi meme rien ne changera

Pour moi ce n'est qu'une facette du sujet prise isolément, qui se retrouve dans l'argument classique vu plus haut de l'outil neutre dont seule l'utilisation (le "côté humain") compte.
J'ai indiqué que la neutralité de l'outil n'avait aucun sens, ça ne veut bien sûr pas dire que son utilisation n'est pas à prendre en compte, elle ne va cependant pas sans tenir compte de l'outil lui même dont sa conception non neutre par essence influence l'usage.

Et en parlant d'influence, c'est littéralement la technologie la plus financée à l'heure actuelle, elle se développe et se répand à une vitesse exceptionnelle et son impact sur la société n'a pas d'équivalent sur son échelle de temps et c'est loin d'être terminé.

L'autre point que cela m'évoque, c'est la fameuse fable du colibri à la sauce Pierre Rahbi dont la maxime est d'isoler un problème sociétal à la responsabilité individuel (curieusement, les versions originales n'auraient pas cet dénouement). Certes chacun peut faire sa part mais la société est une entité en elle-même sur laquelle en agissant seul pour soi-même, l'influence est limitée et un problème de société réclame plutôt des actions collectives.

On pourrait épiloguer plus loin sur le pouvoir de nuisance individuel qu'offre la possibilité d'enrichissement illimité du capitalisme au détriment des autres et son rôle dans l'avènement d'une telle technologie mais on s'éloigne quand même pas mal du sujet qui reste le positionnement de Khaganat.