Mon point de vue sur l'IA.
Je constate que le débat s'élargie sur d'autres sujets :
- La main mise par de grand groupe comme Google, Meta, Microsoft (plus quelques nouveaux acteurs).
- L'écologie, car certain fournisseur d'IA utilise de grand Datacenter, beaucoup d'eau et d'énergie.
- Et l'utilisation de ce mot de clef pour justifier des suppressions d'emploi/de poste.
Je ne rentrerai pas dans le débat des grands groupes, tous centralisés dans des pays qui ont une attitude belliqueuse contre l'Europe. A nous de définir les limites.
Quand à l'écologie, difficile de juger quand on voit tout ce que l'on importe (encore une fois de pays respectant rien ou juste en façade). J'ai même entendu qu'avoir un enfant n'était pas écologique, là je ne sais quoi dire.
Nous pouvons utiliser des IA dont les maisons mères et les services proviennent de pays plus respectueux, voir directement sur notre machine.
L'utilisation du mot de clef IA pour justifier des licenciements économique. Tous les deux ans, on retrouve ce scénario pour permettre de déclencher une vague de licenciement. Cela a un avantage, le CEO n'a pas à justifier ! Il est plus simple de suivre ce que les journalistes claironnent depuis des mois (eux-même suivant les dire de certain patron voulant préparer leurs investisseurs). On passe sous les radars et personne ne mettra en cause la légitimité de l'action. Il est difficile de répondre, la lutte syndicale afin de faire valoir nos droits, changer de travail afin de tourner la page, ...
Je clos ces sujets, pour ma part, et je me recentre sur l'IA.
Comme toute nouveauté, cela génère beaucoup d'enthousiasme et de suspicions, mais on ne peut pas arrêter les avancées. Doit-on refuser sous peine d'être dépassé par celle-ci et par ceux qui les utilises ?
Etant donnée, que la base pour entraîner provient de tout le monde (avec ou sans consentement ...), pour un projet OpenSource, cela me semble pertinent de l'utiliser.
L'IA n'est pas une personne mais un outil. A nous de montrer l'usage que l'on fait de celui-ci et surtout que l'on montre notre vision.
Attention, on doit toujours valider le résultat, l'outil s'est bien, mais celui-ci peut générer des erreurs. si l'IA fait une bêtise, celui qui a lancé est responsable.
l'IA couvrant tous les aspects, je pense qu'on doit l'utiliser dans tous les domaines (Codage, Génération d'image, Génération du son/musique, 3D, ...). On ne peut pas faire de distinction entre ces différents modes (il nous faut être équitable). Par contre, on n'est pas obligé de toujours l'utiliser.
On se doit aussi d'être transparent, quelle IA est utilisé, quelle version (et "identifiant unique"), lien sur le modèle, afin que l'on puisse contrôler, analyser, ... bref pas rester passif. Quel est le "prompt" utilisé, qu'elles sont tous les "prompt" systèmes utilisés.
On devrait définir le commit afin d'ajouter un indicateur pour signaler l'utilisation de l'IA: par exemple [AI used].
Dans le cadre de la recherche d'incident (issue), on devra ajouter des étapes obligatoires.
1- analyse du problème détecté
2- proposition d'une solution temporaire pour bloquer le problème (workaround) et si possible proposition d'un patch.
3- Vérification que l'incident n'est pas déjà déclaré (recherche doit être réalisé moins d'un jour avant la création de l'incident).
Concernant l'usage, voici mes idées:
1- utiliser l'IA sur un compte dédié (pas celui que vous utilisez pour lire vos courriels, XMPP, ...), bref un vrai compte pour l'usage de l'IA.
2- de mettre que des crédentiales limités (par exemple une clef SSH avec un mot de passe, l'idéal serait d'avoir que la clef qui pousse sur le repo GIT (avec une contrainte que le compte n'aura pas le droit de forcer une mise à jour [ne pas permettre de supprimer des commits, ...], voir mieux encore, un compte dédié Utilisateur-IA [Utilisateur : étant la personne qui valide]
3- ne pas permettre à l'IA d'ajouter des "hooks" (bloquer au niveau de git)
Bref, ici, je considère que l'IA peut être entraîné pour exécuter du code malveillant, il faut pouvoir cloisonner celle-ci (et se protéger).
Dernier point, sur la partie code, nous devons faire une attention sur les modules/libraires externe utilisé (on doit être pertinent sur l'utilisation de lib externe et s'assurer qu'elle n'ont pas de faille de sécurité, maintenabilité, ...)
Avant tout, nous sommes des hommes de dévouement et de sacrifice. Nous devons travailler pour tous avant de travailler pour nous.
Victor Hugo
Je constate que le débat s'élargie sur d'autres sujets :
- La main mise par de grand groupe comme Google, Meta, Microsoft (plus quelques nouveaux acteurs).
- L'écologie, car certain fournisseur d'IA utilise de grand Datacenter, beaucoup d'eau et d'énergie.
- Et l'utilisation de ce mot de clef pour justifier des suppressions d'emploi/de poste.
Je ne rentrerai pas dans le débat des grands groupes, tous centralisés dans des pays qui ont une attitude belliqueuse contre l'Europe. A nous de définir les limites.
Quand à l'écologie, difficile de juger quand on voit tout ce que l'on importe (encore une fois de pays respectant rien ou juste en façade). J'ai même entendu qu'avoir un enfant n'était pas écologique, là je ne sais quoi dire.
Nous pouvons utiliser des IA dont les maisons mères et les services proviennent de pays plus respectueux, voir directement sur notre machine.
L'utilisation du mot de clef IA pour justifier des licenciements économique. Tous les deux ans, on retrouve ce scénario pour permettre de déclencher une vague de licenciement. Cela a un avantage, le CEO n'a pas à justifier ! Il est plus simple de suivre ce que les journalistes claironnent depuis des mois (eux-même suivant les dire de certain patron voulant préparer leurs investisseurs). On passe sous les radars et personne ne mettra en cause la légitimité de l'action. Il est difficile de répondre, la lutte syndicale afin de faire valoir nos droits, changer de travail afin de tourner la page, ...
Je clos ces sujets, pour ma part, et je me recentre sur l'IA.
Comme toute nouveauté, cela génère beaucoup d'enthousiasme et de suspicions, mais on ne peut pas arrêter les avancées. Doit-on refuser sous peine d'être dépassé par celle-ci et par ceux qui les utilises ?
Etant donnée, que la base pour entraîner provient de tout le monde (avec ou sans consentement ...), pour un projet OpenSource, cela me semble pertinent de l'utiliser.
L'IA n'est pas une personne mais un outil. A nous de montrer l'usage que l'on fait de celui-ci et surtout que l'on montre notre vision.
Attention, on doit toujours valider le résultat, l'outil s'est bien, mais celui-ci peut générer des erreurs. si l'IA fait une bêtise, celui qui a lancé est responsable.
l'IA couvrant tous les aspects, je pense qu'on doit l'utiliser dans tous les domaines (Codage, Génération d'image, Génération du son/musique, 3D, ...). On ne peut pas faire de distinction entre ces différents modes (il nous faut être équitable). Par contre, on n'est pas obligé de toujours l'utiliser.
On se doit aussi d'être transparent, quelle IA est utilisé, quelle version (et "identifiant unique"), lien sur le modèle, afin que l'on puisse contrôler, analyser, ... bref pas rester passif. Quel est le "prompt" utilisé, qu'elles sont tous les "prompt" systèmes utilisés.
On devrait définir le commit afin d'ajouter un indicateur pour signaler l'utilisation de l'IA: par exemple [AI used].
Dans le cadre de la recherche d'incident (issue), on devra ajouter des étapes obligatoires.
1- analyse du problème détecté
2- proposition d'une solution temporaire pour bloquer le problème (workaround) et si possible proposition d'un patch.
3- Vérification que l'incident n'est pas déjà déclaré (recherche doit être réalisé moins d'un jour avant la création de l'incident).
Concernant l'usage, voici mes idées:
1- utiliser l'IA sur un compte dédié (pas celui que vous utilisez pour lire vos courriels, XMPP, ...), bref un vrai compte pour l'usage de l'IA.
2- de mettre que des crédentiales limités (par exemple une clef SSH avec un mot de passe, l'idéal serait d'avoir que la clef qui pousse sur le repo GIT (avec une contrainte que le compte n'aura pas le droit de forcer une mise à jour [ne pas permettre de supprimer des commits, ...], voir mieux encore, un compte dédié Utilisateur-IA [Utilisateur : étant la personne qui valide]
3- ne pas permettre à l'IA d'ajouter des "hooks" (bloquer au niveau de git)
Bref, ici, je considère que l'IA peut être entraîné pour exécuter du code malveillant, il faut pouvoir cloisonner celle-ci (et se protéger).
Dernier point, sur la partie code, nous devons faire une attention sur les modules/libraires externe utilisé (on doit être pertinent sur l'utilisation de lib externe et s'assurer qu'elle n'ont pas de faille de sécurité, maintenabilité, ...)
Avant tout, nous sommes des hommes de dévouement et de sacrifice. Nous devons travailler pour tous avant de travailler pour nous.
Victor Hugo
