1. Préambule – Nature et portée de la charte
1.1. Contexte général
Les systèmes d’intelligence artificielle (SIA) connaissent une diffusion rapide et profonde dans l’ensemble des activités humaines. L’évolution de ce domaine technique est marquée par une accélération continue, largement imprévisible, qui dépasse les capacités classiques de régulation des organisations et des cadres normatifs existants. L’intelligence artificielle (IA) est d’ores et déjà intégrée, parfois de manière invisible, dans de nombreux outils numériques du quotidien, et son usage est appelé à se généraliser, notamment avec l’arrivée de générations pour lesquelles ces technologies constituent un environnement de travail ordinaire.
1.2. Responsabilité de l’employeur
Dans ce contexte, la Direction de Mavana fait le choix d’aborder l’intelligence artificielle comme un fait technologique et social avec lequel il convient de composer. Sa responsabilité est de donner des repères, de protéger les personnes et les collectifs de travail, et de préserver des conditions compatibles avec l’autonomie intellectuelle, la santé, le sens du travail et les valeurs portées par l’entreprise, plutôt que de chercher à encadrer les usages par des interdictions formelles difficilement applicables.
Mavana adopte une posture de lucidité face à l’IA : ni fascination pour des promesses technologiques présentées comme infinies, ni rejet de principe. La charte reconnaît à la fois le potentiel de ces outils et les risques profonds qu’ils comportent, notamment pour les capacités humaines de réflexion, de débat, de création et de décision collective.
1.3. Nature du document
La présente charte ne constitue ni un règlement intérieur, ni une liste d’autorisations ou d’interdictions, ni un dispositif disciplinaire. Elle ne vise pas à sanctionner des usages, mais à expliciter un cadre de valeurs, de vigilance et de responsabilité collective. Des documents distincts, plus opérationnels et nécessairement évolutifs, viendront compléter cette charte pour préciser des recommandations pratiques. Dans un environnement technologique instable et en évolution permanente, cette charte n’a pas vocation à constituer un rempart définitif. Elle se veut une boussole éthique, consciente de ses limites, affirmant que, malgré l’ampleur et la vitesse des transformations en cours, la responsabilité morale, intellectuelle et sociale demeure fondamentalement humaine.
2. De quoi parle-t-on quand on parle d’IA ? Enjeux et risques
2.1. Clarification des termes
L’expression « intelligence artificielle » recouvre des réalités hétérogènes. La présente charte distingue notamment les systèmes d’IA dits non génératifs, fondés sur des techniques d’apprentissage automatique permettant la classification, la reconnaissance, la prédiction ou l’optimisation (par exemple reconnaissance de formes, de sons, calcul d’itinéraires), et les systèmes d’IA générative (IAG), capables de produire de manière autonome des contenus nouveaux (textes, images, sons, vidéos, code).
Si l’IA est déjà largement présente dans de nombreux outils numériques du quotidien, la charte vise prioritairement les enjeux spécifiques liés à l’IA générative, en raison de ses effets directs sur les pratiques intellectuelles, l’écriture, le raisonnement, la création et la prise de décision.
Les impacts environnementaux et systémiques de l’IAG varient selon les usages et les modèles économiques. Les IA génératives professionnelles et les IA génératives grand public n’ont pas les mêmes effets, ni en intensité ni en répartition sur les différentes phases de leur cycle de vie.
2.2. L’IA comme phénomène systémique
L’IA ne constitue pas un outil isolé que l’on activerait ou désactiverait à volonté. Elle s’intègre progressivement, souvent de manière peu visible, dans les logiciels, plateformes et environnements numériques utilisés au travail. Cette intégration s’accompagne d’effets systémiques : accélération des rythmes, standardisation des productions, pression implicite à l’usage, et modification des attentes en matière de performance et de productivité. Ces dynamiques dépassent largement les choix individuels et doivent être comprises comme des transformations collectives des conditions de travail.
2.3. Risques cognitifs
L’IAG peut conduire à une externalisation progressive de fonctions cognitives essentielles : formulation des problèmes, structuration de la pensée, hiérarchisation des informations, mise en perspective critique. Cette délégation peut, à terme, fragiliser l’autonomie intellectuelle des personnes et créer des formes de dépendance discrètes, souvent non intentionnelles.
Sans assimiler ces usages à des phénomènes d’addiction au sens médical, il existe des mécanismes comparables : effets de facilité et de gain immédiat, tolérance progressive, difficulté à identifier le moment où l’outil cesse d’être un appui pour devenir un substitut à l’effort intellectuel.
2.4. Risques liés à l’usage des IAG
Le développement massif des IAG entraîne une production exponentielle de contenus automatisés (textes, images, vidéos). Ces systèmes étant eux-mêmes entraînés sur des données issues d’internet, incluant désormais une part croissante de contenus générés par IA, un phénomène de boucle autoalimentée apparaît. Ces risques doivent être compris et pris en compte par l’ensemble des collaborateurs.
Ce mécanisme présente plusieurs conséquences :
- Diminution progressive de la fiabilité des contenus en ligne : il devient de plus en plus difficile de distinguer une information vérifiée d’un contenu généré automatiquement, approximatif ou erroné.
- Effet de dilution de la qualité : la quantité de contenu produit dépasse largement la capacité humaine de vérification, ce qui favorise la propagation d’informations inexactes ou trompeuses.
- Généralisation du doute : les utilisateurs peuvent développer une méfiance systématique envers les contenus numériques, y compris ceux provenant de sources légitimes.
- Pollution des écosystèmes numériques : certains formats peuvent capter massivement l’attention sans valeur informationnelle réelle, contribuant à une dégradation globale de l’information.
À terme, ce phénomène peut conduire à une situation où les outils numériques perdent en pertinence, faute de pouvoir garantir la qualité et l’authenticité des informations exploitées.
2.5. Risques liés à l’usage des IAG
Les effets de l’IA ne sont pas uniquement individuels. À l’échelle collective, l’usage massif d’outils génératifs peut contribuer à une uniformisation des raisonnements, à un appauvrissement du débat contradictoire et à une réduction de la conflictualité intellectuelle pourtant nécessaire à la production de connaissances robustes.
La pression à la vitesse, à la fluidité et à la « solution optimale » peut marginaliser des pratiques essentielles telles que le doute, l’exploration d’hypothèses alternatives, la discussion argumentée et la délibération collective. Ces évolutions affectent directement la qualité du travail, les relations professionnelles et le sens donné aux activités menées.
2.6. Enjeux sociaux et emploi
Le développement de l’IA, en particulier générative, est susceptible de transformer certaines tâches, fonctions et compétences. Sans adopter un discours anxiogène ou déterministe, il convient de reconnaître que ces transformations peuvent fragiliser des repères professionnels, modifier les attentes en matière de performance et faire évoluer les contenus mêmes du travail.
Ces évolutions appellent une vigilance collective : anticipation des changements, attention portée aux trajectoires professionnelles, reconnaissance de la valeur des compétences humaines non automatisables (analyse critique, jugement, mise en contexte, coopération). Elles relèvent d’une responsabilité partagée, et non d’une adaptation individuelle isolée.
Au-delà des enjeux matériels, le développement et l’entraînement des systèmes d’IA reposent également sur un travail humain souvent invisible. Une part importante du processus de création et d’amélioration des modèles (annotation de données, modération de contenus, évaluation des réponses…) est réalisée par des “travailleurs du clic”, fréquemment employés dans des pays à bas revenus et dans des conditions de travail précaires. Ce coût humain, largement externalisé et peu visible, soulève des questions sociales et éthiques qui doivent également être prises en compte dans l’évaluation globale des impacts de l’IA.
2.7. Enjeux environnementaux
L’IA s’inscrit dans un système numérique aux impacts environnementaux significatifs : consommation énergétique des infrastructures, usage de ressources matérielles, dépendance à des chaînes d’approvisionnement mondialisées. L’IAG, en particulier, repose sur des modèles et des usages intensifs en ressources.
Comme pour d’autres services numériques, la pression sur les ressources matérielles peut contribuer à des tensions sociales, économiques et géopolitiques, notamment dans les pays producteurs ainsi que dans les pays récepteurs de déchets électroniques.
Ces impacts sont encore mal connus et probablement sous-estimés, en raison du manque de transparence des acteurs sur les architectures et les conditions réelles de fonctionnement des systèmes.
Ces enjeux doivent être mis en cohérence avec les objectifs écologiques portés par Mavana. Ils invitent à une réflexion plus large sur la sobriété numérique, la pertinence des usages et l’évaluation de leur utilité réelle au regard de leurs coûts environnementaux.
2.8. Place des risques juridiques et de confidentialité
Les usages de l’IAG soulèvent également des questions juridiques et réglementaires, notamment en matière de données, de propriété, de confidentialité et de responsabilité. Ces enjeux sont réels et doivent être pris en compte dans les pratiques professionnelles.
L’usage de l’IAG s’inscrit dans un environnement marqué par une collecte massive de données, une concentration des infrastructures numériques et une montée des dispositifs de surveillance, publics comme privés, parfois en dehors de cadres démocratiques. La divulgation, volontaire ou non, de données personnelles, professionnelles ou sensibles à des systèmes d’IA peut exposer les individus et les organisations à des risques durables de traçage, de profilage, de réutilisation incontrôlée des informations et de perte de maîtrise sur leurs données.
Ces risques ne relèvent pas seulement de la conformité juridique, mais engagent des enjeux de libertés individuelles, de protection de la vie privée et de « souveraineté »1 informationnelle. Ils appellent une vigilance accrue et une responsabilité collective dans les usages numériques.
3. La position de Mavana
3.1. Principes fondamentaux
Mavana affirme la primauté de l’humain dans la production de connaissances, d’analyses et de propositions. Son expertise repose sur des compétences collectives, critiques et situées, construites dans la durée, le débat et la confrontation des points de vue. L’IA peut constituer un outil d’appui ponctuel, mais elle ne saurait se substituer à l’exercice du jugement, de l’analyse et de la responsabilité humaine.
L’IA n’est pas considérée comme une autorité cognitive (elle ne fonde ni la vérité, ni la pertinence, ni la légitimité d’une analyse, d’une hypothèse ou d’une décision). Les productions issues de ces outils ne peuvent, en aucun cas, valider une analyse, une hypothèse ou une décision sans un examen humain explicite et assumé.
3.2. Protection de l’autonomie cognitive
Mavana reconnaît l’autonomie intellectuelle comme un bien essentiel à préserver, tant au niveau individuel que collectif. Certaines dimensions du travail – formulation des problèmes, construction des hypothèses, arbitrages, mise en perspective, interprétation des résultats – sont constitutives de l’apprentissage, de la montée en compétence et de la qualité de l’expertise.
La délégation systématique de ces tâches à des systèmes d’IAG est susceptible d’affaiblir durablement les capacités d’analyse et de réflexion. Mavana affirme donc la nécessité d’une vigilance particulière sur ces usages, afin que l’IA demeure un appui et ne devienne pas un substitut à l’effort intellectuel.
3.3. Devoir de sobriété et droit à l’objection
Mavana reconnaît comme légitime le droit individuel, pour les personnes salariées, de limiter, de refuser ou de questionner l’usage de l’IA dans certaines situations professionnelles. Ce droit relève d’une démarche de sobriété, de cohérence éthique ou de protection de l’autonomie cognitive.
Dans cette perspective, le principe « d’objection de conscience » face à certains usages de l’IA peut être reconnu, sans injonction ni stigmatisation, et sans que cela constitue un frein à la reconnaissance professionnelle. L’absence ou la limitation d’usage de l’IA ne saurait être assimilée à un manque de compétence ou d’engagement.
3.4. Usage réflexif et responsable
Lorsque l’IAG est utilisée, Mavana encourage un usage réflexif, conscient de ses limites et de ses effets. L’usage réflexif de l’IAG renvoie à l’exercice de la réflexion et du discernement. Il s’oppose à un usage réflexe, automatique ou non interrogé des outils.
L’IA peut servir d’outil d’exploration, de mise à l’épreuve d’idées, de confrontation de scénarios ou d’aide à la reformulation, mais elle ne doit pas devenir une source d’autorité, ni un mécanisme de validation automatique.
La responsabilité des contenus produits, des analyses formulées et des décisions prises demeure pleinement humaine, individuelle et collective.
L’usage de l’IA doit préserver la qualité du travail produit. Cela implique une attention particulière à l’explicabilité des raisonnements, à leur traçabilité, à leur répétabilité lorsque cela est pertinent, et à l’identification des biais possibles liés aux données, aux modèles ou aux outils utilisés.
Dans cette perspective, Mavana ne considère pas la mention systématique de la part d’IA dans un document comme une fin en soi lorsque l’usage relève d’un simple appui ponctuel (clarification d’une idée, proposition de formulation, exploration d’une piste), tous les contenus étant systématiquement relus, interprétés et validés par une personne humaine qui en demeure pleinement responsable.
Cette posture ne dispense toutefois pas Mavana de ses engagements contractuels de transparence lorsque ceux-ci sont expressément requis par un client ou un cadre réglementaire. Dans ces situations, Mavana s’engage à documenter, pour chaque livrable concerné, la nature et l’étendue du recours à l’IA, ainsi que les sources sur lesquelles elle s’est appuyée.
Mavana reconnaît par ailleurs à tout client le droit de refuser, en tout ou partie, le recours à l’IA dans le cadre d’une mission. Cette opposition, exprimée en amont, s’impose alors à l’ensemble de l’équipe intervenante, sans que cela ne constitue une contrainte ou une perte de qualité dans l’exécution des prestations.
Pour donner corps à ces principes plutôt que d’en rester à une déclaration d’intention, Mavana a construit une matrice interne de ses tâches professionnelles, distinguant celles qu’il nous semble acceptable de déléguer, en tout ou partie, à une IA générative, de celles auxquelles nous nous refusons de déléguer, quelle que soit la pression de productivité. Cette matrice, amenée à évoluer avec nos pratiques et le cadre réglementaire, sert de référence commune à l’ensemble des collaborateurs de Mavana pour arbitrer, au cas par cas, l’usage de ces outils.
3.5. Accompagnement et protection des salariées et salariés
Mavana s’engage à accompagner les salariées et salariés face aux effets des technologies numériques sur les conditions de travail, la santé et le sens des activités professionnelles. Ces effets ne se limitent pas à l’IA et peuvent inclure surcharge cognitive, accélération des rythmes, brouillage des repères professionnels, tensions sur l’utilité sociale du travail ou sentiment de perte de maîtrise.
La formation à l’IA vise à la fois à accompagner celles et ceux qui en sont éloignés, et à permettre à celles et ceux qui l’utilisent déjà de s’en émanciper. L’objectif n’est pas l’adoption systématique des outils, mais la capacité à en faire un usage choisi, maîtrisé et réversible.
Cet accompagnement repose sur la prévention des risques psychosociaux, l’écoute, la formation, le dialogue et l’adaptation des organisations de travail. Il vise à permettre à chacune et chacun de développer des usages maîtrisés, compatibles avec la santé, l’autonomie intellectuelle et les valeurs portées par Mavana.
3.6. Dimension collective et évolutive
Mavana reconnaît que les effets de l’IA sont fondamentalement collectifs. Ils transforment les pratiques, les relations professionnelles et les cultures de travail. À ce titre, ils appellent des espaces de discussion, de partage d’expériences et de réflexion collective, sans logique de faute ni de sanction.
La présente charte est appelée à évoluer. Elle ne prétend ni épuiser les questions posées par l’IA, ni fixer des règles définitives. Elle s’inscrit dans une démarche de vigilance continue, d’ajustement et de responsabilité partagée, fidèle aux valeurs humanistes, scientifiques et écologiques de Mavana.
4. Conclusion
L’essor des systèmes d’intelligence artificielle, et en particulier de l’IA générative, constitue une transformation profonde des conditions de travail intellectuel, des relations professionnelles et des modes de production des connaissances. Cette transformation est rapide, largement imprévisible et dépasse les capacités de contrôle ou de régulation formelle d’une organisation prise isolément.
Face à cette situation, Mavana fait le choix d’une position de lucidité et de responsabilité. La présente charte n’a pas vocation à fixer des règles immuables ni à promettre une maîtrise illusoire des évolutions technologiques. Elle affirme un cadre de valeurs destiné à protéger les personnes, les collectifs de travail et les capacités humaines qui fondent l’expertise, la créativité et le sens du travail.
En réaffirmant la primauté de l’humain, l’importance de l’autonomie cognitive, la légitimité de la sobriété et du questionnement, ainsi que la nécessité d’un accompagnement attentif des salariés et salariées, Mavana entend aborder l’IA comme un objet de débat et de responsabilité collective.
Dans un environnement marqué par l’accélération technologique, cette charte se veut une boussole éthique, consciente de ses limites, rappelant que, quelles que soient les capacités des outils, la responsabilité intellectuelle, sociale et politique demeure irréductiblement humaine.
Nous remercions chaleureusement l’association SOLAGRO, et en particulier Christian Couturier qui a donné à Gillo Malpart, Président de Mavana, l’opportunité de relire et commenter une version de travail de leur Charte d’utilisation de « l’intelligence » artificielle, dont nous nous sommes inspirés pour l’adapter au contexte de Mavana.
Ce document, tout comme son œuvre originale, est diffusé sous licence Creative Commons Attribution 4.0 International.
A ce titre, vous êtes libre de :
- Partager – copier et redistribuer l’œuvre sur tout support ou dans tout format, à quelque fin que ce soit, y compris à des fins commerciales.
- Adapter – remixer, transformer et créer des œuvres dérivées de l’œuvre, à quelque fin que ce soit, y compris à des fins commerciales.
