Utiliser l’intelligence artificielle de manière responsable

L’intelligence artificielle (IA) s’est imposée dans notre quotidien professionnel. Qu’il s’agisse d’assistants conversationnels, d’outils de génération de code ou d’analyses automatisées, ces technologies transforment notre travail. Mais leur puissance s’accompagne de risques importants : confidentialité, sécurité, qualité des réponses…

Rappel de base : L’IA n’est pas intelligente

Le terme « intelligence artificielle » prête à confusion. Une IA générative n’a pas de compréhension du monde, pas de conscience, pas d’empathie. Elle applique des règles et modèles statistiques créés par des humains. Elle ne comprend pas l’ironie, les sous-entendus ni le contexte implicite Elle ne raisonne pas : elle prédit la suite la plus probable d’un texte; Elle ne fait preuve ni de discernement, ni de bon sens. Elle n’a aucune compréhension du monde dans lequel on vit. Elle ne peut innover, faire preuve de créativité, au sens humain du terme, sans input humain. Elle n’a ni émotion, ni intelligence émotionnelle, et encore moins une volonté indépendante. En revanche, elle dispose de capacités extraordinaires de calcul et d’accès à l’information. C’est cette combinaison — puissance mathématique + imitation du langage — qui donne l’illusion d’intelligence. Comme elle imite parfaitement notre langage, elle peut donner une illusion d’intelligence, mais ce n’est pas le cas. Cette imitation est basée sur l’analyse de la structure du langage et une représentation mathématique de la manière dont on communique. Le terme « intelligence augmentée » serait sans doute plus juste : un outil qui amplifie nos capacités, mais qui ne les remplace pas.

Confidentialité des données : le principal risque informatique

Les fournisseurs d’IA (OpenAI, Anthropic, Google, Microsoft, xAI…) sont très intéressés par vos prompts. Dans la majorité des cas, vos prompts peuvent être utilisés pour améliorer leurs modèles, parfois via une relecture par des agents humains. Cela peut poser des problèmes suivant le contenu des prompts.

1. informations sur des projets internes
2. discussions confidentielles
3. données personnelles ou RH

Pour nos organisations, ces données constituent un patrimoine critique. Lorsqu’elles sont envoyées à un service externe accessible publiquement, elles peuvent être exposées. Pour les responsables IT, l’enjeu n’est plus seulement d’empêcher les intrusions… mais aussi d’éviter les fuites volontaires ou accidentelles vers des systèmes externes.

Deux sources de risques : erreurs humaines et attaques

Les erreurs humaines sont les plus fréquentes :

• mauvaise compréhension des options de partage ou d’historique
• utilisation d'IA publiques pour traiter des données sensibles
• envoi de documents complets (comptes rendus, configurations, bases de code) sans réaliser les conséquences. Chez Samsung, en 2023, des employés ont copié du code confidentiel dans ChatGPT. Les données se sont retrouvées réutilisées dans les réponses à d’autres utilisateurs.
• Bugs de plateformes : certaines conversations privées ChatGPT et Grok ont été retrouvées indexées sur Google suite à des bugs

Les attaques et manipulations : Les IA deviennent des cibles car elles concentrent des milliers de prompts contenant de l’information sensible et des données provenant d’entreprises du monde entier. Des chercheurs ont démontré qu’il est possible de forcer un modèle à divulguer des éléments de données d’entraînement — donc potentiellement des prompts d’autres utilisateurs. Attaquer un modèle peut permettre de remonter à des données internes d’autres organisations.

Bonnes pratiques pour sécuriser l’usage de l’IA

• Désactiver l’utilisation des données pour l’entraînement des moteurs.

Tous les grands outils proposent cette option : ChatGPT : Paramètres → Gestion des données → Améliorer le modèle pour tous (désactiver) Gemini : Activités → Conserver l’activité (désactiver) Claude : Paramètres → Confidentialité → Aider à améliorer Claude Microsoft Copilot : plus difficile à trouver, mais disponible dans les paramètres de confidentialité. C’est la première action à effectuer avant toute utilisation. Notez que si vous utilisez Gemini avec votre compte SIL ou Wycliffe, les données ne sont pas utilisées pour l’entraînement des moteurs.

• Réfléchir avant d’envoyer un prompt

Il faut toujours se poser la question : “Ce que je m’apprête à envoyer contient-il des informations sensibles ?” Si c’est le cas, ces données ne doivent pas être envoyées à l’IA. Voici quelques exemples d’informations à ne pas envoyer: Informations personnelles, confidentielles, exclusives ou sensibles Détails financiers Pensées personnelles et intimes Informations confidentielles concernant votre lieu de travail Détails concernant votre lieu de résidence Photos

• Anonymiser systématiquement les informations

Pour sécuriser un prompt pouvant contenir des données sensibles, certaines mesures d’anonymisation devraient être prises, comme : remplacer les noms des personnes, des projets changer les montants qui apparaissent sur les documents financiers.

Fiabilité de l’IA : la question des hallucinations

Les IA génératives ont un défaut majeur : elles inventent quand elles ne savent pas. Elles peuvent :

• affirmer avec assurance des choses fausses ;
• inventer des références, des sources, des événements ;
• mélanger faits réels et éléments fictifs. Il existe toutes sortes d'informations en ligne : des vérités et des mensonges, des informations biaisées, des conseils bien intentionnés (mais mal avisés), des contenus humoristiques (rédigés de manière factuelle). Et l’IA ne peut pas faire la différence entre elles.

Voici un exemple réel d’hallucination d’une IAl: « La police britannique a récemment basé une analyse de risques de débordement, lors d’un match de foot entre un club Anglais et Israélien. Suite à cette analyse, la police a décidé d’interdire l’accès au stade à certains supporters israéliens. Cela a provoqué un incident diplomatique entre les deux pays. » Le problème c’est que l’information fournie par Copilot concernant un prétendu incident survenu au préalable était fausse. Le match en question n’avait en réalité jamais eu lieu.. Cet épisode rappelle que l’IA ne vérifie pas ses sources, qu’elle peut halluciner et que la responsabilité finale de vérifier les choses revient toujours à l’humain.

Vérification systématique : la règle d’or

Pour tout résultat fourni par une IA il convient de réaliser certaines vérifications :

• Consulter les sources citées (si disponibles).
• Évaluer la fiabilité du site (réputation, auteur, date).
• Croiser avec d’autres outils : Wikipédia, Google, sites officiels.
• Faire valider par un expert métier en cas d’impact important.
• L’IA doit être vue comme un point de départ, jamais comme une autorité.

Les risques spécifiques des plugins dopés à l’IA Les plugins dopés à l’IA sont certainement très pratiques, mais ils ajoutent des risques supplémentaires :

• Ce n’est plus toi entre toi et l’agent conversationnel. Avec les plugins, on ajoute des fournisseurs intermédiaires qui ont accès aux prompts, peuvent collecter des informations contextuelles, et qui échangent avec des services externes. De plus, les droits d’accès aux données et les politiques de confidentialité de cette chaîne d’acteurs ne sont souvent pas clairs.

Voici quelques risques supplémentaires dont il faut tenir compte

1. Multiplication des points de fuite : chaque plugin peut envoyer des données vers des serveurs tiers… qui peuvent eux‑mêmes dépendre d’autres services. Chacun peut être attaqué, par exemple par injection de prompt. Si un seul maillon est touché, toute la chaîne l’est. On élargit la surface d’attaque.
2. On élargit également le nombre d’outils dans lesquels l’utilisateur peut faire des erreurs de manipulation
3. Perte totale de maîtrise sur les données : prompts, historiques de navigation, informations du navigateur, données marketing… C'est comme autoriser des cookies géants capables d'accéder à des informations hautement personnelles et de les recouper..
4. Ces plugins peuvent également être compromis, ou malveillants ou simplement obsolètes

Voici quelques bonnes pratiques :

• Désactiver tous les plugins IA non essentiels.
• Contrôler finement chaque permission accordée.
• Mettre à jour les plugins très régulièrement.
• Ne jamais soumettre de données sensibles à un plugin.

Conclusion : l’IA un outil puissant… entre de bonnes mains

Les IA sont de formidables outils. Mais comme tout outil, elle peut aider ou nuire selon la manière dont elle est utilisée. Pour les professionnels de l’informatique, la responsabilité est double : protéger les informations de nos organisations s’assurer que les outils d’IA sont utilisés avec discernement et maîtrise. L’IA ne remplace pas la créativité humaine. Elle ne remplace pas non plus l’analyse, la prudence, la compétence ou l’intuition — des qualités qui restent le propre des hommes. Comme de bons artisans, nous utilisons l’IA comme un outil parmi d’autres pour exécuter le travail que nous réalisons avec notre propre créativité. Nous l’utilisons comme une aide, mais nous ne lui demandons pas de faire notre travail à notre place.

Ressources :

Webinaire Discussion - l'usage responsable de l'intelligence artificielle