Prendre les précautions indispensables à un usage responsable et sécurisé - Fiche IA 4

Bénéficier d’un accompagnement et d’un soutien

Se former aux enjeux et risques de l'IA

S’agissant d’une technologie nouvelle et en évolution permanente, il est essentiel de se former aux enjeux et risques de l’IA avant de l’utiliser puis tout au long des retours d’expérience. Profitez des programmes d’accompagnement mis en place par l’État :

• Les aides financières
• L'autodiagnostic IA
• Les formations IA

Validez avec vos collaborateurs leurs bonnes pratiques et leur hygiène informatique

Définissez les conditions d’usage de l’outil. Un document doit décrire pour tous les collaborateurs ce qu’ils peuvent faire avec le système : comment l’utiliser, comment vérifier les résultats, quelles précautions prendre en termes de confidentialité. Par exemple, ce document peut contenir des « prompts » types pour harmoniser les pratiques des
utilisateurs.

Partagez uniquement ce qui peut l’être. Tout ce que vous entrez dans les requêtes ou partagez pourra être utilisé comme données d’entraînement pour l’IA dans les outils en ligne grand public. N’introduisez pas de données confidentielles, personnelles ou stratégiques.

L’IA générative ne remplace pas la réflexion et l’intervention humaine

La décision finale reste humaine : il est nécessaire de prendre du recul et de critiquer les réponses apportées.

Se prémunir contre la perte de savoir et la dépendance 

Même si l’IA amène de la valeur, il est important de continuer à capitaliser sur l’expertise métier de l’entreprise et ne de pas devenir dépendant du système d’IA. Vos connaissances, votre expérience restent précieuses à long terme.

Évaluer les risques et la conformité

Le déploiement d’un modèle de langage est l’occasion de vérifier les protections et mesures de sécurité
informatiques et de vous assurer que vous respectez la réglementation. Le RGPD ou le règlement européen sur l’IAreposent sur les mêmes principes (contrôle humain, robustesse techniques, respect de la vie privée et gouvernance des données, transparence et explicabilité).

De nouveaux outils engendrent de nouveaux risques, identifiez les failles et leurs remèdes avec la grille ci-dessous.

Conformité à la réglementation relative aux données à caractère personnel ou sensible

• S’assurer de la conformité au RGPD est un point essentiel, car sans protection des données
  personnelles, vous ne pouvez établir une relation de confiance. 
  Comment se mettre en conformité ?
• Identifiez vos données sensibles (informations relatives à des personnes physiques ou données
  contractuelles ou financières). Ne les introduisez pas dans les prompts ou anonymisez-les.
• Vous êtes une profession réglementée, vérifiez le cadre juridique applicable.
  (Ex. : les professionnels de santé ont des obligations spécifiques pour certains dispositifs
  médicaux.)

Règles éthiques

Les modèles de langage peuvent s’entraîner sur des contenus sexistes ou racistes, sur des contenus truqués ou sur des informations erronées. Il est donc toujours nécessaire de vérifier la qualité des informations produites pour se
demander si elles sont conformes aux règles éthiques et si elles n’engendrent pas de discrimination.

Responsabilité

Évaluez les conseils ou explications donnés par l’IA, vérifiez-les en gardant un esprit critique car l’entreprise est responsable des IA qu’elle déploie et des décisions qu’elle prend sur cette base. En utilisant un outil d’IA avec des données personnelles, vous devenez « Responsable de Traitement » au sens du RGPD. Il est alors nécessaire de respecter les obligations, sous peine de sanctions en cas de fuite de données personnelles ou de non-respect des droits des personnes.

Sécurité

 Prenez connaissance des "recommandations de sécurité pour un système d'IA générative" de l'Agence nationale de la sécurité des systèmes d'information (ANSSI).

Un travail partenarial, coordonné par l’équipe France Num de la Direction générale des Entreprises (DGE), a permis de rédiger cette fiche pratique ainsi que 3 autres fiches, toutes consacrées à l'IA générative et destinées aux TPE PME pour répondre à leurs besoins.

Le groupe de travail a réuni de nombreux partenaires France Num : la CNIL, la CPME, le MEDEF, le Hub France IA, l'U2P, l'INRIA, CCI France, CMA France, ECTI et Cerfrance. 

Être accompagné par un expert IA

France Num référence de nombreux professionnels du numérique  : conseillers CCI/CMA, consultants privés, offreurs de solutions, experts-comptables, etc. Issus du secteur public ou privé, ils constituent le réseau des Activateurs France Num pour accompagner les TPE PME dans leur transformation numérique. Ces professionnels, informés des aides et dispositifs publics en faveur de la numérisation, ont fait l’objet de vérifications de la part de la Direction générale des Entreprises.