Risques de l’intelligence artificielle : identifier, apprécier et encadrer les usages
Nommer précisément ce qui peut mal tourner avant d'ouvrir un usage à l'ensemble d'un service
- Certifié Qualiopi
- 0,14 jour — 1 h
- Présentiel ou à distance
- Fondamental
- Finançable OPCO
L'usage s'installe par les postes de travail avant toute décision d'organisation. Des réponses inexactes sont reprises telles quelles dans des courriers à l'usager, des informations de dossier sont saisies dans des outils externes et personne ne sait qui valide quoi. Le risque n'est pas technique mais tient à la confiance accordée à un résultat non vérifié.
Cette heure porte sur l'identification et l'encadrement. Le participant cartographie les risques pour l'agent et pour l'usager, analyse une situation où une réponse produite induit en erreur et rédige des règles d'usage applicables dans son service.
Objectifs pédagogiques
- Identifier les principaux risques liés à l'usage d'outils d'intelligence artificielle
- Expliquer l'origine des biais et leurs effets sur une décision
- Apprécier les conséquences d'une réponse inexacte pour l'usager
- Repérer les situations de fuite de données et de dépendance à un fournisseur
- Rédiger des règles d'usage applicables dans un service
- Organiser le signalement des incidents et le retour d'expérience
Programme de la formation
Avant la formation
Analyse du besoin et test de positionnement. Vos réponses sont partagées avec votre formateur afin d'adapter la formation à votre niveau et votre contexte professionnel.
Nommer ce qui peut mal tourner
- Réponses inexactes présentées avec assurance
- Biais dans les données et effets sur les décisions
- Fuite de données et perte de maîtrise de l'information
- Dépendance à un fournisseur et coût de sortie
Mesurer ce qui touche le service rendu
- Conséquences d'une décision administrative mal fondée
- Explicabilité de la décision vis-à-vis de l'usager
- Effets sur les métiers et sur les compétences des agents
- Enjeux d'égalité de traitement et de non-discrimination
Poser des règles tenables
- Principes d'une charte d'usage compréhensible par tous
- Tâches à exclure et tâches admises sous contrôle
- Validation humaine et traçabilité des décisions
- Signalement des incidents et retour d'expérience
Après la formation
E-learning accessible en illimité dans le temps. Évaluation de niveau afin de suivre votre progression.
Les points forts
Les avis de nos apprenants
Prochaines sessions
Aucune session programmée sur ce lieu pour le moment. Demandez une date.
À qui s'adresse cette formation ?
Encadrants agents et référents numériques de la fonction publique ainsi que délégués à la protection des données concernés par l'arrivée de l'intelligence artificielle.
Financer cette formation
Mon Pôle Formation est un organisme certifié Qualiopi au titre des actions de formation. À ce titre, cette formation est éligible aux principaux dispositifs de financement de la formation professionnelle.
Le plan de développement des compétences regroupe l'ensemble des actions de formation décidées par l'employeur. Votre OPCO prend généralement en charge les coûts pédagogiques, et parfois la rémunération, les frais de transport, de repas et d'hébergement.
Tous les salariés peuvent en bénéficier, quels que soient la nature et la durée de leur contrat. Rapprochez-vous de votre service RH ou formation : nous montons le dossier avec vous.
Vous versez chaque année une Contribution à la Formation Professionnelle. Elle ouvre droit à une prise en charge par votre fonds d'assurance formation : FIFPL, AGEFICE, FAFCEA, VIVEA ou OPCO selon votre activité.
Nous préparons pour vous le devis, le programme détaillé et l'attestation nécessaires au dossier.
Selon votre projet professionnel, France Travail peut financer tout ou partie de la formation via l'Aide Individuelle à la Formation. Le dossier se construit avec votre conseiller à partir de notre devis.
Vous pouvez régler la formation directement, en une fois ou jusqu'à 6 fois sans frais. Contactez un conseiller pour définir l'échéancier : 01 87 66 57 66.
Questions fréquentes
Le format retient les risques qui se manifestent dans l'usage quotidien d'un service : réponse inexacte, biais, fuite de données et dépendance à un fournisseur. Il vise à ce que chacun sache les nommer, apprécier leurs conséquences pour l'usager et savoir quoi faire, sans traiter l'analyse de risque formalisée d'un système.
Ils proviennent des données d'apprentissage et des choix faits lors de la conception, et se traduisent par des réponses systématiquement moins justes pour certaines situations ou certains profils. La séance montre comment ce décalage se propage lorsqu'une décision administrative s'appuie sur la réponse sans contrôle.
En désignant à qui remonte l'anomalie, sous quelle forme et sous quel délai, puis en prévoyant un temps de retour d'expérience pour ajuster les règles d'usage. La séance fait rédiger ces règles dans une formulation applicable, en s'en tenant à ce qu'un agent peut faire depuis son poste.