tadata
← Retour à l'accueil

IA Responsable : Des Principes à la Pratique

#artificial-intelligence#ethics#governance#machine-learning

L'IA responsable n'est plus optionnelle -- c'est une exigence réglementaire dans l'UE et une attente croissante à l'échelle mondiale. Les organisations qui la traitent après coup s'exposent à des amendes, des dommages de réputation et des modèles qui échouent silencieusement sur les populations sous-représentées.

Taxonomie des Risques IA

tadata
  • Équité & biais
    • Biais historique (les données d'entraînement reflètent des discriminations passées)
    • Biais de représentation (sous-représentation dans les données)
    • Biais de mesure (variables proxy)
    • Biais d'agrégation (un seul modèle pour des sous-groupes divers)
  • Transparence & explicabilité
    • Décisions boîte noire dans des contextes à fort enjeu
    • Manque de documentation
    • Comportement inexplicable du modèle
  • Vie privée & sécurité
    • Fuite des données d'entraînement
    • Attaques par inversion de modèle
    • Inférence d'appartenance
    • Injection de prompt (LLM)
  • Sûreté & fiabilité
    • Hallucinations (LLM)
    • Défaillances dues au changement de distribution
    • Robustesse face aux attaques adverses
    • Boucles de rétroaction non voulues
  • Société & environnement
    • Destruction d'emplois
    • Empreinte carbone de l'entraînement
    • Concentration du pouvoir
    • Risques de double usage

Cadre de Détection des Biais

ÉtapeMéthodeOutilsCe que ça détecte
Audit des donnéesAnalyse de parité statistiqueAequitas, FairlearnÉcarts de représentation
Pré-entraînementAnalyse par sous-groupesPandas, Great ExpectationsDistributions biaisées
EntraînementContraintes d'équitéFairlearn, AIF360Impact disparate durant l'optimisation
Post-entraînementÉgalité des chances, parité démographiqueFairlearn, What-If ToolPrédictions biaisées entre groupes
ProductionMonitoring par cohorteEvidently, ArizeDrift affectant des sous-groupes
tadata
1 Pre-processing (data) Fix the data the model learns from DO • Collect more data forunder-represented groups• Reweigh samples per group andlabel (reweighing)• Relabel audited proxy labels• Remove or transform proxiesafter testing them AVOID • Dropping the protected columnand calling it fair• Synthetic data never checkedagainst real groups 2 In-processing (training) Optimise accuracy under a fairnessconstraint DO • Constrained optimisation(exponentiated-gradientreductions, Fairlearn)• Adversarial debiasing:penalise predictability of theattribute• Fairness regulariser in theloss AVOID • Tuning only on overallaccuracy• Ignoring intersectionalsubgroups 3 Post-processing(decisions) Adjust decisions of a trained model DO • Group-specific thresholds toequalise TPR/FPR (Hardt et al.,2016)• Reject-option: send borderlinecases to a human• Recalibrate scores per group AVOID • Thresholds by group where lawforbids using the attribute atdecision time• Silent changes withoutdocumentation
1 Pre-processing (data) Fix the data the model learns from DO • Collect more data forunder-represented groups• Reweigh samples per group andlabel (reweighing)• Relabel audited proxy labels• Remove or transform proxiesafter testing them AVOID • Dropping the protected columnand calling it fair• Synthetic data never checkedagainst real groups 2 In-processing (training) Optimise accuracy under a fairnessconstraint DO • Constrained optimisation(exponentiated-gradientreductions, Fairlearn)• Adversarial debiasing:penalise predictability of theattribute• Fairness regulariser in theloss AVOID • Tuning only on overallaccuracy• Ignoring intersectionalsubgroups 3 Post-processing(decisions) Adjust decisions of a trained model DO • Group-specific thresholds toequalise TPR/FPR (Hardt et al.,2016)• Reject-option: send borderlinecases to a human• Recalibrate scores per group AVOID • Thresholds by group where lawforbids using the attribute atdecision time• Silent changes withoutdocumentation
Pré-, in- et post-processing : où agit chaque mesure d'atténuation dans le pipeline. Re-mesurer l'accuracy et chaque écart après toute modification

Extrait de la fiche « Bias and Fairness » · Demander la fiche complète

Comparaison des Méthodes d'Explicabilité

MéthodeTypeAgnostiqueLocal/GlobalVitesseIdéal pour
SHAPAttribution de featuresOuiLes deuxLentDonnées tabulaires, conformité
LIMESurrogate localOuiLocalMoyenExplication par instance
Integrated GradientsBasé gradientNon (réseaux)LocalRapideDeep learning, NLP
CounterfactualAnalyse what-ifOuiLocalMoyenExplications actionnables
PDP / ICEDépendance partielleOuiGlobalRapideVisualisation d'effet de feature

Classification des Risques - EU AI Act

Niveau de risqueExemplesExigencesSanctions
InacceptableScore social, surveillance biométrique temps réelInterditJusqu'à 35M EUR ou 7% CA mondial
ÉlevéScoring crédit, recrutement, dispositifs médicauxÉvaluation de conformité, logs, supervision humaineJusqu'à 15M EUR ou 3% CA mondial
LimitéChatbots, deepfakes, reconnaissance d'émotionsObligations de transparenceJusqu'à 7,5M EUR ou 1,5% CA mondial
MinimalFiltres spam, IA de jeux, recommandationsAucune exigence spécifiqueN/A
tadata
  1. Unacceptablebanned practices (Art. 5)
  2. High riskAnnex I products, Annex III uses: full requirements (Art. 8-27)
  3. Transparency riskchatbots, deepfakes, generated content (Art. 50)
  4. Minimal riskno new duties; voluntary codes (spam filters, games)
Niveaux de risque du règlement (UE) 2024/1689. Les modèles GPAI se situent à côté de la pyramide, avec leur propre chapitre (V)

Extrait de la fiche « AI Regulation » · Demander la fiche complète

Étapes Stratégiques de Mise en Œuvre

  1. Classifiez vos systèmes IA par niveau de risque selon le cadre EU AI Act.
  2. Établissez un pipeline de test de biais intégré à votre CI/CD.
  3. Documentez tout. Cartes de modèle, fiches de données et journaux de décisions.
  4. Assignez la responsabilité. Un responsable IA avec une autorité réelle.
  5. Monitorez en continu. Les métriques d'équité se dégradent avec le temps.

Gouvernance IA minimale viable (90 premiers jours)

tadata

Gouvernance IA minimale viable (90 premiers jours)

✓ baseline / mandatory, ☐ recommended

  • Publish an AI policy and an acceptable-use rule for generative AI tools
  • Build the AI inventory, including bought and embedded AI and shadow use
  • Name an accountable owner for every system and a cross-functional AI committee
  • Classify each system against the AI Act and run impact assessments for high-risk ones
  • MUST Template model cards and a go/no-go gate in the delivery process
  • MUST AI incident reporting path linked to security and privacy incident processes
  • SHOULD Gap analysis against ISO/IEC 42001 before deciding on certification

Extrait de la fiche « AI Governance Frameworks » · Demander la fiche complète

Ressources

Nous utilisons des cookies analytiques pour améliorer votre expérience. Aucune donnée personnelle n'est collectée.