Transparence (informatique)

Cet article est une ébauche concernant l’informatique.

Vous pouvez partager vos connaissances en l’améliorant (comment ?) selon les recommandations des projets correspondants.

Pour les articles homonymes, voir Transparence.

1. Dans les systèmes répartis, la transparence fait référence au fait d'adhérer à une interface externe, autant que possible, qui change alors un comportement interne.
2. Le mot transparence est aussi parfois aussi accolé au terme d'intelligence artificielle[1].

## Dans les systèmes répartis

[modifier | modifier le code]

La transparence dans les systèmes répartis possède huit dimensions, qui ne sont pas indépendantes les unes avec les autres :

Au plus bas niveau :

1. Accès : L'accès à une composante du système réparti, se fait d'une façon unique et uniformisée pour tout le système ;
2. Localisation : L'utilisateur ne connait pas la localisation d'une composante dans le système.

Au niveau intermédiaire :

1. Migration : Les composantes peuvent changer de place dans le système, sans que l'utilisateur n'en soit conscient ;
2. Réplication : Une composante peut être répliquée plusieurs fois, mais l'utilisateur ne la voit comme une seule et unique composante ;
3. Concurrence : L'utilisateur pense qu'il est seul dans le système, même si une composante est utilisée simultané par plusieurs utilisateurs.

À un niveau plus haut :

1. Extensibilité : L'utilisateur ne sait pas comment l'extensibilité est utilisée dans le système réparti ;
2. Performance : L'utilisateur ne sait pas comment la performance est maintenue dans le système ;
3. Défaillance : L'utilisateur ne sait pas comment le système traite les erreurs et assure une qualité de services.

## Dans le domaine de l'intelligence artificielle

[modifier | modifier le code]

Ici la notion de transparence désigne la capacité à rendre accessible et compréhensible le fonctionnement interne d'un système d'IA, incluant ses algorithmes, ses données d'entraînement et ses mécanismes de prise de décision.

Ce concept est lié à celui de confiance dans l'Intelligence artificielle et à la sûreté de l'IA. Il vise à permettre aux utilisateurs, aux développeurs et aux instances de régulation d'auditer et d'évaluer, de manière objective, la logique et les biais potentiels du système, afin d'en garantir la responsabilité et la conformité aux exigences éthiques et légales. Cette transparence (par opposition à l'IA « boite noire ») est un pilier fondamental pour instaurer la confiance dans les technologies d'IA, et favoriser une gouvernance responsable en assurant notamment une interprétabilité des modèles et une communication claire sur leurs limites et performances.

## Références

[modifier | modifier le code]

1. ↑ Muriel Barbazan, « Modèles explicatifs, modèles prédictifs : pour une interaction effective entre linguistique et cognition », dans Temps, aspect et modalité en français, BRILL, 1er janvier 2010 (ISBN 978-90-420-3026-8, lire en ligne), p. 25-43.

## Voir aussi

[modifier | modifier le code]

### Articles connexes

[modifier | modifier le code]

* Alignement des intelligences artificielles
* Éthique de l'intelligence artificielle
* Intelligence artificielle amicale
* Intelligence artificielle digne de confiance
* Réglementation de l'intelligence artificielle
* Risque de catastrophe planétaire lié à l'intelligence artificielle générale
* Superintelligence
* Center for Human-Compatible Artificial Intelligence
* Superintelligence : Paths, Dangers, Strategies

v · m

Risque existentiel posé par l'intelligence artificielle

Concepts principaux |

* Alignement des intelligences artificielles
* Convergence instrumentale
* Éthique de l'intelligence artificielle
* Intelligence artificielle amicale
* Intelligence artificielle digne de confiance
* Intelligence artificielle générale
* Philosophie de l'intelligence artificielle
* Singularité technologique
* Superintelligence
* Sûreté des intelligences artificielles

Concepts associés |

* Accélérationnisme efficace
* Agent intelligent
* Altruisme efficace
* Conséquentialisme
* Intelligence artificielle
* Long-termisme
* Progrès accéléré
* Risque de catastrophe planétaire
* Risque de souffrance astronomique
* Système d'armes létales autonome

Personnes clés |

* Dustin Moskovitz
* Eliezer Yudkowsky
* Elon Musk
* Geoffrey Hinton
* Max Tegmark
* Nick Bostrom
* Sam Altman
* Sam Harris
* Stephen Hawking
* Stuart Russell
* Toby Ord
* William MacAskill
* Yoshua Bengio

Organisations |

* 80,000 Hours
* Anthropic
* Center for Security and Emerging Technology
* Future of Life Institute
* Future of Humanity Institute
* OpenAI

Autres |

* Lettre ouverte sur l'intelligence artificielle
* Superintelligence : Paths, Dangers, Strategies

v · m

Intelligence artificielle (IA)

Concepts |

* Effet IA
* Grand modèle de langage
* Hallucination (IA)
* IA générale
* IA générative

Techniques |

* Analyse prédictive
* Apprentissage automatique
* Apprentissage non supervisé
* Apprentissage profond
* Apprentissage supervisé
* Machine d'apprentissage logique
* Modèle de fondation
* Modèle des croyances transférables
* IA symbolique
* Réseau bayésien
* Réseau de neurones artificiels
* Réseau de neurones récurrents
* Réseau neuronal convolutif
* Transformeur
* Transformeur génératif préentraîné

Applications |

* Art créé par IA
* Apple Intelligence
* ChatGPT
* Conséquences économiques de l'intelligence artificielle
* DeepL
* Diagnostic (IA)
* Écriture assistée par IA
* IA dans la santé
* IA dans le jeu vidéo
* Perception artificielle
* Planification (IA)
* Robotique
* Traduction automatique
* Traitement automatique des langues
* Véhicule autonome
* Vision par ordinateur

Enjeux et philosophie |

* Alignement des intelligences artificielles
* Chambre chinoise
* Conscience artificielle
* Contrôle des capacités de l'IA
* Détection de contenu généré par intelligence artificielle
* Éthique de l'IA
* IA digne de confiance
* Philosophie de l'IA
* Sûreté de l'IA

Histoire et événements |

* Histoire de l'intelligence artificielle
* Logic Theorist (1955)
* Perceptron (1957)
* General Problem Solver (1959)
* Prolog (1972)
* Matchs Deep Blue contre Kasparov (1996-1997)
* Match AlphaGo - Lee Sedol (2016)
* Sommet pour l'action sur l'intelligence artificielle (2025)

Concepts prospectifs |

* Anticipation (IA)
* IA-complet
* IA générale
* Risque de catastrophe planétaire lié à l'intelligence artificielle générale
* Superintelligence

Règlementation |

* Réglementation de l'IA
* Règlement de l'UE

Organisations |

* Agence francophone pour l'IA
* Anthropic
* Google DeepMind
* OpenAI
* Partenariat sur l'IA

Ouvrages |

* Déclaration de Montréal pour un développement responsable de l'intelligence artificielle
* Lettre ouverte sur l'IA
* Power and Progress
* Intelligence artificielle : une approche moderne
* I.A. La Plus Grande Mutation de l'Histoire

* Portail de l’intelligence artificielle
* Portail de la sécurité des systèmes d'information

*[1er]: premier
*[p.]: pages
*[v]: Voir ce modèle.
*[m]: Modifier ce modèle. Merci de prévisualiser avant de sauvegarder.