Transcript Document 7212091

Module Cognition et Connaissance
Réseaux bayésiens
Réseaux bayésiens
 Damien CRAM
[email protected]
 Madeth MAY
[email protected]
 Rémi GUELTON
[email protected]
 Sereysethy TOUCH
[email protected]
14 novembre 2005
1
Module Cognition et Connaissance
Réseaux bayésiens
1
PLAN DE LA PRESENTATION
1. Introduction aux Réseaux bayésiens
2. Théorème de Bayes
3. Notion de causalité
4. Inférences
5. Apprentissage
6. Des applications des Réseaux bayésiens
7. Conclusion
8. Bibliographies
2
>> Plan de la présentation
Module Cognition et Connaissance
Réseaux bayésiens
2
1. Introduction aux Réseaux bayésiens
Généralité
Un des enjeux principaux dans le domaine de la recherche IA est d'être capable de concevoir
et développer des systèmes dynamiques et évolutifs.
➙ Comportements intelligents qui peuvent apprendre et raisonner.
Problèmes? Les connaissances acquises ne sont pas toujours adéquates afin de permettre au
système de faire une décision la plus appropriée possible.
Solutions? Plusieurs méthodologies ont été proposées.
➙ Choix : les approches probabilistes
Mieux adaptées
- au raisonnement avec la connaissance et la croyance incertaine
- à la structure de la représentation de la connaissance
3
>> Introduction aux Réseaux bayésiens\Généralité
Module Cognition et Connaissance
Réseaux bayésiens
3
1. Introduction aux Réseaux bayésiens
Approches probabilistes
Chaque état de changement (événement) dans le monde réel peut être modélisé sous forme
de probabilité.
Par exemple, modéliser certains états de changement d’une voiture, d’un corps
humain, d’un marché financier, etc.
 La probabilité d'un événement A est un nombre compris entre 0 et 1
 Si P(A) = 1 alors la chance pour laquelle l'événement A aura lieu est certaine
 Deux événements A et B sont dits indépendants si P(A,B) = P(A) . P(B)
 Etant donné que l'événement B s’est produit, la probabilité de l’événement A se produira
est x, et s’écrit P(A|B) = x
4
>> Introduction aux Réseaux bayésiens\Approches probabilistes
Module Cognition et Connaissance
Réseaux bayésiens
4
1. Introduction aux Réseaux bayésiens
Réseaux bayésiens (1/2)
Définition
Les réseaux bayésiens sont la combinaison des approches probabilistes et la théorie de
graphes. Autrement dit, ce sont des modèles qui permettent de représenter des situations de
raisonnement probabiliste à partir de connaissances incertaines.
Ils sont aussi connus sous le nom de "belief networks", "causal networks".
 Un réseau bayésien est un graphe acyclique orienté(1) i.e. c'est un graphe orienté sans
circuit.
 Chaque nœud d’un réseau bayésien porte une étiquette qui est un des attributs de
problème.
(1) On dit souvent: un DAG. De l’anglais directed acyclic graph.
5
>> Introduction aux Réseaux bayésiens\Réseaux bayésiens\Définition
Module Cognition et Connaissance
Réseaux bayésiens
5
1. Introduction aux Réseaux bayésiens
Réseaux bayésiens (2/2)
Exemple
A et C sont conditionnellement indépendants alors on peut dire
la probabilité P(A|B,C) = P(A|B)
B
C’est-à-dire que la probabilité de A ne dépend que celle de B
A
C
La probabilité jointe de toutes les variables est
P(A,B,C) = P(A|B) . P(B) . P(C|B)
6
>> Introduction aux Réseaux bayésiens\Réseaux bayésiens\Exemple
Module Cognition et Connaissance
Réseaux bayésiens
6
2. Théorème de Bayes
Révérend Thomas Bayes, 1702-1761, un théologien et mathématicien britannique qui a écrit
une loi de base de probabilité qui est maintenant appelée le théorème de Bayes.
Deux événement A et B qui sont conditionnellement dépendants et un contexte c, le théorème
de Bayes peut être représenté comme ci-dessous :
Où
P(B|A,c) est la probabilité a posteriori ou la probabilité de B après avoir pris en compte
l'effet de A dans un contexte c,
P(B|c) est la probabilité a priori de l'événement B,
P(A|B,c) est la probabilité de A si l'on suppose que B est vrai dans un contexte c. Elle est
appelée aussi la "vraisemblance",
P(A|c) est la normalisation.
7
>> Théorème de Bayes
Module Cognition et Connaissance
Réseaux bayésiens
7
2. Théorème de Bayes
Exemple
Supposez que vous habitez à Londres, Angleterre, et d'après votre connaissance, pendant
l'hiver, il pleut 50% du temps et que c'est nuageux 80% du temps (quelquefois c'est nuageux
sans pluie). Vous savez, bien sûr, que 100% du temps, s'il pleut, alors c'est aussi nuageux.
Quelle est la chance que vous pensez qu'il va pleuvoir sachant qu'il soit simplement nuageux?
En appliquant la règle de Bayes, on peut calculer ceci
Où
Pl
N
: il pleut à Londres
: Il est nuageux
Donc, 5/8 du temps, à Londres pendant hiver, si c'est nuageux, alors c'est pluvieux.
8
>> Théorème de Bayes\Exemple
Module Cognition et Connaissance
Réseaux bayésiens
8
3. Notion de causalité
 Il s’agit de la notion de « causes » et « effets »
 Si A et B sont en relation causale, on les relie par une flèche orientée.
A
B
9
>> Notion de causalité
Module Cognition et Connaissance
Réseaux bayésiens
9
3. Notion de causalité
Exemple (1/2)
Ce matin-là, alors que le temps est clair et sec, M. Homles sort de sa maison. Il s’aperçoit que
la pelouse de son jardin est humide. Il se demande alors s’il a plu pendant la nuit, où s’il a
simplement oublié de débrancher son arroseur automatique. Il jette alors un coup d’œil à la
pelouse de son voisin, M. Watson, et s’aperçoit qu’elle est également humide. Il en déduit
alors qu’il a probablement plu, et il décide de partir au travail sans vérification son arroseur
automatique.
10
>> Notion de causalité\Exemple
Module Cognition et Connaissance
Réseaux bayésiens
10
3. Notion de causalité
Exemple (2/2)
Prenons
•A
: J’ai oublié de débrancher mon arroseur automatique.
•P
: Il a plu pendant la nuit.
•J
: L’herbe de mon jardin est humide.
•W
: L’herbe du jardin de M. Watson est humide.
A
P
J
W
11
>> Notion de causalité\Exemple
Module Cognition et Connaissance
Réseaux bayésiens
11
4. Inférences (1/4)
 Propager une ou plusieurs informations certaines au sein de réseaux bayésiens
 Déduire comment sont modifiées les croyances concernant les autres nœuds
 Inconvénient: le temps de calcul est exponentiel
12
>> Inférences
Module Cognition et Connaissance
Réseaux bayésiens
12
4. Inférences (2/4)
Probabilité a priori
Événement
Probabilité
Commentaire
A=V
0.4
A=F
0.6
M. Holmes oublie assez souvent de
débrancher son arroseur automatique.
P=V
0.4
La région est relativement pluvieuse
P=F
0.6
Probabilités conditionnelles
A=V
A=F
P=V
P=F
P=V
P=F
P=V
P=F
W=V
1
0
J=V
1
1
1
0
W=F
0
1
J=F
0
0
0
1
13
>> Inférences\Probabilité a priori et Probabilités conditionnelles
Module Cognition et Connaissance
Réseaux bayésiens
13
4. Inférences (3/4)
 Un peu de calcul…
•
•
P(A=V|J=V) = 0.625
•
P(P=V|J=V) = 0.625
•
P(A=V|J=V,W=V) = 0.4
P(P=V|J=V,W=V) = 1
14
>> Inférences\Un peu de calcul…
Module Cognition et Connaissance
Réseaux bayésiens
14
4. Inférences (4/4)
Plusieurs méthodes sont proposés:
Conditionnement
Arbre de jonction
Méthodes approchées
…
15
>> Inférences\Méthodes
Module Cognition et Connaissance
Réseaux bayésiens
15
5. Apprentissage
 Permettre de trouver des paramètres nécessaires pour faire des inférences.
 Deux méthodes sont utilisés:
- Apprentissage de paramètres,
- Apprentissage de structure.
16
>> Apprentissage
Module Cognition et Connaissance
Réseaux bayésiens
16
6. Des applications des réseaux bayésiens (1/2)
 Marketing/Finance :
• ATT : détection de fraudes pour les factures de téléphone
• Altaprofit : optimisation de portefeuilles
 Informatique :
• Microsoft : différents assistants de résolution de problèmes, l’assistant Office.
• MODIST : évaluation de la qualité pour des développements logiciels
• Reconnaissance de la parole, d’objets 3D…
• Diagnostic
17
>> Des applications des réseaux bayésiens
Module Cognition et Connaissance
Réseaux bayésiens
17
6. Des applications des réseaux bayésiens (2/2)
 Médecine :
• Aide au diagnostic de problèmes cardio-vasculaires
• Surveillance transfusionnelle, ...
 Industrie :
• NASA : (Vista) aide au diagnostic de pannes en temps réel pour les systèmes de
propulsion de la navette
• Lockheed Martin : système de contrôle d’un véhicule sous-marin autonome
• Ricoh : aide au télédiagnostic
• EDF : modélisation de groupes électrogènes
 Environnement :
• Prédiction des pics d’ozone
• Prévisions météo
18
>> Des applications des réseaux bayésiens
Module Cognition et Connaissance
Réseaux bayésiens
18
6. Des applications des réseaux bayésiens
Exemples
AutoClass (NASA)
• Création de classes « naturelles » à partir de données numériques
• Appartenance probabiliste
• Gestion de données manquantes
19
>> Des applications des réseaux bayésiens\Exemples\AutoClass(NASA)
Module Cognition et Connaissance
Réseaux bayésiens
19
6. Des applications des réseaux bayésiens
Exemples
De nombreuses utilisations pour la NASA et pour d’autres
20
>> Des applications des réseaux bayésiens\Exemples\Nombreuses utilisations …
Module Cognition et Connaissance
Réseaux bayésiens
20
6. Des applications des réseaux bayésiens
Exemples
Aide au diagnostic médical
Diagnostique d’une maladie pulmonaire à partir de:
• les symptômes du patient
• ses activités
• les résultats de la radiographie
21
>> Des applications des réseaux bayésiens\Exemples\Aide au diagnostic médical
Module Cognition et Connaissance
Réseaux bayésiens
21
6. Des applications des réseaux bayésiens
Construction d’un réseaux bayésien
La construction d’un réseau bayésien se fait en 4 étapes:
1 - création des variables représentant l’univers
2 - définition de l’ensemble des valeurs possibles pour chaque variable
3 - définition des relations de dépendances entre les variables
4 - attribution des probabilités conditionnelles
22
>> Des applications des réseaux bayésiens\Construction d’un réseau bayésien
Module Cognition et Connaissance
Réseaux bayésiens
22
6. Des applications des réseaux bayésiens
Revenons à l’exemple
Aide au diagnostic
démonstration avec BayesiaLab
23
>> Des applications des réseaux bayésiens\Démonstration avec BayesiaLAB
Module Cognition et Connaissance
Réseaux bayésiens
23
7. Conclusion
Les réseaux bayésiens
 Formalisme mathématique rigoureux basé sur des règles.
 Outil puissant pour l’aide à la décision et au diagnostic.
 Intelligence artificielle: exploitation des connaissances incertaines.
 Limites: causalité, complexité.
24
>> Conclusion\Les réseaux bayésiens
Module Cognition et Connaissance
Réseaux bayésiens
24
7. Conclusion
Etat de la recherche
Projet SIGMA2 de l’INRIA:
 Automobile: identification du comportement dynamique d'un véhicule routier
 Télécommunications: diagnostic de pannes dans les réseaux de télécommunications
 Aéronautique: diagnostic de pannes dans les réseaux de télécommunications
 Chaînes de Markov: systèmes dynamiques stochastiques, optimisation d’un portefeuille
 Optimisation d’algorithmes
25
>> Conclusion\Etat de la recherche
Merci de votre attention
?
Questions
26
Module Cognition et Connaissance
Réseaux bayésiens
8. Bibliographies
[1] : Pearl, J. (1988). Probabilistic Reasoning in Intelligent Systems: Networks of Plausible
Inference. Morgan Kaufmann, San Mateo, CA.
[2] : Howard, R. A., & Matheson, J. E. (1981). Influence diagrams. In Howard, R. A., &
Matheson,
J. (Eds.), The Principles and Applications of Decision Analysis, page 720–762. Strategic
Decisions Group, CA.
[3] : Antoine Cornuéjols, Laurent Miclet, Apprentissage artificiel: Concepts et algorithmes,
édition Eyrolles, page 364-365.
[4] : Stutz, J. & P. Cheeseman, "A Short Exposition on Bayesian Inference and Probability."
June 1994. National Aeronautic and Space Administration Ames Research Centre:
Computational Sciences Division, Data Learning Group,
[5] : Thomas Richardson. Bayes Net course, Helsinki, April 1997. Lecture 4 part 2, page 5.
http://www.cs.helsinki.fi/research/cosco/Calendar/BNCourse/Notes.html
[6] : Todd A. Stephenson. An introduction to Bayesian network theory and usage. IDIAP-RR 0003, febuary 2003
27