TASFR T30527-b-fr Contrôle de lémergence dans les systèmes dagents cognitifs autonomes. Vers la...

TASFR

T30527-b-fr

Contrôle de l’émergence dans les systèmes d’agents cognitifs autonomes.

Vers la génération automatique d’agents autocontrôlés

Caroline ChopinaudAmal El Fallah Seghrouchni

Patrick TaillibertLe 27 Février 2006 – Séminaire SMA – LIP6

2

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Contexte et Problématique

Contexte Applications critiques

Systèmes embarqués Systèmes temps réels

Utilisation des systèmes multiagents (SMA) Réduire la complexité de conception (modularité) Augmenter la robustesse (décentralisation, autonomie)

Problématique Confiance dans le comportement du SMA

Etre en accord avec les spécifications Eviter les comportements inattendus pouvant entraîner

l’échec du système

3

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Problèmes de confiance

Autonomie des agents Prend seul ses décisions [Barber 99]

Emergence du comportement du système Comportements attendus Comportements inattendus

Peut entraîner l’échec du système

Apparition de comportements indésirables = comportements inattendus

ne respectant pas les spécifications du système

4

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Problème supplémentaire

Bugs du système Vérification classique pas sûre à 100%

Model Checking sur un modèle du système (très coûteux) Tests non exhaustifs Démonstration automatique lourde et complexe

SMA accroît les difficultés de validation Modélisation (explosion d’états)

Indéterminisme Distribution Communication asynchrone

Apparition d’erreurs en condition réelle d’exécution

5

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Objectif!

Garantir qu’un SMA ne génèrera pas de comportements indésirables

6

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Plan de l’exposé

Le contrôle d’agents

La description du contrôle

Génération des agents autocontrôlés

7

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Le contrôle d’agent

3 étapes :

Surveillance du comportement des agents

Détection des comportements indésirables

Régulation du comportement des agents problématiques

8

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Surveillance du comportement

Monitoring (software) : Observation et compréhension du

comportement d’un programme au cours de son exécution

Instrumentation des programmes pour observer les événements Insertion de sondes logicielles Manuelle ou automatique

Instrumentation automatique Code des agents Facilite le travail du développeur Réduit le risque d’erreur

9

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr


3 étapes :




10

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Détection des comportements indésirables (1)

Normes

Définition des comportements ou des situations idéales

Contraintes/indications sur le comportement Éviter des conflits Restreindre les possibilités d’action des agents Confiance entre les agents

Accepter et respecter les normes au moment de la prise de décision

11

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Détection des comportements indésirables (2)

Lois Normes non prises en compte au moment de

la prise de décisions Séparation de la définition du contrôle et de

l’implémentation des agents

Définissent des comportements et des situations souhaités ou redoutés

Correspondent aux exigences significatives du fonctionnement du système

Détection de transgression des lois

12

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr


3 étapes :




13

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Régulation du comportement

Effectuée par les agents eux-mêmes Capacité de raisonnement Informations de transgression

Stratégie de régulation Fournie par le développeur Associée à la transgression d’une loi

14

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Plan de l’exposé



La génération des agents autocontrôlés

15

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Description des lois

Fournit un ensemble de concepts de base Utilisés dans les lois Utilisés pour décrire l’application et le modèle

d’agent Étendus pour raffiner la description

Par le concepteur du modèle et de l’application Reliés à l’implémentation du modèle d’agent

Définition de liens par les concepteurs

Fournit un langage de lois Description d’actions ou d’états

Redoutés Souhaités

Notion de temps ou de relation temporelle

16

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Concepts de base

Agent Caractéristique

Message Objet But Plan Connaissance

Action CreationAgent ReceptionMessage EnvoiMessage Migration

17

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Exemples

Concepts : Agent(nom, type) EnvoiMessage(expéditeur, destinataire, message)

Liens concepts/implémentation :hook(‘EnvoiMessage’,

predicate(sendMessage, 2),

[MESSAGE, RECEIVER],

[argument(1), argument(2)]).

18

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Langage de description (1)

Opérateurs déontiques. Interdiction (FORBIDDEN) Obligation (OBLIGED)

Actions Agent do Action Action ou changement de valeur d’une Caractéristique

Etats Agent be State Etat résultant d’une Action ou valeur d’une Caractéristique

Notion temporelle BEFORE/AFTER (une action) [avec du temps (+/- secondes)] IF (un état)

Enchaînement d’actions/états THEN

Conjonction d’actions/états AND

19

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Langage de description (2)

Sous-ensemble de la logique déontique dynamique [Meyer 85]

Logique modale Opérateur déontique standard [von Wright 51]

Obligation Interdiction Permission

Exprime la différence entre l’idéal et le réel (notion de violation)

Relation temporelle entre actions et états du monde

20

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Exemple de lois

(agent : Agent)FORBIDDEN (agent do EnvoiMessage)

AFTER (agent do EnvoiMessage) – 10.

(agentA : Agent && agentB : Agent)FORBIDDEN (agentA do Migration)

IF (agentB be Migration).

(agentA : Agent)OBLIGED (agentA do EnvoiMessage and content = « A »)AND (agentA do EnvoiMessage and content = « B »).

21

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Plan de l’exposé



La génération des agents autocontrôlés

22

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Agent autocontrôlés (1)

Génération automatique à partir de Programme de comportement Ensemble de lois associées Liens entre les concepts et l’implémentation

Autocontrôle Principe de l’observateur Architecture d’agent spécifique

23

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Principe de l’observateur

PROGRAMME SOUS

SURVEILLANCEMODELE

CONTROLEUR

CONNEXIONS

24

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Principe de l’observateur

MODELEPROGRAMME

Début S1

Début S2

Fin S1

Fin S2

25

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Agent autocontrôlé (2)

Principe de l’observateur [Diaz 1994]

Installer au sein des agents

Modélisation des lois sous forme de réseau de Petri

Relier les lois au programme des agents par des points de contrôle

26

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Génération automatique (1)

Insertion des points de contrôle (instrumentation)

Utilisation du tissage Principe de la programmation par aspect [Wampler

2003] Injection de code à partir de la définition de point de

jonction.

Au niveau des événements décrits dans les lois

A partir de la description des liens concepts/implémentation

27

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr


Génération automatique du réseau de Petri.

LOI

Expression logique

{Réseaux de Petri}

RESEAU DE PETRI

Règles de fusion

Régles de traduction en RP

Règles de traduction en DDL

28

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Règles de génération

Règles de traduction en DDL FORBIDDEN a => F a FORBIDDEN a AFTER b => [b]F a FORBIDDEN a BEFORE b => done(b) v F a …

Règles de traduction en RP F a => <(pi,pj),ta,Pre*(pi,ta),Post(pj,ta)> O a => <(pi,pj),ta,Pre(pi,ta),Post(pj,ta)> …

Règles de fusion [b]O a =>merge(Post(p,tb), Pre(p,ta) a v b => merge(Pre(p,tb),Pre(b,ta)) …

29

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr


FORBIDDEN (ACT2) AFTER (ACT1) - 1=> [ACT1](done(time(1)) v F(ACT2))

ACT1

ACT2

[1,1]ACT1

done(time(1)) F(ACT2)

a v b[a]b

30

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Architecture de contrôle

Partie Comportement

Partie Contrôle

Informations

Infos transgression

Stratégies deRégulation

ComportementSurveillance ducomportement

Détection de transgression

31

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Fonctionnement du contrôle

ClauseAction1(…)PC(EV1)………PC(EV2)ClauseAction2(…)

Code de l’agent

[1,1]

Information de transgression

FORBIDDEN (agent do action2) after (agent do action1) – 1.

32

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

A propos du contrôle multiagent

Loi concernant plusieurs agents

Génération du RP Comme pour un seul agent

Détection des transgressions Répartition du réseau entre les parties contrôles

Règles de distribution Interaction des parties contrôles

Passation du jeton

Régulation du ou des agents incriminés Stratégies de régulation A l’étude

33

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Implémentation et application

Framework SCAAR Permet la génération automatique d’agents

autocontrôlés Première version en cours écrite en Prolog

Application au SMA « Interloc » Permet la localisation passive d’objets en

mouvement Utilisé pour démontrer la robustesse des

applications multiagents Propose des comportements incohérents (sourds,

muets, égoiste…) Réalisé en Prolog Utilise la plateforme ALBA

Librairie Prolog pour la création de SMA

34

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Conclusion

Contrôle d’agent Par les agents eux-mêmes A l’aide de lois

Framework SCAAR Fournit des concepts de base pour décrire l’application

Langage de description des concepts Langage de description des liens concepts/implémentation

Fournit le langage de description des lois (Implémenté) Permet la génération des agents

Génération des réseaux de Petri (Implémenté) Instrumentation du code des agents (Implémenté en partie) Mise en place d’une architecture de contrôle (Implémenté)

35

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Publications

1. Caroline Chopinaud. Contrôle dynamique d'agents autonomes. RJCIA'05. Plateforme AFIA. Prix du meilleur exposé

2. Caroline Chopinaud, Amal El Fallah Seghrouchni and Patrick Taillibert. Dynamic self-control of autonomous agents. PROMAS’05 (Workshop at AAMAS’05).

3. Caroline Chopinaud, Amal El Fallah Seghrouchni and Patrick Taillibert. Automatic generation of self-controlled autonomous agents. IEEE/WIC/ACM, IAT'05. (short paper).

4. Caroline Chopinaud, Patrick Taillibert, Amal El Fallah Seghrouchni. Contrôle de la conformité des comportements individuels d'agents cognitifs autonomes. JFSMA'05, Edition Hermes. Prix du meilleur papier.

5. Caroline Chopinaud. Contrôle dynamique d'agents autonomes. Bulletin de l'AFIA, à paraître. (résumé).

6. Caroline Chopinaud, Amal El Fallah Seghrouchni and Patrick Taillibert. Dynamic Self-control of autonomous agents. PROMAS post-proceedings, LNCS, Springer Verlag, to appear.

7. Benjamin Deveze, Caroline Chopinaud and Patrick Taillibert. ALBA: a Generic Library for Programming Mobile Agents with Prolog. PROMAS’06.To appear.

36

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

Ce qu’il reste à faire

Terminer l’implémentation de SCAAR Les langages de concepts et de liens Le tissage du code des agents Les lois multiagents

Etudier la partie régulation Trouver un début de solution (Aide au

développeur des stratégies)

Rédiger!!!!

37

TA

SFR

– 2

4/0

1/0

6

T3

05

27-b

-fr

…MERCI!!!

Fin…

TASFR T30527-b-fr Contrôle de lémergence dans les systèmes dagents cognitifs autonomes. Vers la...

Documents

Transcript of TASFR T30527-b-fr Contrôle de lémergence dans les systèmes dagents cognitifs autonomes. Vers la...