Inteligencia Arti�cial Distribuida y Sistemas

Multiagente

Ana Garc��a Serrano

ISYS

Departamento de Inteligencia Arti�cial

Universidad Polit�ecnica de Madrid

agarcia@dia.�.upm.es

Sascha Ossowski

ESCET

Departamento de Inform�atica

Universidad Juan Carlos de Madrid

s.ossowski@escet.urjc.es

Resumen

Se presenta una panor�amica de la Inteligencia Arti�cial Distribuida y de los Sistemas Multiagente,describiendo los conceptos relacionados y los objetivos de las diferentes l��neas de actuaci�on: la Resoluci�onDistribuida de Problemas, los Sistemas Multiagente y los Agentes Aut�onomos.

1 Inteligencia Arti�cial Dis-

tribuida

El avance tecnol�ogico en las comunicaciones lle-va al planteamiento de nuevos escenarios en losque es necesaria la compartici�on y la coordi-naci�on y por consiguiente nuevas metodolog��as,t�ecnicas y entornos de soporte inform�atico paradesarrollo de sistemas que incluyan los aspectosde coordinaci�on y distribuci�on.

La Inteligencia Arti�cial, campo de la in-form�atica, no ha sido impasible a este avancey a �nales de los a~nos setenta aparecen los pri-meros trabajos en Inteligencia Arti�cial Distri-buida (aunque la primera reuni�on tem�atica fueen 1980). Su objeto es el estudio de modelosy t�ecnicas para resoluci�on de problemas en losque la distribuci�on, sea f��sica o funcional, seainherente. La met�afora de la `inteligencia' uti-lizada est�a fundada en diferentes met�aforas delas ciencias exactas y sociales, como la biolog��a,la f��sica y la sociolog��a. Los individuales hetre-rogeneos e independientes del sistema son `in-teligentes' si alcanzan un cierto grado de adap-taci�on mutua.

Los sistemas tradicionales de la Inteligencia Ar-ti�cial se conciben individualmente como unagente monol��tico cuyo comportamiento ser��adescrito como `racional' por un observador ex-terno. A principios de los a~nos ochenta los sis-temas para resoluci�on distribuida de problemasse caracterizaban por una forma de actuaci�onconcurrente en los diferentes nodos de una red,en general con control centralizado, de formaque los diferentes componentes son impasiblesante las actuaciones del resto de los componen-tes de la red. En este caso el objeto de estudioes la coordinaci�on para resoluci�on distribuidade problemas. Ejemplo paradigm�atico de esta�epoca es la arquitectura de pizarra del sistemaHearsay [Erman et al. 80].

Al principio de los a~nos noventa aparecen sis-temas multiagente con control descentralizadoy con m�odulos reusables [Demazeau 91]. Losagentes de un sistema multiagente se concibencomo independientes de un problema en concre-to y se dota al sistema de protocolos de comu-nicaci�on su�cientemente gen�ericos. Un ejemploes ARCHON [Cockburn y Jennings, 95].

Recientemente los trabajos se han orientado al

1

estudio de la interoperabilidad de sistemas he-terog�eneos distribuidos o de agentes aut�onomosy a su forma de adaptarse a entornos din�amicos.

En general, los sistemas IAD se caracterizanpor una arquitectura formada por componen-tes inteligentes y modulares que interact�uan deforma coordinada. No existe una terminolog��acompartida en la IAD, ni esquemas de clasi�-caci�on reconocidos por la mayor��a, aunque nohay discrepancias substanciales en cuanto a lasventajas que ofrece el enfoque IAD sobre losparadigmas convencionales:

1. Como los sistemas distribuidos convencio-nales, los sistemas de la IAD aprovechanla distribuci�on natural del dominio (espa-cial, temporal, funcional) con los �nes si-guientes: mejorar el rendimiento, la robus-tez, facilitar reusabilidad y mantenimien-to. Adem�as una arquitectura distribuidafacilita el aprovechamiento del paralelismoinherente en la estructura de un problema.

2. Los sistemas IAD generan un valor a~nadi-do, que se mani�esta en: una mejor acep-tabilidad en la sociedad, favorecer la adap-taci�on estructuras preexistentes en las or-ganizaciones humanas y facilitar la interac-ci�on hombre-m�aquina.

3. Favorecen el desarrollo de modelos cogni-tivos de cooperaci�on y coordinaci�on comofen�omenos complejos y generan evidenciapara teor��as ling�u��sticas, psicol�ogicas, so-ciol�ogicas y �los�o�cas respecto a estos te-mas.

Pueden encontrarse diferentes trabajos que pre-sentan el panorama general de la investigaci�onactual en el campo de la Inteligencia Arti�cialy de los sistemas multiagente [Bond et al. 88][Parunak 88] [Castillo-Hern 88] [Gasser et al.89] [Shi 91] [Chaib-Draa 92] [von Martial 92][Gasser 93] [Molin et al. 96]. Ultimamente, hanaparecido m�as articulos destinados a caracteri-zar alguna de las muchas corrientes de investi-gaci�on [Wooldridge et al. 95] [Chaib-Draa 95][Franklin et al. 96] [Nwana 96] [Castelfranchi etal. 96] [Wooldridge 98] [Huhns, Stephens 98].

A continuaci�on, se presenta la Inteligencia Ar-ti�cial Distribuida desde la perspectiva de laResoluci�on Distribuida de Problemas, los Siste-mas Multiagente y los Agentes Aut�onomos.

2 Resoluci�on Distribuida de

Problemas

La resoluci�on distribuida de problemas (RDP)estudia los sistemas inteligentes distribuidoscon una funcionalidad global y cuyos agentescumplen unas caracter��sticas m��nimas de (Dur-fee, Rosenschein, 94):

� Benevolencia: Los agentes cooperan conlos dem�as siempre que les sea posible. Nopueden `mentir', ni esconder informaci�on.

� Objetivos compartidos: Todos los agentesvaloran el resultado de la actividad del gru-po con la misma escala y desean contribuirpara maximizar su calidad.

� Dise~no central: Todos los agentes se di-se~nan para que se integren en un sistemainteligente, capaz de resolver un problema.El dise~nador debe asegurar que los agentesutilicen el mismo lenguaje, que cada agen-te desempe~ne un papel que in uya en laconsecuci�on del objetivo global etc.

El proceso de razonamiento en un grupo deagentes de un sistema RDP se puede subdividiren cuatro diferentes etapas (en general) (Yang,Zhang 96):

� Descomposici�on de tareas: una tarea sedescompone en tareas menos complejas om�as peque~nas.

� Asignaci�on de tareas y recursos entre agen-tes: se determina qu�e agentes tendr�an queresolver una tarea y de los recursos que dis-ponen.

� Resoluci�on de subproblemas: cada agenteresuelve las tareas que le han sido asigna-das.

� Integraci�on de soluciones: para componery conseguir una soluci�on a la tarea inicial.

El dilema b�asico de la RDP consiste en realizartal proceso de forma globalmente coherente, yaque las decisiones globales se toman localmentepues ning�un componente dispone de una visi�oncompleta del proceso de resoluci�on del proble-ma.

Debido a que la distribuci�on del conocimientoentre los componentes no tiene por qu�e coincidir

con la estructura del problema, se produce undesajuste de modelos [Ossowski 97], es decir,los agentes dependen de la ayuda de los dem�aspara acceder al conocimiento o a la informaci�onque existe en el sistema. Se pueden distinguirtres casos:

� Distribuci�on del conocimiento del caso: Unagente no necesita acceder a un recurso quegestiona otro agente, p. e. los datos de unsensor.

� Distribuci�on del conocimiento del dominio:Un agente no dispone del conocimiento ne-cesario para resolver una tarea y la delegaen otro agente.

� Distribuci�on del conocimiento de control(de tareas): Un agente no sabe tramitaruna tarea por lo que la pasa a un agentegestor, p. e. un plani�cador que descom-pone la tarea y asigna las subtareas.

Esta problem�atica implica la necesidad de quelos agentes coordinen sus acciones. Los diferen-tes mecanismos de coordinaci�on en la RDP sepueden clasi�car en tres grandes grupos (Jen-nings 96):

� Estructuras de organizaci�on: En el contex-to de la RDP las estructuras de organiza-ci�on se conciben como patrones est�aticosde relaciones de informaci�on y de controlentre los agentes.

Por ejemplo, se de�nen �areas de inter�es pa-ra cada agente, en las que se especi�can lastareas de las que el agente es responsable yse de�nen estructuras de `autoridad', pararesolver con ictos en caso de que las �areasde inter�es se solapen.

� Plani�caci�on multiagente: Antes de co-menzar el proceso de resoluci�on del proble-ma los agentes generan un plan en el que seespeci�can todas sus futuras interacciones.

La plani�caci�on se realiza de forma centra-lizada, todos los agentes mandan sus inten-ciones de actuaci�on a un agente coordina-dor. Este coordinador detecta relacionescon ictivas y sin�ergicas entre las accionespotenciales y las coordina para generar elplan del grupo.

En el caso de plani�caci�on multiagente dis-tribuida, ning�un agente dispone de conoci-

miento sobre todas las actividades del gru-po, lo cual di�culta considerablemente elproceso de plani�caci�on.

� Intercambio de informaci�on a metanivel:Este mecanismo facilita la coordinaci�ondin�amica, es decir articula el proceso deresoluci�on de problemas con el de plani�-caci�on.

Los agentes mantienen los modelos sobrelos dem�as intercambiando informaci�on me-tanivel referente a su percepci�on del estadode resoluci�on del problema. De este mo-do predicen localmente las acciones de losdem�as y eligen las acciones locales compa-tibles.

Las arquitecturas cl�asicas de la RDP son losactores [Hewitt 77] la red de contratos [Smith80 ] y [Davis et al 83] y la arquitectura de pi-zarra [Engelmore et al 88]. En estos enfoquesla �losof��a de dise~no es reduccionista ya que sedescompone la tarea global de forma top-downy se asignan las subtareas a los agentes.

Las nuevas aproximaciones asumen un enfoquemas constructivo, ya que los agentes resuelvensubproblemas y se coordinan para alcanzar lafuncionalidad global (metodolog��a bottom-up)[Jennings, Campos 97]. En los temas 2 y 3 deeste monogr�a�co se presentan diferentes meto-dolog��as para afrontar el desarrollo de sistemasdistribuidos y se muestra la potencialidad deeste campo para desarrollo de aplicaciones entiempo real que controlen funciones de alto ni-vel con gran volumen de operadores de control.

3 Sistemas Multiagente

En un sistema multiagente el conjunto de agen-tes est�a sometido continuamente a cambios lo-cales. Estos cambios se dise~nan mediante reglasde comportamiento, cuyos resultados est�an in- uenciados por el comportamiento del resto deagentes. En los sistemas multiagente reactivosestas reglas de comportamiento son muy sim-ples y est�an inspiradas por ejemplo por las cien-cias biol�ogicas [Ferber 96].

En el caso de agentes cognitivos las reglas decomportamiento se corresponden con el prin-cipio de racionalidad. Por tanto, los sistemasmultiagente (SMA) no presuponen las propie-

dades de benevolencia, metas compartidas y di-se~no centralizado para la resoluci�on de proble-mas. Su perspectiva est�a centrada en la inte-racci�on entre los agentes y se caracterizan por[Durfee, Rosenschein 94]:

� Heterogeneidad de agentes: Los agentes deun sistema SMA pueden contar con arqui-tecturas diferentes, utilizar diferentes re-presentaciones internas, comunicarse condiferentes lenguajes etc. Generalmente es-ta situaci�on es consecuencia de que el siste-ma y sus agentes no hayan sido dise~nadospor una �unica persona y para un �n �unico.

� Homogeneidad de intereses: Un caso ex-tremo de heterogeneidad se da cuando losagentes no son "conscientes"de que persi-guen un objetivo com�un o este objetivo noexiste. Entonces los agentes act�uan de for-ma auto-motivada (`ego��sta'), emprendien-do acciones �unicamente si son individual-mente racionales, es decir, bene�ciosas pa-ra ellos.

En este �area el objeto de estudio son las situa-ciones en las que agentes de este tipo coope-ran, formando coaliciones, bajo qu�e condicionesse retiran de una coalici�on, y cuando compiten[Sandholm 98] y [Conte, Castelfranchi 95]. Es-te enfoque se trata en los temas 4 y 6 de estemonogr�a�co.

Al dise~nar un sistema basado en el conocimien-to para un problema particular se elaboran ba-ses de conocimiento, para seguidamente, con-�gurar mecanismos de inferencia que razonensobre ellas. Sin embargo, este procedimiento esdemasiado costoso para construir sistemas in-teligentes a gran escala y se plantea `reutilizar'bases de conocimiento ya existentes.

Un problema importante que surge a la horade integrar agentes preexistentes reside en laheterogeneidad de sus conocimientos. En estecontexto se est�a promocionando lenguajes in-termedios (un ejemplo es KIF, Knowledge In-terchange Format). Una vez resuelto el pro-blema de las representaciones heterog�eneas, losagentes se entienden en los t�erminos en los quese describe el entorno. Sin embargo, para co-municarse por completo hace falta especi�carun lenguaje de comunicaci�on de agentes quede�na la pragm�atica de mensajes. Una pro-puesta en esta direcci�on es KQML (Knowledge

Query and Manipulation Language) [Finnin etal, 93] un lenguaje de comunicaci�on est�andarentre agentes software. Otra propuesta en es-ta direcci�on, con �enfasis especial en la coordi-naci�on entre agentes es Cool [Barbuceanu, Fox95].

Los sistemas multiagente pueden constituir elmarco adecuado para ello: cada sistema basadoen el conocimiento se concibe como un agenteinteligente, que puede ser utilizado en diferen-tes dominios. Un nuevo sistema se construyeespeci�cando la forma en la que debe intero-perar con agentes ya existentes, delegando enellos una parte de las tareas. De esta formase comparten conocimiento y t�ecnicas de razo-namiento o actuaci�on entre diferentes sistemas[Netches et al 91].

En los temas 5 y 8 de este monogr�a�co se tratandiferentes aspectos de esta problem�atica.

4 Agentes Aut�onomos

Con la proliferaci�on de los ordenadores perso-nales, el auge de la Internet y las autopistas deinformaci�on, la idea de agentes software"se haconvertido en uno de los temas de actualidad yespecialmente cuando se combina con el adje-tivo "inteligente"se generan expectativas sobre"robots software"casi humanos, capaces de rea-lizar tareas sin supervisi�on. Hoy en d��a, se utili-zan agentes software para tareas muy concretascomo son el �ltrado de los mensajes del correoelectr�onico, ayuda en la plani�caci�on de reunio-nes o b�usqueda de referencias de art��culos en lared. Mucho trabajo de desarrollo se concentraen crear un "mercado electr�onico"en el que, apetici�on del usuario, los agentes realicen tareas(por ejemplo compras).

Un planteamiento de estas caracter��sticas serealiza en el tema 7 de este monogr�a�co.

En base a sus �areas de aplicaci�on, se identi�-can diferentes tipos de agentes: agentes interfaz(disponen de informaci�on sobre el usuario y fa-cilitan asistencia en el manejo de una aplicaci�onparticular), agentes de informaci�on (gestionandiferentes fuentes distribuidas de informaci�on)o agentes virtuales [Nwana 96].

Sin embargo, aunque ya no se discuten las ven-

tajas de los agentes software inteligentes en es-tos dominios, existen discrepancias al delimitarel concepto de agente software inteligente. Haytres enfoques, el de caracterizaci�on de agentespor propiedades, como sistemas intencionales ypor el contexto.

En el enfoque basado en propiedades se carac-teriza a un agente software como un procesoinform�atico al que se pueden atribuir una seriede caracter��sticas. La siguiente lista no preten-de ser exhaustiva pero recopila un conjunto depropiedades que se consideran esenciales [Wool-dridge, Jennings 95]:

� Capacidad para resolver problemas no tri-viales: Un agente inteligente sabe razonarsobre el entorno, capacidad que le permiterealizar un conjunto de tareas

� Racionalidad (limitada): Los agentes est�andotados de un conjunto de objetivos y em-prenden acciones para realizarlos. Eligensus acciones seg�un el principio de raciona-lidad, es decir, pre�eren la acci�on mas pro-metedora para sus metas. Sin embargo, suactuaci�on est�a limitada por el tiempo y losrecursos.

� Autonom��a (limitada): Los agentes tienensus propias motivaciones a partir de lasque generan aut�onomamente sus objetivos.Sin embargo, para alcanzar gran parte delos mismos dependen de la ayuda de losdem�as agentes, lo cual pone l��mite a su au-tonom��a.

� Reactividad y Pro-Actividad: Los agentesperciben el entorno y responden a los cam-bios que ocurren en �el. Adem�as, debidoa que generan sus propias metas y pue-den actuar convenientemente son capacesde `tomar la iniciativa'.

� Sociabilidad: Un agente tiene en cuenta laexistencia de otros agentes e interact�ua conellos mediante alg�un tipo de comunicaci�ony un conjunto de convenios.

Hay posturas con una de�nici�on m�as fuerte deagente inteligente al considerarlos como siste-mas intencionales [Dennet 87], es decir, entida-des cuyo comportamiento se puede describir so-bre sus actitudes de informaci�on (conocimientoy creencias) o sobre sus actitudes de decisi�on(deseos, objetivos, inter�es, compromiso, obliga-ci�on, etc). Sin embargo, esta caracterizaci�on

tampoco es satisfactoria. Seg�un el punto de vis-ta del observador, se puede describir todo tipode objetos en �estos t�erminos.

Una tercera alternativa consiste en trasladar elfoco de atenci�on del agente software individualal sistema de agentes. Para ello se de�ne elcontexto para seguidamente derivar la noci�onde agente: Si un sistema inteligente se carac-teriza por la interacci�on din�amica entre com-ponentes (contrario a la estructura jer�arquicadel software habitual) entonces es un sistema deagentes software inteligentes. Los componentesde tal sistema se llaman agentes software inte-ligentes.

Esta visi�on aclara la relaci�on entre la tecnolog��ade agentes software y la IAD. La IAD est�a in-teresada en las relaciones que surgen entre elentorno, el sistema inteligente, y sus compo-nentes, los agentes. El objetivo �ultimo de laIAD es construir un sistema a partir de agentessoftware que exhiba ciertas funcionalidades enun entorno.

5 Conclusi�on

Es dif��cil delimitar los campos relativos a losagentes aut�onomos, a los sistemas multiagentey a la distribuci�on distribuida de problemas yno existe un consenso en la comunidad de IAD.Sin embargo y con el riesgo de simpli�car, sepuede a�rmar que:

� La resoluci�on distribuida de problemas secentra en el problema y en concreto enc�omo construir colectivos de agentes quemuestren las propiedades externas desea-das de robustez y calidad de respuesta.

� La investigaci�on de agentes aut�onomos es-ta centrada en el agente. Se intenta asegu-rar la supervivencia del agente en diferen-tes situaciones del mundo real en entornosmultiagente.

� La investigaci�on en los sistemas multiagen-te se centra en la interacciones entre agen-tes. Se pretende asegurar las propiedadesde estas interacciones, como es la estabi-lidad en sistemas abiertos en los que losagentes son din�amicos e imprevisibles.

Bibliograf��a

� Auman et al. 94, Auman, R.; Hart, S."Handbook of Game Theory". Elsevier,1994

� Axelrod 84, Axelrod, R. "The Evolution ofCooperation". Basic Books, 1984

� Barbuceanu et al. 95, Barbuceanu, M.;Fox, S. "COOL: A Language for Descri-bing Coordination in Multi Agent Sys-tems". Proc. ICMAS-95, 1995, p. 17-24

� Bond et al. 88, Bond, A.; Gasser, L. "Rea-dings in Distributed Arti�cial Intelligen-ce". Morgan Kaufman, 1988

� Brooks 95, Brooks, R. "Intelligence Wit-hout Reason". [Steels et al. 95]

� Campbell et al. 89, Campbell, J.; Cue-na, J. "Perspectives in Arti�cial Intelligen-ce (Vol.1)". Ellis Horwood, 1989

� Castelfranchi 94, Castelfranchi, C. "Gua-rantees for Autonomy in Cognitive AgentArchitectures". [Wooldridge et al. 94],1994, p. 56-70

� Castelfranchi et al. 96, Castelfranchi, C.;Conte, R. "Distributed Arti�cial Intelli-gence and Social Science: Critical Issues".[O'Hare et al. 96], 1996, p. 527-542

� Casti et al. 94, Casti, J.; Karlqvist, A.."Cooperation & Con ict in General Evo-lutionary Processes ", Wiley & Sons, 1994

� Castillo-Hern 88, Castillo-Hern, L. "OnDistributed Arti�cial Intelligence". Know-ledge Engineering Review, Vol.3, 1988, p.21-57

� Chaib-Draa 95, Chaib-Draa, B. "IndustrialApplications of Distributed AI". Commu-nications of the ACM Vol.38 No.11, 1995,p. 49-53

� Chaib-Draa et al. 92, Chaib-Draa, H.;Moulin, B. "Trends in Distributed Arti-�cial Intelligence". Arti�cial IntelligenceReview, No. 6, 1992, p. 35-66

� Clearwater 95, Clearwater. S. (Ed.)."Market-based Control: A Paradigm forDistributed Resource Allocation". WorldScienti�c, 1995

� Cockburn et al. 96, Cockburn, D.; Jen-nings, N. "ARCHON: A Distributed Arti-�cial Intelligence System for Industrial Ap-plications". [O'Hare et al. 96], 1996

� Cohen et al. 90, Cohen, P.; Morgan, J.;Pollack, M. (Eds.). "Intentions in Com-munication". MIT Press, 1990

� Conte et al. 95, Conte, R.; Castelfranchi,C. "Cognitive and Social Action". UCLPress, London, 1995

� Cuena 93, Cuena, J. "Knowledge OrientedSoftware Design". North-Holland, 1993

� Cuena 98, Cuena J., Ossowski S.: "Distri-buted Models for Decision Support". Toappear in "Introduction to Distributed Ar-ti�cial Intelligence". Weiss and Sen (eds.)AAAI/MIT Press, 1998

� Davis et al. 83, Davis, R.; Smith, R. "Ne-gotiation as a Metaphor for DistributedProblem Solving". Arti�cial Intelligence20, 1983, p. 63-109

� Decker 95, Decker, K. "Environment Cen-tered Analysis and Design of CoordinationMechanisms". Ph.D. Thesis, UMass Com-puter Science Dpt., 1995

� Demazeau 95, Demazeau, Y. "From Inte-ractions to Collective Behaviour in Agent-based Systems". Europ. Conf. on Cogni-tive Science, 1995

� Demazeau et al. 91, Demazeau, Y. "De-centralised A.I. 2". North Holland, 1991

� Durfee 88, Durfee, E. "Coordination ofDistributed Problem Solvers". Kluwer,1988

� Durfee et al. 91, Durfee, E.; Lesser, V.;Corkill, D. "Trends in Cooperative Distri-buted Problem Solving". Kluwer, 1991

� Durfee et al. 94a, Durfee, E.; Rosens-chein, J. "Distributed Problem Solving andMulti-Agent Systems: Comparisons andExamples". Proc. 13th Int. DAI Works-hop, 1994, p. 94-104

� Engelmore et al. 88, Engelmore, R.; Mor-gan, T. "Blackboard Systems". AddisonWesley, 1988

� Erman et al. 80, Erman, L.; Hayes-Roth,F.; Lesser, V.; Reddy, D. "The Hearsay-II Speech-Understanding System: Integra-ting Knowledge to Resolve Uncertainty".Computing Surveys 12 (2), 1980, p. 213-253

� Finin et al. 93, Finin, T.; Fritzson, R.;McKay, D.; McEntire, R. "KQML - A Lan-guage and Protocol for Knowledge and In-

formation Exchange". Technical Report ofthe ARPA Knowledge Sharing E�ort, 1993

� Franklin et al. 96, Franklin, S.; Graesser,A. "Is it an Agent, or just a Program?: ATaxonomy for Autonomous Agents". Proc.ATAL'96, 1996, p. 193-206

� Garc��a-Serrano et al. 97, Garc��a-Serrano,A.; Ossowski, S. "Coordinaci�on y Coopera-ci�on en Sistemas Distribuidos". To appearin: An�alisis de Sistemas Complejos (Dola-do Ed.), 1997

� Gasser 91, Gasser, L. "Social Conceptionsof Knowledge and Action: DAI Founda-tions and Open Systems Semantics". Ar-ti�cial Intelligence 47, 1991, p. 107-138

� Gasser et al. 89, Gasser, L.; Huhns,M. "Distributed Arti�cial Intelligence, Vol.II". Morgan Kaufmann, 1989

� Genesereth et al. 94, Genesereth, M.;Ketchpel, S. "Software Agents". Commu-nications of the ACM, Vol.37, No.7, 1994,p. 48-53

� George� et al. 98, George� J.; Rao, A.;Singh, M.: "Formal Methods in DAI". Toappear in "Introduction to Distributed Ar-ti�cial Intelligence". Weiss and Sen (eds.)AAAI/MIT Press, 1998

� Gmytrasiewicz et al. 93, Gmytrasiewicz,P.; Durfee, E. "Reasoning about otherAgents: Philosophy, Theory and Imple-mentation". Int. Workshop on DistributedArti�cial Intelligence, 1993

� Hewitt 77, Hewitt, C. "Viewing ControlStructures as Patterns of Message Pas-sing". Arti�cial Intelligence 8, 1977, p.323-364

� Huhns et al. 98, Huhns, M., Stephens,L.: "Multiagent Systems & Societies ofAgents". To appear in "Introduction toDistributed Arti�cial Intelligence". Weissand Sen (eds.) AAAI/MIT Press, 1998

� Jennings 96, Jennings, N. "CoordinationTechniques for Distributed Arti�cial Inte-lligence". [O'Hare et al. 96], 1996, p. 187-210

� Jennings et al. 97, Jennings, N.; Campos,J. "Towards a Social Level Characterisa-tion of Socially Responsible Agents". IEEProc. on Software Engineering, 144(1),1997

� Malone et al. 94, Malone, T.; Crowston,K. "Toward an Interdisciplinary Theory ofCoordination". Computing Surveys Vol.26 No.1, 1994, p. 87-119

� McCarthy 79, McCarthy, J. "AscribingMental Qualities to Machines". Tech.Rep. Memo 326, Stanford University, AILab, 1979

� Moulin et al. 96, Molin, B.; Chaib-Draa,B. "An Overview of Distributed Arti�cialIntelligence". [O'Hare et al. 96], 1996, p.3-56

� M�uller 96, M�uller, H. "Negotiation Princi-ples". [O'Hare 96], 1996, p. 211-225

� Neches et al. 91 Neches, R.; Fikes, R.;Finin, T.; Gruber, T.; Patil, R.; Sena-tor, T.; Swartout, W. "Enabling Techno-logy for Knowledge Sharing". AI Magazi-ne, 1991, p. 36-56

� Newell 93, Newell, A. "Re ections on theKnowledge Level". Arti�cial Intelligence59, 1993, p. 31-38

� Nwana 96, Nwana, H. "Software Agents:An Overview". Knowledge EngineeringReview, 1996

� O'Hare et al. 96, O'Hare, G.; Jennings,N. "Foundations of Distributed Arti�cialIntelligence". Wiley Sons, 1996

� Ossowski 98, Ossowski, S.: On the Func-tionality of Social Structure in Arti�cialAgent Societies. Se publicar�a en la serieLNAI, Springer

� Parunak 88 , Parunak, H. "Distributed Ar-ti�cial Intelligence Systems". [Kusiak 88],1988, p. 225-251

� Rao et al. 95, Rao, A.; George�, M. "BDIAgents: From Theory to Practice". Proc.ICMAS-95, 1995, p. 312-319

� Rosenschein et al. 94, Rosenschein, J.;Zlotkin, G. "Rules of Encounter: Desig-ning Conventions for Automated Negotia-tion among Computers". MIT Press, 1994

� Russell et al. 95 , Russell, S.; Norvig,P. "Arti�cial Intelligence: A Modern Ap-proach". Prentice-Hall, 1995

� Sandholm 98, Sandholm, T. `DistributedRational Decision Making'. To appear in`Introduction to Distributed Arti�cial Inte-lligence'. Weiss and Sen (eds.) AAAI/MITPress, 1998

� Searle 69 , Searle, J. `Speech Acts'. Cam-bridge University Press, 1969

� Shi 91, Shi, Z. `Distributed Arti�cial Inte-lligence' p.113-120

� Shoham 93, Shoham, Y. `Agent-orientedProgramming'. Arti�cial Intelligence 60,1993, p. 51-92

� Shoham et al. 95, Shoham, Y.; Tennen-holz, M. `On Social Laws for Arti�cialAgent Societies: O�-line Design'. Arti�-cial Intelligence 73, 1995, p. 231-252

� Sichman et al. 95, Sichman, J.; Demazeau,Y. 'Exploiting Social Reasoning to Dealwith Agency Level Inconsistencies'. Proc.ICMAS-95, 1995, p. 352-359

� Smith 80, Smith, R. `The Contract NetProtocol: High-Level Communication andControl in a Distributed Problem Solver'.IEEE Trans. on Computers, Vol. C29,No.12, 1980, p.1104-1113

� Steels 95, Steels, L. (Ed.). `The Biologyand Technology of Intelligent AutonomousAgents'. Springer, 1995

� Ste�k 86, Ste�k, M. `The Next KnowledgeMedium'. AI Magazine, Vol. 7, No. 1,1986, p. 34-46

� Tuomola 96, Tuomola, R. `Philosophy andDistributed Arti�cial Intelligence: The Ca-se of Joint Intentions'. [O'Hare et al. 96],1996, p. 487-504

� Wooldridge M., Jennings, N. `Agent Theo-ries, Architectures and Languages: A sur-vey'. ECAI'94, Amsterdam.

� Wooldridge et al. 95, Wooldridge, M.; Jen-nings, N. `Intelligent Agents: Theory andPractice'. Knowledge Engineering Review,Vol. 10, No. 2, 1995, p. 115-152

� Wooldridge, 98, Wooldridge, M.: `Intelli-gent Agents". To appear in "Introduc-tion to Distributed Arti�cial Intelligence'.Weiss and Sen (eds.) AAAI/MIT Press,1998

� Yang et al. 96, Yang, H.; Zhang, C. `De�-nition and Application of a Comprehensi-ve Framework for Distributed Problem Sol-ving'. [Zhang et al. 96], 1996, p. 1-15

� Zhang et al. 96, Zhang, C.; Lukose, D.`Distributed Arti�cial Intelligence Archi-tecture and Modellin'". Springer, LNAI1087, 1996