XXXVIII Jornadas de Automática https://doi.org/10.17979/spudc.9788497497749.0836

Evoluci´onde la rob´oticasocial y nuevas tendencias

Antonio J. P´erezVidal Alvaro´ Castro-Gonz´alez Fernando Alonso-Mart´ın University Carlos III of Madrid University Carlos III of Madrid University Carlos III of Madrid [email protected] [email protected] [email protected]

Jos´eCarlos Castillo Miguel Angel´ Salichs University Carlos III of Madrid University Carlos III of Madrid [email protected] [email protected] Resumen aunque la mayor´ıa de las personas piensen que existe cierto estancamiento en este ´ambito. La La rob´oticacada d´ıaes una realidad m´aspresente realidad es que el mundo de la ciencia y la en nuestras vidas, cambiando la forma con la que tecnolog´ıas´ıque ha avanzado a grandes pasos en las personas interactuamos con nuestro entorno e estas d´ecadas.Hace cuarenta a˜nosnadie pod´ıa incluso entre nosotros. En este art´ıculose se ha- so˜narcon poder hablar con alguien a distancia y ce una revisi´onhist´oricadel campo de la rob´otica al mismo tiempo poder ver a esa persona, y sin social as´ıcomo sus aplicaciones y campos de in- embargo ahora tenemos smartphones que hacen vestigaci´on.Para ello se muestra la evoluci´onen eso y mucho m´as.Tenemos entre otras muchas cuatro periodos comprendiendo el origen, el estado cosas, mecanismos de reconocimiento facial y de actual de las investigaciones y el futuro sofisticado voz, comienzan a aparecer los coches aut´onomos, hacia el cual se dirige. e incluso se est´aorganizando actualmente el viaje de colonizaci´ona Marte. Cosas que hoy en d´ıa Palabras clave: Rob´otica social, interacci´on parecen pr´acticamente normales y sin embargo humano-robot, inteligencia artificial. a˜nosd´ecadasatr´astan s´oloeran sue˜nos.

1. INTRODUCCION´ Dentro de toda esta nueva era tecnol´ogica la rob´oticajuega un papel fundamental, y es que su La ciencia ficci´onha jugado un papel muy impor- estudio aporta cada vez m´asmejoras a la vida tante en la creaci´onde la imagen de un robot. cotidiana y a los trabajos complicados. Campos Una imagen presente en gran medida tanto en la como los exoesqueletos estudian ayudar a las industria cinematogr´aficacomo en la literatura. personas con discapacidades motrices, intentando Este conjunto ha creado una idea parcialmente mejorar sus vidas; los autom´oviles aut´onomos mitificada de lo que un robot es o puede llegar se encuentran ya en el mercado comenzando a a ser. Sin embargo, el aludir a la idea de robot aumentar sus ventas; los robots espaciales nos acu˜nadapor la ciencia ficci´oncomo eso mismo brindan im´agenesde planetas a miles de millones (ciencia ficci´on), no significa que sea una idea de kil´ometrosde distancia y nos ayudan a poder descabellada o que est´etan alejada de la realidad, entender mejor nuestro universo. o al menos de una realidad futura. Aqu´ıtienen un lugar especial los denominados ro- El concepto de robot difiere entre algunos cient´ıfi- bots sociales cuyo objetivo principal es interactuar cos a la hora de adjudicarlo en algunas m´aquinas, con los humanos de forma totalmente natural e in- pero generalmente todos coinciden en determi- tuitiva como si fueran un ser vivo m´as.Vamos a nados factores. As´ı, un robot es una m´aquina entrar en materia dentro de la rob´oticasocial, ha- programable que puede manipular objetos y ciendo un repaso acerca de en qu´econsiste exacta- realizar operaciones que antes s´olopod´ıanrealizar mente un robot social y comentando brevemente los seres humanos. El robot puede ser tanto los or´ıgenesde esta ciencia, su estado actual y por un mecanismo electromec´anico f´ısico como un ´ultimoun breve apartado imaginativo sobre qu´e sistema virtual de software. Ambos coinciden en deparar´ael futuro de esta tecnolog´ıa. brindar la sensaci´onde contar con capacidad de pensamiento o resoluci´on,aunque gran parte de 2. ROBOTICA´ SOCIAL los robots por ahora se limitan a ejecutar ´ordenes dictadas por las personas [17]. La rob´otica social est´a introduci´endose a un ritmo moderado dentro de la sociedad humana Nos encontramos en una ´epoca en la que la formando parte de la normalidad del d´ıa a d´ıa, tecnolog´ıa avanza a velocidades vertiginosas, permitiendo as´ı que el contacto y la interacci´on 836 XXXVIII Jornadas de Automática

humano-rob´otica se produzca a mayor escala, la existencia de una conjunci´on de una gran incluyendo as´ı poco a poco a los robots en la variedad de factores inherentes a la inteligencia vida social humana. Pero, ¿qu´equiere decir que para poder establecer un agente social. Los robots un robot es social? La sociabilidad implica la sociales a´unse encuentran en un estadio precoz en existencia de relaciones de interacci´on.Un agente cuanto a las consideraciones de la comunicaci´on capaz de interactuar y poseer un comportamiento y la interacci´on, dependientes de la inteligencia comunicativo es considerado social. La simple artificial. Adem´asde esos factores, deben poder existencia de dos robots aut´onomos en el mismo ser aut´onomosy tambi´enposeer una apariencia entorno fuerza aspectos del contacto social, sea agradable ya que su objetivo principal ser´a la ´estedirecto o indirecto. interacci´on con los humanos, tambi´en tienen que ser f´aciles de programar por personas no expertas, intr´ınsecamente seguros, tolerantes a Una perspectiva es que uno mismo debe estar percepciones y acciones imprecisas y, sobre todo, consciente de sus estados mentales y ser capaz de estar dotados de una gran capacidad de aprendi- atribuir estados mentales a otros, lo que permite zaje y adaptabilidad a entornos no predefinidos y predecir y analizar los comportamientos de uno din´amicos.En t´erminosb´asicos, se puede definir a mismo y de los dem´as.Esto permitir´ıa a uno ser un robot social como “aquel robot que interact´ua capaz de lidiar con relaciones sociales complejas y se comunica con las personas (de forma sencilla y tambi´en exhibir la habilidad para resolver y agradable) siguiendo comportamientos, patrones problemas abstractos. La hip´otesisMaquiav´elica y normas sociales”[19]. [2], promulga que todas estas capacidades in- telectuales evolucionaron de un dominio social. La hip´otesis de inteligencia social fomenta la Aunque los robots a´unse encuentran lejos de po- teor´ıa de que para poder alcanzar un grado de der tomar consciencia propia y formar jerarqu´ıas comportamiento inteligente de un agente, ´este basadas en comunidades sociales, su inclusi´one in- debe estar incorporado tanto en un entorno f´ısico teracci´oncon la sociedad es cada vez m´aspatente, como en un entorno social. Este agente estar´apor promoviendo as´ısu desarrollo y su investigaci´on lo tanto sujeto a interacciones sociales din´amicas gracias a la aceptaci´onsocial. y complejas en el mundo real, factor que en Duffy, Brian R. et al. [2] es considerado necesario para el 2.1. Primer per´ıodo (1940-1990) desarrollo de un agente de inteligencia artificial. El entendimiento mutuo por parte de los miem- Podr´ıadecirse que en el inicio, la rob´oticasocial bros de un grupo social es necesario para el se inspir´oen las investigaciones de las comunida- establecimiento y continuidad del grupo. Los pro- des biol´ogicasanimales [8] y las interacciones entre blemas aparecen cuando miembros individuales los individuos que las componen. Los investigado- est´an motivados por intereses exclusivamente res siempre se han fascinado por la naturaleza que propios. Sin embargo, en muchos grupos sociales les rodea y sus composiciones, intentando recrear- aparecen grados de flexibilidad con la evoluci´on las de forma artificial en los laboratorios. As´ına- de cada estatus social de los miembros, y puede ce la rob´oticasocial (en un estado primigenio) al ser diferente en distintos contextos orientados a intentar reproducir las interacciones de las comu- objetivos. Mientras que en sociedades primitivas nidades biol´ogicasde forma artificial. se utiliza solamente el contacto f´ısico como in- Uno de los primeros experimentos acerca de la in- teracci´onsocial, los humanos hemos desarrollado teracci´onde los robots con el entorno fue llevado a m´etodos m´aseficientes a trav´esdel lenguaje. cabo por William Grey Walter [22], el cu´aldise˜n´o Se cree que el lenguaje no funciona tan s´olocomo y construy´ounas tortugas rob´oticas(Figura 1) en un m´etodo para adquirir conocimiento sobre las a finales de los cuarenta. Mediante faros engancha- caracter´ısticasdel comportamiento de otros, sino dos en la parte frontal de la carcasa y fototaxis po- que tambi´en expone sus estados internos como los sitiva, estas tortugas interactuaban de una forma sentimientos y aptitudes. Para poder construir similar a la social, aunque no hab´ıacomunicaci´on una base para la interacci´ony la cooperaci´on,los expl´ıcitao reconocimiento mutuo. individuos tienen que comunicarse y unir sus con- ceptos del mundo con los grados de abstracci´on Mientras el campo de la vida artificial emerg´ıa, siendo socialmente fundamentados y actualizados los investigadores empezaron a aplicar principios continuamente. como la estigmergia [7] (comunicaci´onindirecta entre individuos a trav´esde modificaciones en el entorno compartido; en sistemas descentralizados, Como se puede comprobar, la inclusi´onde los tales como las colonias de hormigas, los diferentes robots sociales en t´erminosde definici´ones un componentes colaboran a trav´esde pautas o hitos tema bastante delicado, puesto que es necesaria dejados en el medio: feromonas, acumulaci´onde 837 XXXVIII Jornadas de Automática

Figura 1: Tortuga robot Elmer de Walter [6] Figura 2: Robot Kismet [4]

objetos o cualquier otro tipo de cambio f´ısico,co- mo la temperatura) para lograr comportamientos colectivos en robots. Uno de los pioneros en los primeros experimentos de la estigmergia fue Jean Louis Deneubourg, me- diante la creaci´onde robots parecidos a las hormi- gas en 1990 [8]. Desde entonces, una gran cantidad de investigadores han desarrollado robots colecti- vos y han usado robots como modelos para el es- tudio del comportamiento social de los insectos. Principios parecidos se pueden encontrar en inves- Figura 3: De izquierda a derecha: robots P1, P2, tigaciones sobre sistemas multi-robot o sistemas P3, P4 y ASIMO [11] rob´oticosdistribuidos. Algunos mecanismos de in- teracci´onutilizados son comunicaci´on,interferen- cia y competici´onagresiva. nombre, observar a la gente cuando se le habla, y reconoce sonidos inusuales como el de un objeto 2.2. Segundo Per´ıodo (1990-2005) que cae o una colisi´on,y mira en la direcci´ondel golpe. Es capaz de responder preguntas, mediante En 1990 se crea Kismet [12], uno de los prime- un breve movimiento del cuerpo en general o de ros robots sociales. Kismet (Figura 2) es una ca- solo la cabeza, o con una respuesta verbal. beza rob´oticafabricada en el MIT por la doctora Cynthia Breazeal como un experimento en compu- A partir del siglo XXI, gracias a la nuevas tec- taci´onafectiva, una m´aquina capaz de reconocer nolog´ıas, la rob´oticasocial comienza a tener un y simular las emociones. Para interactuar adecua- sentido f´ısicoy tecnol´ogicoy empiezan a apare- damente con los humanos, posee dispositivos de cer cada vez m´asrobots sociales con capacidad de entrada que le proveen de audici´on,visi´ony ha- interacci´oncon los humanos. bilidades propioceptivas. Adem´as,Kismet simu- la emociones mediante varias expresiones facia- 2.3. Tercer per´ıodo (2009-2017): Presente les, vocalizaciones y movimiento. La expresiones se crean gracias a los movimientos de las orejas, Se ha avanzado mucho desde aquellos robots cejas, p´arpados,labios, mand´ıbulay cabeza. sociales primigenios anteriormente comentados. La idea de la doctora Breazeal era representar su La tecnolog´ıaque actualmente est´aen manos de relaci´oncon el robot como lo hace un padre o un los investigadores supera con creces aquella de la cuidador con su hijo. que dispon´ıan los pioneros de la rob´otica.Con cada a˜noque pasa se obtienen nuevos avances Entre 1996 y 2001 la compa˜n´ıajapones Honda crea tecnol´ogicosque proveen de mejores herramientas los robots antropom´orficosP1, P2, P3, P4 y fi- para enfocar todo tipo de investigaciones. nalmente ASIMO (Figura 3). Aunque los cuatro primeros robots fueron creados para investigar so- bre la rob´oticahumanoide, ASIMO sirvi´opara in- A lo largo de estos a˜nos,se han llevado a cabo vestigar adem´ascon la interacci´onhumano-robot, numerosas investigaciones en una gran variedad espec´ıficamente con los robots de compa˜n´ıa[10]. de ´ambitos dentro de la rob´oticasocial. Una parte Para ello es capaz de reconocer las posturas y los importante de la interacci´onhumano-robot es la gestos, pudiendo reaccionar a ellos, adem´asdis- representaci´on de emociones. Diversos estudios tingue los sonidos, es decir, puede responder a su han demostrado que un robot puede imitar 838 XXXVIII Jornadas de Automática

Figura 4: El robot ERWIN falla al intentar atraer la atenci´ondel usuario, por lo que expresa enfado despu´esde varios intentos fallidos [16]. Figura 5: Diagrama del Uncanny Valley [20]

expresiones humanas reconocibles. Es necesario tanto que el humano sea capaz de reconocer la expresi´ondel robot analizando el contexto en el que se entra, como viceversa, ya que las respuestas emocionales de ambos agentes se deben adecuar a lo que sus sentidos perciben. Para avanzar en este prop´ositose han realizado experimentos con robots que ten´ıan un rango de expresiones Figura 6: Robot Nuka como entretenimiento be- (alegr´ıa, tristeza, enfado, sorpresa y miedo) que neficioso para ancianos [18] mostraban a una persona para atraer su atenci´on [16]. El robot reconoc´ıa la cara del humano y dependiendo de si la persona le prestaba atenci´on sientan c´omodas con ellos y no se asusten. Para o no, iba variando sus expresiones (4). Por ello se les dota a los robots de ciertos rasgos hu- supuesto adem´asde la expresi´onreconocida, el manos como ojos, boca, cejas, orejas. Sin embar- contexto emocional en el cual se produce es muy go estudios realizados sobre la apariencia humana importante para entenderla, ya que aunque las de los robots demuestran que cuanto m´ascerca expresiones de los robots est´anbastante logradas, de la apariencia real humana se encuentra el ro- en algunas ocasiones pueden confundir al usuario. bot, m´asrechazo produce. Este fen´omenoes el de- nominado uncanny valley, cuya curva de agrado- humano se puede apreciar en la Figura 5. Apar- En el experimento realizado en Zhang J. y te de la apariencia se ha observado que el audio Sharkey A.J.C. [24], se investig´ola capacidad de tambi´eninfluye en generaci´onde la sensaci´onde interpretaci´onde los usuarios ante las expresiones extra˜nezay repulsi´on.En experimentos realizados de un robot con un contexto musical, tanto en Meah L.F.S. y Moore R.K. [15], la apariencia cuando ´estas eran congruentes e incongruentes realmente humana de robots junto con voces hu- con ´el.Se comprob´oas´ıque un contexto musical manas mezcladas electr´onicamente provocaban el afecta a la forma de juzgar las expresiones del rechazo. Por un lado los ojos eran un factor de- robot. terminante en la apariencia ya que se considera- ban como ojos sin luz y sin vida. Por otro lado Adem´asde reconocer los gestos y expresiones de la voz humana modificada electr´onicamente pro- los robots, el usuario debe sentirse c´omodo con duc´ıauna tensi´onperceptiva que era considerada el robot. El estudio del aspecto de los robots es como extra˜nay horrible. esencial para que las interacciones sociales se pue- Otros estudios se centran en el uso de los robots dan llevar a cabo. Los humanos somos una especie sociales en el campo de la asistencia a ancianos con costumbres arraigadas y con temor a lo des- y ni˜nos.Los experimentos llevados a cabo en es- conocido. Todo aquello que nos resulta extra˜noy te campo comprenden desde robots que ayudan a poco o nada familiar nos produce una sensaci´on personas con enfermedades degenerativas, como el de desconfianza y miedo, por lo tanto si un ro- Parkinson, a tomar su medicaci´on[23], robots con bot tiene unos rasgos poco familiares o un tanto formas de animales para la mejora de la salud de oscuros y extravagantes, probablemente produzca los ancianos [13] (Figura 6), etc. una reacci´onde rechazo en la mayor´ıade las per- sonas. Es por ello por lo que los robots sociales Un ejemplo de un experimento de este tipo es el tienen formas familiares, para que las personas se llevado acabo en Fujimoto I. et al. [9], donde un 839 XXXVIII Jornadas de Automática

Figura 7: Escenario interactivo de imitaci´on[9]

Figura 8: Robot Pepper [5] Figura 9: Robot MAGGIE [14]

robot social produc´ıamovimientos que el ni˜nocon autismo deb´ıacopiar, el robot observaba al ni˜no y si ´estese equivocaba le correg´ıahasta que el re- sultado fuera el buscado. Los resultados fueron sa- tisfactorios, demostrando que los ni˜nosrealmente mejoraban sus habilidades de imitaci´on.El m´eto- do de interacci´onse puede observar en la Figura 7. Adem´asde todos los estudios y experimentos que se est´anrealizando, se pueden destacar varios ro- bots sociales conocidos que est´ana la vanguardia de la tecnolog´ıa. Figura 10: Robot MBot [3] El primero y el cual ya se est´acomercializando, se trata del robot Pepper (Figura 8). Creado por SoftBank Robotics [21]. Su principal cualidad es tes y ni˜nosingresados en hospitales. la de percibir las emociones y adaptar su compor- La lista de robots sociales es cada vez m´aslarga tamiento al estado an´ımicodel usuario. En Jap´on puesto que cada vez m´aseste tipo de robots se ve este robot se est´autilizando ya como forma de como proyectos comerciales. Entre ellos podemos recibir, informar y entretener a los clientes. encontrar a NAO, el robot HRP-4C, Nuka, Jibo o Dentro del ´ambito de robots sociales de entrete- Sota que tambi´enabarcan el campo de asistencia- nimiento educativo y asistencial podemos encon- les. trar al robot MAGGIE (Figura 9). MAGGIE [14] ha sido dise˜nadoy creado en el departamento de 2.4. Futuro rob´oticasocial del Robotics Lab de la Universidad Carlos III de Madrid. Su objetivo principal es el de En un futuro pr´oximolos avances dentro de la estudiar la interacci´onhumano-rob´otica,adem´as rob´otica social nos mostrar´an varios tipos de de avanzar en el desarrollo de la autonom´ıay la robots totalmente desarrollados tecnol´ogicamente inteligencia de los robots. como por ejemplo los robots asistenciales que Adem´asde MAGGIE, el Robotics Lab tambi´en ayudar´an en los hospitales, o en las casas de posee los robots Mini Maggie y MBot (Figura 10), las personas discapacitadas o enfermas. Facili- el robot con el que participaron en el proyecto eu- tar´anlas labores sanitarias y ayudar´anacelerar ropeo MOnarCH, que se utilizan en proyectos de las actividades de urgencias e incluso en planta. rob´oticasocial con ancianos, personas dependien- Adem´aspodr´anayudar a los m´edicosa evaluar un 840 XXXVIII Jornadas de Automática

diagn´osticocuando sea requerido ya que tendr´an chos como la vida o la seguridad. una base de datos a la que podr´anacceder con El art´ıculo 3 de la Declaraci´onde los Derechos suma rapidez, con todas las enfermedades y sus Humanos define: Todo individuo tiene derecho a respectivas curas. Por supuesto existir´anversiones la vida, a la libertad y a la seguridad de su per- rob´oticasde ayuda en cirug´ıa,m´asavanzadas que sona. Si el robot en cuesti´onpuede definirse a s´ı las que est´anempezando a surgir. Las incluyo mismo como un individuo diferente a otros robots, dentro del ´ambito de los robots sociales porque siendo ´unico,¿no puede ser aplicado este art´ıculo se relacionar´an con el cirujano aconsej´andole a su favor? y compartiendo y aliviando as´ı la carga de la Evidentemente estos son terrenos pantanosos de operaci´on. dif´ıcilsalida, y tendr´ıamosque obviar el hecho de En cuanto a los robots que asistan en casas de que este art´ıculose aplica dentro de los derechos personas discapacitadas o enfermas, dispondr´an humanos y un robot definitivamente no es un ser de la tecnolog´ıa necesaria para administrar los humano. f´armacosy terapias prescritas por sus m´edicos, No obstante, si algo nos ha ense˜nadola historia adem´asde ayudarles con sus tareas diarias. es que ante los nuevos cambios, siempre existen Por otro lado, tanto en las residencias de ancianos dos bandos, uno a favor y otro en contra, por lo como en las plantas pedi´atricas los pacientes que en este caso habr´ıagente prorrob´otica y gente podr´andisponer y disfrutar de la compa˜n´ıa de robof´obica. Habr´ıapersonas que luchar´ıanpor la robots sociales que les entretengan y les diviertan declaraci´onde unos derechos rob´oticos,rogando jugando y hablando con ellos, haciendo su d´ıaa por el reconocimiento de su ser y su libertad. d´ıa un poco m´asllevadero. Todos estos robots Adem´as,como explic´abamosantes en lo referen- no tendr´anpor qu´eser necesariamente antropo- te al tema del parecido f´ısicoa los humanos, en morfos, si no que habr´amodelos con diferentes este caso la cosa cambia. Si antes la semejanza formas que corresponder´ana las necesidades que produc´ıaun rechazo, ahora se producen dos ver- se requieran de ellos. tientes. Al demostrar su propia consciencia y su capacidad de pensar y razonar, el segmento de la sociedad Todos los robots sociales deber´anestar provis- que sea prorrob´otico, los aceptar´acon mayor fer- tos de una inteligencia artificial, que les permita vor que antes, llegando incluso a producirse rela- aprender de su entorno y poder reaccionar a dife- ciones entre robots y humanos, pudiendo procla- rentes situaciones del modo correcto. Esta inteli- marse estos ´ultimoscomo robosexuales. Por otro gencia ser´ala que les dote de su autonom´ıa.Na- lado la parte de la sociedad que sea rob´ofoba, de- turalmente con los a˜nosesta inteligencia ser´am´as notar´aun rechazo mayor, pronunciado por el te- sofisticada, hasta el punto que los robots realmen- mor a estos seres mec´anicosque se hacen pasar te puedan tomar sus propias decisiones sin necesi- por personas. dad de que un humano deba decirles qu´ehacer en cada situaci´on. Sin embargo, si con inteligencias artificales mejo- 3. CONCLUSIONES radas adquieren una mayor autonom´ıa,si apren- den m´asacerca de todo lo que les rodea, incluso A lo largo del art´ıculo se han presentado las de s´ımismos, llegado el momento, ¿es posible que nociones principales de la definici´on de robot, pudieran llegar a adquirir consciencia propia? ¿Es as´ı como de la rob´otica social, mostrando en posible que lleguen a razonar? Y si esto ocurriera, qu´e consiste exactamente esta materia y qu´e ¿no podr´ıanser considerados entonces como seres campos de acci´onabarca. Para poder englobar con “vida” de alg´unmodo? Si un robot es capaz esta especialidad, se ha realizado un repaso a las de razonar y de pensar, entonces puede que llegue etapas evolutivas de la rob´oticasocial, pudiendo a comprender su existencia y qu´elugar ocupa en as´ıobservar los progresos realizados en distintos la sociedad, pudiendo por lo tanto definirse como campos y su difusi´ona tantos otros. un individuo. Quiz´allegado este punto, en el que Como se ha podido comprobar la rob´oticasocial toma consciencia de que es una herramienta pa- se encuentra cada vez m´aspresente en nuestro uso ra la sociedad, pueda comenzar a desarrollar una diario, proporcion´andonosd´ıatras d´ıaservicios de especie de sentimientos, como ira o miedo hacia atenci´onal usuario. La interacci´onhumano-robot los humanos, quiz´aal poder pensar por s´ımismo, est´apatente en multitud de campos, desde jugue- afloren en ´elciertas ansias de libertad, de poder tes y atenci´onal cliente hasta el tratamiento de decidir que hacer con esta especia de vida con la pacientes, facilitando en gran medida las tareas que se la ha dotado. Es aqu´ıdonde entrar´anen de los trabajadores y aportando soluciones y conflicto multitud de valores ´eticoscomo el escla- beneficios a investigaciones tecnol´ogicasy huma- vismo del que habl´abamosantes, apelando a dere- nas, adem´asde proporcionar un entretenimiento instructivo y divertido. 841 XXXVIII Jornadas de Automática

El desarrollo y progreso de las distintas apli- [6] Elmer Elsie Robots (s.f.), The Old Robots caciones de la rob´otica social avanza a pasos Website. Recuperado de: http://www .theol- agigantados hacia modelos m´assofisticados pro- drobots.com/ElmerElsie.html curando un futuro cercano lleno de tecnolog´ıas rob´oticas.Sin embargo, aunque por supuesto el [7] Estigmergia (s.f.), Wikipedia. Recuperado de: progreso siempre es beneficioso, se tienen que https://es.wikipedia.org/wiki/Estigmergia tener en cuenta muchos factores a la hora de im- [8] Fong, T., Nourbakhsh, I., Dautenhahn, K. plantar una nueva tecnolog´ıay es por ello que al (2003) A survey of socially interactive robots. igual que la rob´otica social se encuentra en plena In: Robotics and Autonomous Systems, Volu- investigaci´on,as´ı mismo se encuentran las leyes me 42, Issues 3-4, Elsevier, Pittsburgh, Lau- que por las que se regir´anlas acciones procuradas sanne, Hertfordshire por un entorno rob´oticosofisticado. Entran as´ı en conflicto temas ´eticoscomo la influencia de un [9] Fujimoto I., Matsumoto T., De Silva P.R.S., robot en la educaci´on,en el crecimiento infantil, Kobayashi M., Higashi M. (2010) Study on la moralidad esclavista en cuanto a m´aquinas, an Assistive Robot for Improving Imitation derechos rob´oticos, los factores psicol´ogicos y Skill of Children with Autism. In: Ge S.S., emocionales que esta generaci´on tecnol´ogica Li H., Cabibihan JJ., Tan Y.K. (eds) Social puede producir, etc. Robotics. ICSR 2010. Lecture Notes in Com- puter Science, vol 6414. Springer, Berlin, Hei- Agradecimientos delberg La investigaci´ondesarrollada ha recibido financia- [10] George A. Bekey, (2005) Autonomous Ro- ci´onde dos proyectos: “Development of social ro- bots: From Biological Inspiration to Imple- bots to help seniors with cognitive impairment” mentation and Control, MIT Press, Hardco- (ROBSEN), financiado por el Ministerio de Eco- ver, 577 pages. ISBN 0262025787 nom´ıa y Competitividad; y “RoboCity2030-III- CM”, financiado por la Comunidad de Madrid y [11] Honda P Series (Robots) (s.f.), Wikipedia. cofinanciado por los Fondos Estructurales de la Recuperado de: https://es.wikipedia.org /wi- Uni´onEuropea. ki/Honda P series (Robots) [12] Kismet (robot) (s.f.), Wikipedia. Recupera- Referencias do de: https://en.wikipedia.org/wiki/Kismet (robot) [1] Canal Jubilaci´on (s.f.), Asibot y Mag- gie, dos robots para personas mayo- [13] Leong T.W., Johnston B. (2016) Co-design res “made in Spain”, Jubilaci´on CA- and Robots: A Case Study of a Robot Dog NALES MAPFRE. Recuperado de: for Aging People. In: Agah A., Cabibihan JJ., https://www.jubilacionypension.com/planes- Howard A., Salichs M., He H. (eds) Social Ro- fondos/asibot-y-maggie-dos-robots-para- botics. ICSR 2016. Lecture Notes in Compu- personas-mayores-made-in-spain/ ter Science, vol 9979. Springer, Cham

[2] Duffy, Brian R., Rooney, Colm, O’Hare, Greg [14] Maggie: futuro, autonom´ıa y diver- M.P., O’Donoghue, Ruadhan, (1999) What is si´on (s.f.), uc3m, Universidad Car- a social robot?, 10th Irish Conference on Arti- los III de Madrid. Recuperado de: ficial Intelligence and Cognitive Science, Uni- http://portal.uc3m.es/portal/actualidad cien- versity College Cork, Ireland, 1-3 September, tifica/actualidad/reportajes/archivo reporta- 1999 jes/archivo reportajes/Maggie futuro autono- [3] Edutainment, (s.f.), Idmind Living Robotics. mia diversion Recuperado de: http://www.idmind.pt /mar- [15] Meah L.F.S., Moore R.K. (2014) The Un- kets/edutainment/ canny Valley: A Focus on Misaligned Cues. [4] Edwards, T., (2015), Emotive Robots In: Beetz M., Johnston B., Williams MA. Key to Unlocking IOT Potential, Digi- (eds) Social Robotics. ICSR 2014. Lecture tally Aproved Blog. Recuperado de: http: Notes in Computer Science, vol 8755. Sprin- //www.digitallyapproved.com/tag /kismet/ ger, Cham [5] El robot Pepper se agota en un minuto al [16] Murray J.C., Ca˜nameroL., Bard K.A., Ross salir a la venta en Jap´on, (2015), P´ubli- M.D., Thorsteinsson K. (2009) The Influen- co. Recuperado de: http://www.publico.es/ ce of Social Interaction on the Perception of ciencias/robot-pepper-agota-minuto-al.html Emotional Expression: A Case Study with a 842 XXXVIII Jornadas de Automática

Robot Head. In: Kim JH. et al. (eds) Advan- ces in Robotics. FIRA 2009. Lecture Notes in Computer Science, vol 5744. Springer, Berlin, Heidelberg [17] P´erez Porto, J., Merino, M.. Publica- do: 2010. Actualizado: 2013. Definici´on de robot, Definicion.de. Recuperado de: http://definicion.de/robot/ [18] Quincoces, A., (2016), La foca Nuka, un peluche robotizado que mejora la salud sin efectos secundarios, ELPROGRESO. Recu- perado de: http://elprogreso.galiciae.com/ noticia/497120/la-foca-nuka-un-peluche-ro botizado-que-mejora-la-salud-sin-efectos-sec undarios [19] Rafael Rivas E., Eladio Dapena G. (s.f.), Construcci´on de un Robot con Habili- dades Sociales, LASDAI. Recuperado de: http://www.ing.ula.ve/lasdai/?page id=26 [20] Uncanny Valley (s.f.), Wikipedia. Recupe- rado de: https://simple.wikipedia.org/wiki/ Uncanny valley [21] Who is Pepper? (s.f.), SoftBank Robo- tics. Recuperado de: https://www.ald.soft bankrobotics.com/en/cool-robots/pepper [22] William Grey Walter (s.f.), Wikipedia. Re- cuperado de: https://es.wikipedia.org/wiki/ William Grey Walter [23] Wilson J.R., Tickle-Degnen L., Scheutz M. (2016) Designing a Social Robot to Assist in Medication Sorting. In: Agah A., Cabibihan JJ., Howard A., Salichs M., He H. (eds) So- cial Robotics. ICSR 2016. Lecture Notes in Computer Science, vol 9979. Springer, Cham [24] Zhang J., Sharkey A.J.C. (2011) Listening to Sad Music While Seeing a Happy Robot Face. In: Mutlu B., Bartneck C., Ham J., Evers V., Kanda T. (eds) Social Robotics. ICSR 2011. Lecture Notes in Computer Science, vol 7072. Springer, Berlin, Heidelberg

843