Desobediente robots puede sonar aterrador, pero aún más aterrador es un robot que sigue cada comando humana sin falta.

Los investigadores de la Laboratorio de Interacción Humano-Robot de la Universidad de Tufts los robots han enseñado cómo interrogar a los comandos que tendría consecuencias negativas - como caminar por el borde de una mesa - un paso importante en el desarrollo de inteligencia artificial . Los robots pueden incluso cambiar de opinión después de haber rechazado inicialmente una orden directa, siempre que un ser humano puede ofrecer una razón lógica de por qué el robot debe pasar por encima de su primera respuesta.

Para ver uno de los investigadores de Tufts convencer a un robot para seguir su mando después de la negativa inicial del robot, ver el vídeo a continuación.

Si bien hay beneficios obvios para desarrollo A.I. cada vez más sofisticados tecnología, también hay algunos riesgos no tan evidentes. De particular preocupación por el profesor de Tufts Matthias Scheutz es lo que sucede cuando los seres humanos comienzan a desarrollar relaciones con los llamados "robots sociales" que se utiliza en el cuidado de ancianos y otras situaciones en las que el compañerismo es una de las funciones primarias.

"Estos son los contextos en los que utilice los robots con poblaciones vulnerables, como las personas que podrían tener demencia", dice Scheutz. "Estas personas son aún más propensos a invertir emociones e invertir en la relación, a pesar de que los robots no pueden corresponder."

empresa de robótica francés Aldebaran factura a su Pimienta robot como "el primer robot humanoide diseñado para vivir con los humanos." creado originalmente para la compañía japonesa de telefonía móvil SoftBank Mobile como un dispositivo para saludar y compradores de bienvenida en las tiendas, la pimienta puede reconocer ciertas expresiones faciales humanas y reaccionar en consecuencia. Por ejemplo, si el robot sentidos alguien está triste, se puede tocar su canción favorita para tratar de animarlos, o jugar juegos interactivos a través de una tableta de pantalla montada en su pecho. La compañía japonesa de automatización industrial Aist hace un robot interactivo que se parece a un sello llamado Paro. Utilizado en el marco cuidado de los ancianos, se ha demostrado que mejora el estado de ánimo de las personas.

Como los robots como pimienta y Paro se vuelven cada vez más sofisticados e interactivos, sin embargo, hay un riesgo significativo de que puedan causar daños más psicológico que bueno, de acuerdo con Scheutz. "La gente puede interpretar los gestos del robot o la mirada de una manera particular y formar las expectativas basadas en eso, y el robot inevitablemente defraudar esas expectativas", dice. "La gente va a ser engañados en la creencia de que el robot tiene capacidades y algo en su interior que no lo hace."

Incluso para las personas que no sufren de alguna condición mental, hay riesgos involucrados en el uso de robots de compañía, dice Scheutz. "Si se toma la gente que es simplemente solo, y proyectar algo en este robot que no está ahí, va a ser muy frustrante."

Aunque los robots sociales no están disponibles aún para la compra de los consumidores en los EE.UU., máquinas robóticas como la aspiradora Roomba han existido desde hace años, por lo que la tecnología ya está haciendo su camino en los hogares estadounidenses. Scheutz cree que las primeras aplicaciones para otros robots en los hogares es probable que sean los servicios básicos como la limpieza y la entrega, antes de "compañero" robots se convierten en un objeto de consumo. "Con el tiempo, nos daremos cuenta de que tenemos un montón de robots en nuestros hogares que hacen cosas diferentes, y tal vez se comunican entre sí", dice.

Lo Scheutz no quiere ver es empresas de robótica que lanzan en torno al término "robot emocional" cuando se hace referencia a cualquier producto. Se podría crear confusión piensa eventualmente pudiera conducir a los seres humanos que sufren daños psicológicos.

"Es absurdo falsos", dice. "No hay nada en un robot que tiene algo que ver con las emociones."