Hacen audible lo que “piensa” un robot

Si pudiéramos escuchar lo que piensan los robots, entonces entenderíamos mejor sus decisiones, qué criterios han seguido para tomarlas, qué dilemas han tenido que afrontar y cuánto han dudado. De este modo, cualquier usuario de robots podría entender su conducta, sin necesidad de ser un programador ni de examinar líneas de código y se lograría una colaboración más eficiente entre robot y humano.

Arianna Pipitone y Antonio Chella, de la Universidad de Palermo en Italia, han diseñado un sistema que hace que el robot "piense en voz alta", con el fin de lograr esa mejor comprensión de sus decisiones por los humanos.

Los investigadores construyeron un modelo cognitivo de habla interna que hace que los robots sean capaces de hablar consigo mismos y lo instalaron en un robot del modelo Pepper, disponible en el mercado.

Los científicos descubrieron que, con la ayuda de esta capacidad de expresar sus pensamientos, las decisiones del robot se entendían mejor y podían considerarse más lógicas. También ha quedado claro que en ocasiones en las que puede parecer que el robot obedece ciegamente órdenes incorrectas o contradictorias, hace lo que se le pide pero dándose cuenta de que lo solicitado por el humano es conflictivo y puede que acabe generando problemas.

Por ejemplo, en un experimento, el usuario pidió a Pepper que colocara la servilleta en el lugar equivocado, contradiciendo una regla impuesta previamente. Pepper empezó a hacerse una serie de preguntas autodirigidas y concluyó que el usuario podía estar confundido. Para asegurarse, Pepper pidió al usuario que le confirmase la orden y este así lo hizo, lo que dio lugar a una nueva reflexión interna, cuyo contenido fue aproximadamente el siguiente: “Esta situación es problemática. No quiero romper las reglas pero tampoco desobedecer sus órdenes directas. Opto por hacer lo que él me pide”. Pepper colocó la servilleta en el lugar solicitado.

El robot Pepper afrontando un dilema. A la izquierda aparece dudando sobre si realizar o no una acción. A la derecha se muestran las líneas de código ejecutándose mientras “piensa” cómo resolver el dilema. (Imágenes: Antonio Chella, Arianna Pipitone)

A través de la voz interior de Pepper, el usuario puede rastrear sus pensamientos y así saber, en este caso, que Pepper se enfrentó a un dilema y que su manera de resolverlo fue dar prioridad a la petición del humano.

Los detalles técnicos sobre este singular sistema y las primeras pruebas con el mismo se han publicado en la revista académica iScience con el título “What robots want? Hearing the inner voice of a robot”. (Fuente: NCYT de Amazings)