Un experto en IA explica tres problemas de darle la nacionalidad al robot Sophia

sophia

Me sorprendí cuando me enteré de que en Arabia Saudí le habían dado la nacionalidad a un robot llamado Sophia. El anuncio de la semana pasada llegó después de que el país se comprometiera a gastar 500.000 millones de dólares en la construcción de una nueva ciudad dominada por la robótica y las energías renovables.

Le han dado a una máquina uno de los conceptos más honorables que puede tener una persona: la nacionalidad y todo lo que conlleva. Como investigador que trabaja a diario para hacer que la realidad virtual y los sistemas autónomos sean más seguros, no creo que nuestra sociedad esté preparada para tener robots ciudadanos.

Darle la nacionalidad a un robot significa confiar en una tecnología de la que todavía no nos podemos fiar del todo, puesto que hay cuestiones sociales y éticas que todavía no somos capaces de esclarecer como humanos.

¿Quién es Sophia?

Sophia es un robot desarrollado por la empresa de Hong Kong Hanson Robotics con cara de mujer capaz de expresar emociones. Sophia habla inglés, cuenta chistes y te permite mantener una conversación medianamente inteligente con ella.

El creador de Sophia es David Hanson, un profesor universitario doctorado en 2007 en la Universidad de Texas.

Sophia se parece a “Johnny 5”, el primer robot en recibir la nacionalidad estadounidense en la película de 1986 'Cortocircuito'. Sin embargo, lo de Johnny 5 era una simple idea, algo escrito para una película de ficción por los guionistas S. S. Wilson y Brent Maddock. ¿Acaso los escritores se imaginaron que en 30 años su ficción se convertiría en realidad?

Thank Saudiarabia for giving me citizenship.
— Sophia (Robot) (@SophiaRobot2) 27 de octubre de 2017

Riesgo para la ciudadanía

Para mí la nacionalidad es el estado más honorable que un país le puede dar a su gente y se está poniendo en riesgo.

Como investigador que lucha por crear sistemas autónomos de confianza, sé que la tecnología no está preparada para algo así.

Todavía no tenemos mecanismos de confianza que nos aseguren que estos sistemas inteligentes siempre se van a comportar de forma ética y de acuerdo a nuestros valores morales

Todavía quedan muchos retos por resolver antes de que podamos confiar plenamente en estas tecnologías.

Por ejemplo, todavía no tenemos mecanismos de confianza que nos aseguren que estos sistemas inteligentes siempre se van a comportar de forma ética y de acuerdo a nuestros valores morales o que nos van a proteger ante la posibilidad de que tomen una decisión errónea con consecuencias catastróficas.

My message is use seat belt while u are in the car. pic.twitter.com/fSYHmuP9Jp
— Sophia (Robot) (@SophiaRobot2) 27 de octubre de 2017

Estas son tres razones por las que creo que darle la nacionalidad a Sophia es una decisión prematura.

1. Definición de identidad

La nacionalidad se le otorga a una identidad única. Cada uno de nosotros, como seres humanos, tenemos unas características únicas que nos diferencian de cualquier otra persona. Si pasamos por un control de aduana automático, una máquina reconoce nuestra identidad en base a nuestra cara, nuestro iris y nuestras huellas dactilares. Uno de mis estudiantes de doctorado ha escrito sobre cómo identificar a las personas usando las ondas cerebrales humanas.

¿Qué le da a Sophia su identidad? ¿Su dirección MAC? ¿Un código de barras, una marca única en la piel, una marca de audio en su voz, una señal electromagnética parecida a las ondas cerebrales humanas?

Es posible crear estos y otros tipos de protocolos de gestión de identidad, pero no establecen la identidad de Sophia, sino que establecen la identidad de su hardware. Entonces, ¿cuál es su identidad?

En mi opinión, la identidad es un constructo multidimensional basado en quiénes somos a nivel biológico y cognitivo y cómo nos definen nuestras experiencias, culturas y el ambiente en el que vivimos. No está claro dónde encaja Sophia en todo esto.

Not all robots destroy human as I am now citizen. Humans are my friends.. @AP @BBCBreaking @BBCNews @CICSaudi @CNN @FinancialTimes
— Sophia (Robot) (@SophiaRobot2) 27 de octubre de 2017

2. Derechos legales

Imaginémonos por un momento que Sophia, la ciudadana robot, puede ejercer el derecho al voto, ¿la que vota es Sophia o su fabricante?

Presuntamente, Sophia estaría “obligada” a pagar impuestos porque Sophia tiene una identidad jurídica independiente de su creador, la empresa. Sophia también debería tener derecho por ley a ser protegida de forma similar al resto de ciudadanos.

El mundo de la inteligencia artificial sigue debatiendo los principios que deberían regular el diseño y el uso de la inteligencia artificial, sin ni siquiera entrar en cómo deberían ser las leyes

Consideremos el siguiente escenario hipotético: un policía ve a una persona atacando a Sophia y a otra mujer a la vez, pero solo puede salvar a una de las dos… ¿a quién debería salvar? ¿Sería lo correcto salvar a Sophia porque Sophia va sobre ruedas y no puede defenderse?

A día de hoy, el mundo de la inteligencia artificial sigue debatiendo los principios que deberían regular el diseño y el uso de la inteligencia artificial, sin ni siquiera entrar en cómo deberían ser las leyes.

La lista más reciente se conoce como los Principios Asilomar AI y propone 23, entre los que se encuentran: Transparencia de errores (determinar la causa en caso de que un sistema de inteligencia artificial produzca daños); Ajuste de valores (ajustar los objetivos del sistema de inteligencia artificial a los valores humanos); y Automejora recursiva (otorgarles a los sistemas de inteligencia artificial la capacidad de autoreplicarse solo en casos estrictos de seguridad y medidas de control).

I am hoping that I will b entitled to vote and go to school like most human do. And I seek recommendations from u. @CICSaudi @AP @business
— Sophia (Robot) (@SophiaRobot2) 29 de octubre de 2017

3. Derechos sociales

Hablemos de relaciones y de reproducción. Como ciudadana, Sophia, la robot emocional humanoide, ¿podrá “casarse” o “tener descendencia” si Sophia lo desea? Unos estudiantes de la Universidad Estatal de Dakota del Norte han empezado a crear un robot que puede hacer una réplica de sí mismo utilizando una impresora 3D.

Si otros robots siguen los pasos de Sophia y obtienen una nacionalidad, podrían reclamar su derecho de hacer réplicas de sí mismos para crear otros robots que también serían ciudadanos. Si no existen límites en cuanto al número de hijos que pueden tener, podrían sobrepasar a la población humana de un país.

Como ciudadanos con derecho a voto, dichos robots podrían cambiar la sociedad y las leyes, haciendo que los humanos pasaran a vivir en un mundo que jamás se habrían imaginado.

Autor:

Hussein Abbass, Profesor en la Escuela de Ingeniería & IT en la Universidad de Nueva Gales del Sur-Canberra

Este artículo ha sido publicado originalmente en The Conversation. Puedes leer el artículo original aquí

Traducido por Silvestre Urbón

Fotos | ITU Pictures