Hasta que las máquinas puedan dudar, no serán del todo inteligentes: lo difícil de replicar la imperfección humana

“Las computadoras son inservibles. Sólo te pueden dar respuestas”. (Pablo Picasso)

Los ordenadores no dudan. Al menos de momento. Dudar es un atributo humano, como pensar. Sin embargo, los ordenadores se mueven en la incertidumbre; la certeza completa es ajena al mundo real. Algunas cuestiones pertinentes son, ¿qué hacemos los humanos cuando dudamos? ¿Serviría de algo trasladar nuestra forma de dudar a las máquinas? Y la más importante: ¿cuándo formularán preguntas las máquinas?

Preguntarse si los ordenadores dudan es preguntarse qué significa dudar en los humanos. Disponer de máquinas que en alguna medida emulan el comportamiento humano nos ayuda a reflexionar sobre nuestra naturaleza. Lo importante no es si la máquina piensa, la máquina hace lo que sus diseñadores decidieron que hiciera (si funciona bien). Lo importante es saber qué es pensar. Las máquinas ¿ven, deciden, piensan, esperan o dudan? Estrictamente hablando no hacen nada de todo eso. El problema de comparar a las máquinas con los humanos es que de las primeras lo sabemos todo y de nosotros mismos ignoramos mucho.

Dudar es elegir entre varias opciones, sopesar sus ventajas e inconvenientes, decidir en la incertidumbre. La mayoría de nosotros no duda sobre si comprar un avión o no hacerlo. En cambio, dudamos sobre qué barra de pan compraremos atendiendo a su peso, su precio, su aspecto, experiencias previas o consejos del panadero.

El conocimiento a través de la duda

Como en la mayoría de los actos humanos, la duda es en buena medida inconsciente. Multitud de factores son procesados inconscientemente y solo una pequeña parte lo es de forma consciente. Las experiencias previas pesan en la decisión de comprar el pan, pero lo normal no es tenerlas explícitamente en la conciencia a menos que por alguna razón decidamos invocarlas y traerlas al presente consciente. En la mayoría de los casos, las decisiones se plantean y resuelven de forma inconsciente. Solo cuando las contradicciones afloran y tenemos que deliberar racionalmente aparecen los momentos de duda.

Relacionadas con la toma de decisiones y la duda están la creatividad y la intuición. La creatividad es la capacidad de generar nuevas ideas o conceptos, nuevas asociaciones entre ideas y conceptos conocidos, que habitualmente producen soluciones originales. La intuición es la habilidad para conocer, comprender o percibir algo de manera clara e inmediata, sin la intervención de la razón.

El problema de comparar a las máquinas con los humanos es que de las primeras lo sabemos todo y de nosotros mismos ignoramos mucho

Todos estos procesos tienen cosas en común: no sabemos cómo funciona el mecanismo mental, los juzgamos por los resultados, el proceso mental conlleva pasos irracionales e inconscientes y por desconocidos tienen un aura misteriosa. A esto podíamos añadir otra característica: al decir de la mayoría de las personas, estos procesos, duda, creatividad o intuición, no pueden ser llevados a cabo por máquinas ya que requieren algo más, algo específicamente humano. Trataremos de desmontar el equívoco.

En principio la duda es buena siempre que no afecte negativamente al rendimiento. No podemos pasar horas en la panadería sin decidirnos. “La peor decisión es la indecisión” (Benjamin Franklin). Pero según Aristóteles, “La duda es el principio de la sabiduría”. El campeón de la duda fue René Descartes, uno de los filósofos que más ha influido en la modernidad. La dualidad mente cuerpo tan lúcidamente planteada por él sigue siendo la base de las discusiones sobre la conciencia.

La duda metódica de Descartes no es escéptica sino una forma de alcanzar el conocimiento. “…en cuanto a la universalidad de la duda, ello no significa que a mis opiniones vaya examinándolas una por una, pues fuera un trabajo infinito…” “Hace mucho tiempo que me he dado cuenta de que, desde mi niñez, he admitido como verdaderas una porción de opiniones falsas, y que de todo lo que después he edificado sobre tan endebles principios no puede ser sino muy dudoso e incierto”.

Entendida la duda como indecisión, no parece que hacer dudar a las máquinas tenga mayor beneficio. Entendida como reflexión, la duda puede ayudar a hacer máquinas más inteligentes

Los ordenadores funcionan como los humanos. Otra cosa sería pura magia. Del gigantesco repertorio conductual humano, una pequeña parte es replicada en las máquinas. ¿Tiene sentido replicar todas las conductas humanas en las máquinas? ¿Tiene sentido que las máquinas duden? ¿Cómo toman sus decisiones las máquinas? Entendida la duda como indecisión, no parece que hacer dudar a las máquinas tenga mayor beneficio. Entendida como reflexión, la duda puede ayudar a hacer máquinas más inteligentes.

En un plano distinto, simular la duda en las máquinas parece dotarlas de un aspecto más humano. Así, asistentes virtuales que duden pueden resultar más amigables y convincentes. De esta forma, la duda ayudaría a las máquinas a superar el Test de Turing.

¿Y si una máquina pudiera replicar nuestros defectos?

En su breve, intenso y exitoso libro, 'La sociedad del cansancio', el filósofo coreano Byung-Chul Han sostiene que la sociedad está compuesta de individuos que ya no buscan enfrentarse a enfermedades, ni siquiera a los otros. Marcados por una positividad en busca del éxito y el rendimiento, nos convertimos en una máquina de “rendimiento autista”. Los ordenadores son nuestro modelo, máquinas positivas libres de “otredad”, de la referencia del otro.

Los humanos somos imperfectos, dudamos, nos equivocamos, fallamos. Los ordenadores son, por el contrario perfectos. Mientras no conozcamos mejor a los humanos, no sabremos la naturaleza íntima de nuestros defectos. En este sentido, máquinas y humanos somos muy distintos. No es deseable convertir a los humanos en positivas máquinas de cálculo. ¿Tiene sentido lo contrario, convertir a las máquinas en seres defectuosos? Aunque la respuesta en esencia es no, puede tener algunas ventajas.

Hemos visto que simular defectos humanos en máquinas puede tener el efecto de aumentar la empatía. Y quizá sea también una interesante herramienta para investigarnos. No podemos simularnos de forma realista sin defectos, no seríamos nosotros mismos. Crear un alter ego en las máquinas que emule también nuestros defectos tiene una serie de sugestivas virtudes. No es ético realizar según qué experimentos en humanos, pero si puede serlo hacerlo en máquinas. Para conocernos, reconocernos, estudiarnos o empatizar con las máquinas, estas tienen que replicar la naturaleza humana, incluyendo sus defectos.

¿Tiene sentido convertir a las máquinas en seres defectuosos? Aunque la respuesta en esencia es no, puede tener algunas ventajas

Determinadas preguntas tiene respuestas simples e inequívocas. Los resultados de las fórmulas matemáticas no son discutibles, no son dudosos. A la pregunta de ¿cuánto son 2+2?, no cabe más respuesta que 4, tanto para las máquinas como para los humanos.

Pero el mundo real está repleto de incertidumbre para los actores que toman decisiones. ¿Me quiere Loli? O incluso más inquietante, ¿quiero yo a Loli? Trasladar la incertidumbre a la toma de decisiones de las máquinas es fundamental y ha supuesto un gigantesco avance en la computación.

La estadística y la probabilidad son esenciales en el funcionamiento de la Inteligencia Artificial. La pregunta no es ¿Cuánto son 2+2? La pregunta es ¿Cuál es la probabilidad de que María López compre después de haber pasado diez minutos en nuestra web y sabiendo que está casada, no tiene hijos y vive en Badajoz? O la ya mencionada ¿me quiere Loli?

En los últimos tiempos, las redes neuronales han venido a desempeñar un papel esencial en un mundo complejo y con abundancia de datos. Una de las características que ha solido atribuirse a las redes neuronales es que su funcionamiento no es rastreable, es impredecible y opaco. Nada más lejos de la realidad. Las redes neuronales son algoritmos tan determinísticos como una suma. Mucho más complejos, eso sí. Tan complejos que pueden parecer impredecibles, casi libres.

Todo lo cual nos lleva de vuelta a los humanos. Las redes neuronales son algoritmos complejos pero determinísticos. ¿Y los seres humanos no lo somos? ¿Acaso no ocurre que nuestros procesos cerebrales obedecen a las leyes de la física como el resto del universo? Entonces, la creatividad, la intuición o la duda, ¿son misteriosas y no replicables o simplemente complejas?

Simular defectos humanos en máquinas puede tener el efecto de aumentar la empatía. Y quizá sea también una interesante herramienta para investigarnos

El proceso de reflexión inherente a la duda con su detección de contradicciones y la búsqueda de factores no evidentes que ayuden a tomar una decisión más acertada no existe en las máquinas. Podría darse, pero en estado actual de tecnología, esto es ciencia ficción. Las máquinas son mucho más simples. Construimos algoritmos que se mueven en la incertidumbre en medio de muchos datos, pero están muy lejos de la versatilidad de la inteligencia humana.

Levantando la vista y mirando varias décadas hacia el futuro, sería deseable que las máquinas dudasen en el sentido reflexivo mencionado. Y, que en la fértil charca de la duda, se formularan preguntas. Como en el caso de la duda, en el de las preguntas hay docenas de aforismos. “Creíamos que teníamos las respuestas, pero era la pregunta la que estaba equivocada” (Bono). “No es que no puedan ver la solución. Lo que no pueden ver es el problema.” (G.K. Chesterton). “Lo que la gente considera como el momento del descubrimiento es realmente el descubrimiento de la pregunta”. (Jonas Salk).

La afirmación atribuida a Picasso seguirá siendo (parcialmente) acertada hasta que llegue un momento, no cercano, en el que las máquinas duden y se formulen preguntas. Cuando esto ocurra será un gigantesco avance. Mientras tanto, tendremos que esperar.

Antonio Orbe Mendiola

Psicólogo. 30 años de trabajo en IBM como técnico y comercial. Director del Foro del Futuro Próximo. Director del máster MDED. Profesor en másters y conferenciante. Escritor de libros: “Una mirada al futuro, Inteligencia Artificial, abundancia, empleo y sociedad”. “Sobre la conciencia. Opúsculo”.“Cerebro y ordenador.

Mi pasión es unir dos mundos: mentes y máquinas.

Fotos | iStock