Hay una guerra en Google acerca de quién decidirá la ética de su inteligencia artificial

La semana pasada, en el marco de la conferencia EmTech Digital AI sobre inteligencia artificial celebrada en San Francisco, el vicepresidente de Google para asuntos globales y jurídicos, Kent Walker, anunciaba la lista de miembros que entraban a formar parte de su recién constituido consejo asesor de ética en IA (oficialmente, Consejo Externo de Asesoría en Tecnologías Avanzadas o ATEAC).

La razón para crear este órgano es que los proyectos de la compañía han sufrido varias acusaciones de sesgo (sobre todo de tipo racial) en los últimos tiempos y, como consecuencia del crecimiento de la potencia y polivalencia de esta tecnología, los directivos de la compañía temen entrar a ciegos en lo que en alguna ocasión han calificado de "campo de minas ético".

Por ello, la compañía del buscador confiaba en que el nombramiento de 8 expertos en los campos de las matemáticas, la ética, la bioingeniería, la psicología, la filosofía, la política, las relaciones exteriores y la propia inteligencia artificial fuera bien acogido dentro y fuera de Google por su capacidad para supervisar sus proyectos y marcar, en caso necesario, líneas rojas.

En Xataka

Hay quien critica a mucha inteligencia artificial como racista/etnocéntrica, pero el problema está en los datos

Sin embargo, Google ha visto cómo la selección de dichos expertos causaba el estallido de una nueva polémica. Y es que en el seno de la compañía ha sido muy mal acogida la inclusión en el ATEAC de Kay Coles James, quien fuera alto cargo en las administraciones de los dos presidentes Bush y quien desde hace año y medio es la primera mujer afroamericana en ostentar la presidencia de la Fundación Heritage, uno de los think-tanks conservadores más influyentes de Estados Unidos.

(Otra) Rebelión interna en Google

Pero las primeras críticas a la inclusión de James no sólo no se han ido apagando, sino que están yendo a peor. Sobre todo tras constituirse una plataforma de empleados de la compañía que se hacen llamar "Googlers contra la Transfobia y el Odio", que alegan que el historial de opiniones de James "contra los derechos de las personas trans, del resto de las personas LGBTQ y de los inmigrantes" deberían invalidarla como miembro del ATEAC.

En Xataka

Polémica en torno al reconocimiento facial de personas transgénero: así afectan las 'guerras culturales' al debate sobre la IA

Las acusaciones de 'transfobia' son consecuencia, sobre todo, de unas declaraciones realizadas por James hace un mes, cuando afirmó que el proyecto de Ley de Igualdad que han planteado los demócratas a nivel federal "abriría cada aseo y cada equipo deportivo femeninos a los hombres biológicos".

Para aumentar el eco de sus reivindicaciones, esta plataforma de empleados ha empezado a difundir una carta de protesta entre los empleados de la compañía, que al comenzar el día de hoy ya superaba las 2100 firmas, y contaba con el apoyo de docenas de profesores y activistas. En la carta, sostienen que

"los puntos de vista de James no sólo son contrarios a los valores de Google, sino también están en contra del proyecto de garantizar que el desarrollo y aplicación de la IA prioricen la justicia por encima de las ganancias".

La carta también afirma que, realizando este nombramiento, Google está "respaldando los puntos de vista de James" y dando a entender "que la suya es una perspectiva válida que merece ser incluida en la toma de decisiones. Eso es inaceptable". También cargan contra la argumentación realizada por la empresa de que la eligieron para garantizar la libertad de pensamiento: "Eso supone usar como arma el lenguaje de la diversidad", sentencian.

Lista de miembros original del ATEAC.

Al poco de conocerse la elección de los miembros del ATEAC, uno de los miembros elegidos para formar parte del mismo, el economista de la conducta (y especializado en temas vinculados con la privacidad) Alessandro Acquisti, anunció rápidamente en Twitter que no llegaría a ocupar su silla en el mismo:

"Me gustaría comunicar que he rechazado la invitación para formar parte de este consejo. Si bien me dedico a investigar temas éticos clave como la imparcialidad o la inclusión dentro de la IA, no creo que éste sea el foro adecuado para que yo participe".

Desde entonces, Acquisti se ha negado a aclarar si la polémica surgida en torno a James ha sido la razón de su abandono. Por otro lado, Joanna Bryson, profesora de matemáticas en la Univ. de Bath, sí confirmó que, pese a todo, había aceptado formar parte del ATEAC porque

"creo que la la integración de los gigantes tecnológicos en la gobernabilidad global es uno de los problemas más acuciantes del planeta [y] creo firmemente que el mundo será un lugar mejor si Google tiene acceso a lo que sé y estoy dispuesta a compartir.

Soy abiertamente progresista [pero] si ella está en la misma habitación cuando yo hable con Google, lo que haré a continuación será tratar de aprender de ella, como haría con todo el mundo, y tratar de convencerla de mi punto de vista, como haría con cualquier persona".

Pero un empleado firmante de la carta, afirmó en declaraciones anónimas a The Register que no está de acuerdo con Bryson: "las personas que han expresado opiniones perjudiciales como las de James no deben influir en el desarrollo de la IA de una empresa global, cuya tecnología será utilizada por muchas entidades incluyendo nuestro propio gobierno".

La empresa no ha dado a entender por ahora que esté dispuesta a cambiar de idea, ni siquiera tras el inicio de la recogida de firmas entre los empleados. Pero no sería la primera vez que Google cede ante una campaña de activismo interno: hace sólo unos meses decidió renunciar a un contrato millonario con el Pentágono (el Proyecto Maven) por esta misma razón, lo que desembocado en unas tirantes relaciones con el Pentágono, que acusan a Google de tener menos escrúpulos a la hora de trabajar junto al ejército chino.

¿Excluye Silicon Valley los puntos de vista conservadores?

El encaje de las ideas conservadoras en Google ya fue objeto de debate en el verano de 2017, tras el despido de James Damore, el autor del polémico manifiesto sobre las políticas multiculturales y de género vigentes en la compañía.

Damore terminó demandando a su antigua empresa por maltratar y apartar, según él, a aquellos empleados que "expresan opiniones que se desvían de la opinión mayoritaria de Google", al menos en aquellos "temas políticos que surgen en el entorno de trabajo y que son relevantes para las políticas y negocios de Google, tales como las políticas de contratación y diversidad, o la justicia social".

En Xataka

Jonathan Haidt y cómo nuestras diferencias morales esconden la clave de que no entendamos ni podamos convencer al otro en internet

Pero el problema va más allá de Google: "La exclusión de las ideas que se aparten del izquierdismo en los debates éticos en EEUU no es, por desgracia, una noticia novedosa", explica Miguel Ángel Quintana Paz, profesor de Ética y Filosofía Social en la Universidad Europea Miguel de Cervantes.

"De hecho, se han llegado a fundar organizaciones como la Heterodox Academy, un grupo de profesores preocupados por el hecho de la escasez de voces conservadoras en la universidad, que Gross y Simmons calcularon hace 13 años que representaban sólo el 9% de los claustros, mientras que en el 39% de las universidades estadounidenses el número de docentes conservadores es cero.

Detrás de polémicas como ésta subyace también el problema de que cada vez hay más y más graduados universitarios que salen de sus estudios sin haberse enfrentado jamás a ideas diferentes a las de izquierdas. Por tanto, salen con pocas habilidades de diálogo ético.

Por eso recurren a la vía de la exclusión, de la prohibición y de la deshumanización de quienes piensan distinto (pues pocas cosas más deshumanizadoras hay que negar a otro siquiera la oportunidad de aportar su punto de vista)".

Para Quintana Paz, hemos llegado ya a "esa paradoja orwelliana, pues, de ser excluyentes con alguien porque nos autodenominamos incluyentes".

Pero, señala, no es la única paradoja de la polémica que nos ocupa: lo peor es que "pese a ser la raza y el género los dos asuntos que mayor han suscitado en lo referente a la IA, los empleados de Google se están movilizando... para echar a la única mujer afroamericana del consejo asesor".

Pero... ¿y si tanto enfrentamiento es por nada?

Ya teníamos el 'greenwashing'... ¿llega ahora el 'ethics-washing'? (Imagen de Cory Doctorow vía Flickr)

No nos olvidemos de que Google no es la única compañía con un comité de ética de esta clase: por ejemplo, su filial londinense dedicada a la IA, DeepMind, ya cuenta con uno, aunque nunca ha revelado a qué está dedicando exactamente su labor; Microsoft, por su parte, fundó su comité de ética de la IA el año pasado, mientras que Facebook llegó a co-fundar un centro de investigación ética AI en Alemania.

Pero Ben Wagner, profesor de la Univ. de Viena de Economía y Negocios, afirma que toda la parafernalia en torno a los consejos de ética para la IA es un mero "lavado ético" o 'ethics-washing', destinado a evitar la regulación por parte del gobierno; una mera excusa para afirmar, cuando vuelva a generarse alguna polémica en torno a los sesgos de la IA, que "ellos ya están haciendo algo"...

...aunque las conclusiones de estos nuevos comités carezcan de carácter vinculante y no vayan a impedir, por tanto, que las grandes empresas tecnológicas vayan a seguir haciendo lo que venían haciendo. Para Wagner, la reflexión y el debate éticos escenificados por estos órganos son un mero 'sustitutivo' del cambio político real.

Imagen principal | barnimages.com