Así funciona el sistema de 'scoring' de Goldman Sachs que ha desatado la polémica de Apple Card

El lanzamiento de la Apple Card fue todo un éxito, así como el recibimiento por parte de los usuarios. Sin embargo, están surgiendo las primeras dudas alrededor de ella. Algunos usuarios han reportado diversas incidencias con la tarjeta a la hora de conceder créditos. En múltiples ocasiones Apple Card ha ofrecido un crédito inferior a mujeres que a hombres aparentemente en igualdad de condiciones al estar casados, tener actividades económicas similares en incluso salarios mayores las mujeres en algunas ocasiones.

Apple Card y créditos, el origen de la polémica

Todo empezó el pasado jueves, cuando David Heinemeier Hansson publicó en Twitter una serie de tweets explicando cómo Apple Card le dio un límite 20 veces mayor al que le dio a su esposa. David Heinemeier Hansson es un influyente desarrollador y actual CEO de Basecamp, por lo que sus tweets han tenido suficiente repercusión. David alega que ambos viven juntos desde hace años, que hacen la declaración de impuestos conjunta y que su mujer a pesar de pagar a tiempo el crédito recibido, sigue sin obtener más hasta el siguiente período de facturación. En definitiva, cree que el algoritmo que hay detrás de la concesión de créditos de Apple Card es sexista.

The @AppleCard is such a fucking sexist program. My wife and I filed joint tax returns, live in a community-property state, and have been married for a long time. Yet Apple’s black box algorithm thinks I deserve 20x the credit limit she does. No appeals work.
— DHH (@dhh) November 7, 2019

Según explica, contactó con el servicio de atención al cliente de Apple en varias ocasiones, aunque no consiguieron resolverle la duda de por qué el crédito de su mujer era inferior. Finalmente, tras la repercusión mediática que ha tenido sus tweets, indica que el crédito de su mujer ahora es igual al suyo. No le han dado explicación alguna de por qué se lo han subido a su mujer de repente y cuando ha contactado de nuevo con atención al cliente, los empleados le indicaron que "No sabemos por qué, pero te juramos que nosotros no discriminamos, es simplemente el algoritmo".

A raíz de los tweets de David Heinemeier Hansson otros usuarios también han hecho públicas sus quejas por tratos similares, donde la mujer recibía un límite de gasto inferior al del hombre. Por ejemplo, un usuario comparte que su mujer tiene ingresos cuatro veces superiores pero recibe un crédito 10 veces inferior que él. Otro explica que su esposa tiene un scoring más alto que él e ingresos mensuales mayores pero a pesar de ello mediante Apple Card recibe sólo un tercio del crédito que le conceden a él. Eso sí, también ha surgido algún que otro usuario mostrando cómo su esposa ha recibido un crédito ligeramente mayor viviendo ambos juntos, con un scoring similar y haciendo la declaración de impuestos conjunta.

Cómo funciona el scoring bancario

Como ya sabemos, la Apple Card es una tarjeta de crédito y no de débito, por lo tanto, el usuario puede recibir dinero prestado por adelantado. Pero ¿a qué se deben estas diferencias de crédito tan abismales en algunos casos? Todo depende del scoring bancario y de cómo funciona el sistema de créditos en Estados Unidos (y en general en todo el mundo).

Antes de seguir, hay que recordar que aquí hay un segundo implicado que hasta ahora no ha sido mencionado, se trata del banco Goldman Sachs. Como ya sabemos, Goldman Sachs es el aliado de Apple y se encarga de la parte financiera de la Apple Card, mientras que Apple pone la tecnología. Es decir, todo lo relativo a los créditos que se conceden, préstamos y límites de estos depende de Goldman Sachs, mientras que Apple se encarga de la integración con el iPhone, la app Wallet y más. Siendo Apple con quien se contrata la tarjeta y estando su nombre en la misma evidentemente los usuarios van a recurrir a Apple ante un problema.

Volviendo al scoring bancario, se trata de una puntuación que concede cada banco u organismos financieros a cada persona para ver cómo de "fiable" es para concederle un crédito. Esta puntuación depende de muchos factores como indica FICO, como puede ser el salario mensual de cada persona, su historial de pagos en el pasado, si tiene pagos pendientes, la estabilidad de su trabajo actual... En definitiva, cualquier tipo de factor que pueda determinar si una persona es capaz o no de devolver el dinero prestado a tiempo. El género de la persona efectivamente no debería ser uno de esos factores, sin embargo, por los casos mencionados anteriormente puede dar la impresión de que sí lo es.

Como funciona exactamente el scoring de Goldman Sachs es algo que sólo Goldman Sachs sabe. Este funcionamiento no se hace público porque podría posibilitar que alguien se ajuste adrede a las condiciones del scoring para engañarlo y obtener mejor puntuación. Ocurre algo parecido con el algoritmo de búsqueda de Google por ejemplo, que es secreto para que nadie se aproveche posicione mejor su página web en los resultados. En otras palabras, sólo en Goldman Sachs saben por qué a David Heinemeier Hansson le conceden 20 veces más crédito que a su mujer.

Precisamente esto es lo que más ha enfurecido a David Heinemeier Hansson. Indica que tras hablar con varios representantes de Apple e incluso Goldman Sachs todos le han dado una explicación similar. Esa explicación viene a ser que no tienen la capacidad de analizar qué ha decidido el algoritmo para conceder un crédito u otro a cada persona. En cierto modo tiene sentido, es un algoritmo secreto como hemos indicado antes.

Pero claro, como indican nuestros compañeros de Xataka, surge la duda de si hay una fe ciega en el algoritmo sin saber exactamente como funciona, porque ese algoritmo también podría estar alimentándose por aprendizaje automático y no solamente por los parámetros que Goldman Sachs le esté dando. No sería el primer algoritmo por aprendizaje automático discriminatorio. Esto sin embargo es especulación del CEO de Basecamp a raíz de cómo han actuado desde Goldman Sachs ante la situación, pues no hay forma de saber cómo funciona exactamente el algoritmo.

En Xataka

La Apple Card ante el sexismo y la polémica: acusan al algoritmo de conceder a un hombre 20 veces el crédito de su mujer

Las reacciones de Goldman Sachs, Apple y otros organismos

Como hemos visto, la crítica de David Heinemeier Hansson ha tenido una repercusión memorable. Ante tal crítica, desde Goldman Sachs han emitido un comunicado oficial explicando que el crédito que se concede a cada usuario de Apple Card es independiente y no depende de con quién esté casada cada persona. También aclaran que no se realizan decisiones basadas en factores como el género de cada persona.

We wanted to address some recent questions regarding the #AppleCard credit decision process. pic.twitter.com/TNZJTUZv36
— GS Bank Support (@gsbanksupport) November 11, 2019

Por otro lado, Apple no se ha pronunciado al respecto de momento. No hay ninguna declaración oficial de Apple respecto a este problema que están teniendo algunos usuarios de la Apple Card. Desde Applesfera nos hemos puesto en contacto con Apple España para ver cuál es su posición al respecto, actualizaremos el artículo si obtenemos una respuesta.

En Applesfera

Apple Card y el nuevo Wallet: preguntas y respuestas de la tarjeta de crédito más disruptiva de todas

Finalmente, reguladores en Nueva York han advertido que han iniciado una investigación al respecto. En un comunicado, un portavoz del Departamento de Servicios Financieros de Nueva York dijo que el departamento está llevando a cabo una investigación para asegurar que todos los consumidores reciban el mismo trato, independientemente del sexo. Según ha indicado:

"El departamento llevará a cabo una investigación para determinar si se violó la ley de Nueva York y garantizar que todos los consumidores reciban el mismo trato sin importar el sexo. Cualquier algoritmo que intencionalmente o no resulte en un trato discriminatorio de las mujeres o de cualquier otra clase de personas protegidas viola la ley de Nueva York"

Vía | David Heinemeier Hansson y Bloomberg