Ética y código: "O programaba ese misil teledirigido o me quedaba sin trabajo"

Programacion

Con cada vez más tecnología presente en nuestras vidas, es difícil echar un vistazo a nuestro alrededor y no ver un producto o un servicio que no haya tenido que pasar por las manos de un programador. Desde la propia Xataka, pasando por las webs en las que compramos habitualmente como Amazon hasta llegar al GPS o navegador de nuestro coche.

Sin embargo, el trabajo del programador no siempre consiste en hacer que una web cargue y se muestre correctamente o que nuestro coche sepa calcular la ruta más rápida hacia un destino.

En una guerra, si se dispara un misil teledirigido, hace falta un software para que acabe llegando a su objetivo. Antes de realizar una perforación para sustraer petróleo, es necesario estudiar muchos parámetros para que la operación sea un éxito. Incluso cuando estás pensando en comprar un billete de avión por internet y de repente ves que sube el precio al día siguiente. Son procesos basados en líneas de código y, para todos ellos, hace falta un programador (o, mejor dicho, un equipo de programadores). ¿Hay ética en el mundo de la programación? Hablamos con varios programadores que trabajan o han trabajado en diferentes sectores para responder a esta pregunta.

Por la propia privacidad y seguridad de los entrevistados (varios tienen contratos de confidencialidad) mantendremos sus identidades en secreto. Usaremos nombres ficticios para referirnos a ellos, pero todos los casos que documentamos a continuación son reales.

No hay elección: o haces esto o te marchas

Pedro, de 36 años, lleva más de diez dedicándose a la programación para diferentes empresas. Entre otros proyectos, estuvo desarrollando software con fines militares:

Cuando entré ya sabía a lo que venía, y lo acepté porque, aunque estuviera programando para hacer que las armas sean más efectivas, siempre pensaba que era para usarlas en defensa propia. Pero el dilema te surge cuando ves en las noticias que un misil que has ayudado a programar se ha usado para atacar una ciudad y que ha habido muchos muertos.

Juan, de 32 años, trabajó para una conocida empresa petrolera que necesitaba software para calcular dónde y cómo realizar nuevos pozos petrolíferos:

Estaba más o menos acostumbrado a que organizaciones como Greenpeace nos criticaran o incluso se manifestaran en la puerta de nuestra oficina, pero mi trabajo era programar software capaz de calcular en qué punto exacto era mejor hacer una perforación. Entendía el punto polémico medioambiental, pero yo pensaba que no hacía daño a nadie. Al menos directamente. Un día me acabé enterando de que una de las prospecciones que programamos se utilizaron en unos yacimientos en el Delta del Níger y provocaron un desastre natural enorme, aparte de un gran conflicto con la gente de allí.

Luis, de 29 años, formó parte del equipo que programó una conocida web de búsqueda de vuelos:

La verdad que nos quedamos un poco sorprendidos cuando vimos que en las instrucciones que teníamos había que programar que la web presionara psicológicamente al usuario para que comprara el billete. Y lo conseguíamos simplemente haciendo que el precio del billete que el usuario había consultado subiera de precio cada vez que entraba de nuevo. No era mucha la diferencia, pero cuando introducíamos otra variable, mostrarle que quedaban cada vez menos plazas, cuando en realidad no era así, era un combo bastante efectivo.

A los tres les hicimos la misma pregunta: ¿y si os negabais a hacerlo qué pasaba? La respuesta fue unánime: no se podían negar. Nadie se lo planteaba. "Si lo hacías no lo decías e intentabas cambiar de trabajo, que es lo que acabé haciendo yo", apunta Juan. En otras palabras, o programaban lo que se les pedía, o se quedaban sin trabajo. Esto es algo lógico si acabas trabajando para un proyecto militar o para un sector polémico como el petrolífero, ¿pero saben en todo momento los programadores lo que están programando?

Empresas que ocultan información a los programadores

Programando

Como referencia, mostramos a Pedro, Juan y Luis este artículo de Medium en el que un programador canadiense contaba cómo acabó desarrollando una web sobre un medicamento para mujeres adolescentes. En esa web había una encuesta que los visitantes tenían que rellenar y, dependiendo de sus respuestas, teóricamente se recomendaba un medicamento u otro. Al final siempre se recomendaba el medicamento de la empresa que pagaba para programar la página. Y, al parecer, este desarrollador canadiense descubrió que una chica se acabó suicidando por los efectos secundarios de ese medicamento que se estaba promocionando en la web. Unos efectos secundarios que, supuestamente, el programador desconocía.

"Hubo una vez que nos dieron unas coordenadas alteradas para que no descubriéramos que estábamos calculando perforaciones cerca de un santuario natural protegido"

Pedro opina que "el programador sabía en todo momento que estaba falseando una encuesta para que saliera siempre un medicamento recomendado y yo ahí seguro que habría mirado qué clase de medicamento era". Y Luis completa: "Aunque hubiera sabido que el medicamento tenía efectos secundarios perjudiciales, era un trabajo para un cliente y no tiene aspecto de que fuera algo ilegal porque la decisión de comprar el medicamento recae sobre el consumidor; yo lo habría hecho también sin cuestionarme nada".

Entonces les preguntamos a ellos si en todo momento sabían lo que estaban programando. Pedro nos confirma que sí y nos pone el ejemplo de cuando estuvo desarrollando un software para lanzar torpedos desde un submarino:

Que intentes autoconvencerte de que estás trabajando en algo positivo o para ayudar a la sociedad a defenderse no significa que no sepas que estás desarrollando el software que va a hacer que un torpedo parta en dos un barco. Es un proceso muy específico y claro en el que el objetivo es que el torpedo se sitúe debajo del barco en cuestión y explote en un lugar exacto para provocar que su estructura colapse y se acabe hundiendo. Es imposible no saber lo que estás haciendo.

No obstante, Juan, el que trabajó para una petrolera, nos confiesa que hubo momentos en los que se les ocultaban datos:

Hubo una vez que nos dieron unas coordenadas alteradas para que no descubriéramos que estábamos calculando perforaciones cerca de un santuario natural protegido. Nos acabamos dando cuenta porque no tenía sentido una perforación con esas coordenadas, y a partir de ahí empezamos a desconfiar mucho de la empresa.

Luis, que también sabía lo que estaba haciendo cuando participó en la programación de la web de búsquedas de vuelos, añade que muchas veces los programadores no tienen una visión general del proyecto en el que están trabajando:

Cuando formas parte de un equipo, te suele tocar programar una parte que quizá no te haga plantearte nada ético. Simplemente porque te falta contexto. Esto sucede en proyectos grandes que se subdividen en muchas tareas.

¿Qué opciones hay?

Programar

Si es normal que las empresas te obliguen a firmar un contrato de confidencialidad, o te intentan ocultar información sensible para no influenciar en tu productividad y, además, en proyectos grandes es muy complicado discernir si las tareas son parte de una finalidad dudosamente ética, ¿qué opciones le quedan a los programadores?

Pedro lo tiene claro: buscar un trabajo en un sector libre de polémicas:

Yo después de un tiempo en el sector militar decidí probar suerte en servicios públicos, webs gubernamentales y así. Por mi experiencia y la de otros compañeros, los dilemas éticos surgen en sectores en los que hay dinero de por medio: militar, farmacéutico, petróleo, financieros, marketing... Me sorprendería mucho que a un programador de la web de un proyecto cultural le pidan algo raro.

Juan, por su lado, cree que debería haber una parte de ética y deontología profesional en la formación de los programadores:

Cuando estudié no recuerdo ninguna mención o advertencia a estos temas que nos fuimos encontrando más adelante. Creo que es importante que se enseñe para que al menos seamos conscientes de que en el mundo laboral vamos a toparnos con situaciones delicadas.

En este hilo, José Manuel García Carrasco, catedrático en el Departamento de Ingeniería y Tecnología de Computadores de la Universidad de Murcia (España), y haciendo referencia a un código ético para ingenieros de software aprobado por varias organizaciones internacionales en 1999, piensa que habría varios retos a la hora de abordar la cuestión deontológica, entre ellos la propia definición de lo que es un programador y lo que no:

Para ser programador, ¿hay que haber estudiado Ingeniería Informática o se trata de un conocimiento de tipo artesanal que cualquiera, con pericia y tiempo, puede desarrollar? Dicho de otra forma: ¿puede cualquiera desarrollar y vender una aplicación informática o se necesita pertenecer al colegio profesional de ingenieros informáticos?

Y aparte estarían las cuestiones sobre quién es el culpable en caso de que un software falle, qué órgano se aseguraría de que se cumpla ese hipotético código deontológico global, qué sería considerado correcto o no...

"Aunque nos negáramos en masa a programar según qué cosas, siempre habría alguien que lo haría y seguramente por menos dinero"

Al final y, desgraciadamente, la salida actual para el programador que se enfrenta a unas líneas de código que se utilizarán con fines dudosamente éticos es renunciar a su empleo. "Y aunque nos negáramos en masa a programar según qué cosas, siempre habría alguien que lo haría en cualquier otra parte del mundo y seguramente por menos dinero", apunta Juan.

Tal y como está la situación, parece que es una cuestión que no depende tanto de los programadores, sino de quienes toman las decisiones, los jefes que piden esas tareas poco éticas o los directivos de empresas de Wall Street. Y eso sí que es mucho más complejo de solucionar.

En Xataka | Qué consejos le daría a alguien que empieza a programar después de llevar más de 5 años haciéndolo