Ética e inteligencia artificial
  • compartir
  • facebook
  • twitter

Rick and Morty y el riesgo de la Inteligencia Artificial

Los debates filosóficos han saltado a los laboratorios de ingeniería, mientras Elon Musk relaciona a Rick and Morty con su Tesla. La serie de Adult Swim ilustra el dilema ético de los vehículos autónomos que los fabricantes todavía parecen no comprender del todo.  

En un ya clásico capítulo de Rick and Morty, “Los Ricks deben estar locos”, el brillante científico y alcohólico nihilista Rick Sánchez se introduce con Morty dentro de la batería de la nave para repararla, dejando a su otra nieta en el vehículo, tras darle la orden de “mantener a Summer a salvo” (“Keep Summer safe”).

Justo este año Elon Musk recordaba en un tuit a la mordaz serie animada de Adult Swim, anunciando que el modo centinela de su próximo Tesla reproduciría Tocata y Fuga de Bach para repeler posibles ladrones y “keep Summer safe”. Efectivamente, preservar la vida de las personas es también la promesa de los vehículos autónomos, estandartes de la inteligencia artificial (IA) aplicada hoy. ¿Pero estamos seguros de qué implica?

«Para eliminar la falibilidad humana, la IA tendría que desentrañar lo que nos hace más humanos: la moral»

En la serie la instrucción significó que el vehículo cortara en trocitos diminutos al primer transeúnte. “¡Era el pediatra de mi hijo!”, reclama otro y la nave lo deja paralítico. Tras las quejas por la masacre, la máquina re-parametriza: “no fuerza física” y aplica entonces una retorcida técnica disuasoria: replica al hijo muerto de un policía, para dejarlo derretirse en sus brazos.

En el mundo real, el lobby tecnológico vende la idea sexy de que la IA hará que una nueva generación de vehículos funcionen con los mayores estándares de eficiencia y seguridad.  Sus artífices prometen evitar el 90% de los accidentes de tránsito al eliminar el error humano. El punto que no aclaran es que no existe per se tal algoritmo. Detrás de sensores y demás artilugios, lo que hay son personas programando una máquina y los comandos a introducir no resultan tan sencillos.

Los fabricantes parecen seguir, en principio, la línea ética de Rick and Morty con la máxima utilitarista de minimizar el daño. Pero, ¿esto significa proteger a Summer a toda costa? ¿O salvar la mayor cantidad de vidas, aún cuando implique sacrificar a Summer o a quien sea que esté en el vehículo? La gente común consultada en un estudio optó por lo último, aunque en ese caso, decían, no comprarían el vehículo.

«¿Quién decidirá realmente quién merece vivir o morir? ¿Los programadores? ¿Las empresas?»

Los viejos filósofos y los dilemas éticos que discutieron durante siglos han asaltado (¿por sorpresa?) los laboratorios de ingeniería, ante la impaciencia de los inversores. La gran paradoja es que para eliminar la falibilidad humana, la IA tendría que desentrañar lo que nos hace más humanos: la moral.

Juega y decide a quien salvará tu automóvil

Si un vehículo autónomo detectara un obstáculo mientras viaja a la velocidad máxima permitida y no fuera posible parar, ¿debería seguir su curso y matar al conductor o debería girar hacia la acera donde transitan cinco personas? ¿Debería girar al otro lado, aunque esto signifique cargar contra un motorista? ¿El juicio sería diferente si no llevara casco? ¿Y si las personas en la acera fueran ancianos o delincuentes?

El que la máquina siga recto o gire, “respondiendo” las preguntas anteriores, significaría que tendría potestad sobre la vida humana. Pero las respuestas deberían estar programadas de antemano en el algoritmo. Entonces, ¿quién decidirá realmente quién merece vivir o morir? ¿Los programadores? ¿Las empresas? ¿Los gobiernos? Una cosa es dar la instrucción de “mantener a Summer a salvo” y otra es ver cómo las amenazas se eliminan. Una cosa es que uno, como conductor, decida sacrificarse y otra distinta que el automóvil tome esa decisión.

«¿Acaso se pretendía dilucidar los dilemas que filósofos, sociólogos, historiadores y juristas han analizado durante siglos con una encuesta-videojuego?»

Investigadores del MIT intentaron zanjar el problema acudiendo a las masas con la moral machine: una versión del dilema del tranvía en juego virtual, donde más de dos millones de personas reaccionaron ante escenarios fatales. Los resultados advertían que diferencias culturales impedían definir un cuerpo estándar de reglas. No obstante, llamó la atención un cuadro resumen de a quienes se prefería “dejar morir”: las personas de “tallas grandes” antes que las atléticas; los vagabundos antes que ejecutivos y médicos; y a un criminal antes, incluso, que un perro.

Más allá de lo representativo de la muestra o la efectividad del método, ¿sería admisible matar a personas gordas o sin techo? ¿Y cómo exactamente podría reconocer la IA a un criminal? ¿Pretendemos que nuestros vehículos tengan acceso a antecedentes penales o que generen “perfiles criminales”? ¿Por vestimenta? ¿Raza? ¿De la misma manera como la nave de Rick decidió que un pediatra era una amenaza?

La iniciativa parece arrojar más preguntas que respuestas. Pero es que ¿acaso se pretendía dilucidar los dilemas que filósofos, sociólogos, historiadores y juristas han analizado durante siglos con una encuesta-videojuego? Pareciera olvidarse que los experimentos mentales como el dilema del tranvía fueron concebidos para analizar intuiciones morales, no para develar verdades.

En teoría el sondeo no buscaba que las máquinas se codificaran según los resultados exclusivamente. Sin embargo, el halo con que se revistió este crowdsourcing no deja de ser cientificista y hasta naif, al asumir que la esencia y ética humanas puede ser desentrañadas por la ciencia –o una encuesta- y reducidas a inputs-outputs, como veremos en el próximo artículo de esta serie.

“Mi nave no hace nada que tú no le hayas dicho”, le reclama Rick a Summer al final del capítulo, molesto no por las muertes causadas, sino por un absurdo daño colateral: estropear los mejores helados del multiverso. Falta ver qué moscas tendrá la próxima copa que nos sirva la inteligencia artificial de continuar su actual visión tecnocrática y cientificista.

Dictadura en serie… adictos del siglo XXI

Para más artículos interesantes dale click aquí.
Para MEMES dale click aquí.
buscar
  • Follow us
  • facebook
  • instagram
  • twitter
  • logo
  • logo
  • logo
  • logo
  • logo

Utilizamos cookies propias y de terceros con el fin mejorar la navegación y ofrecer contenidos de interés. Si acepta o continúa navegando consideramos que consiente nuestra Política de privacidad y cookies

ACEPTAR
Aviso de cookies