La IA de Mercedes entre la espada y la pared

Mercedes es la inteligencia artificial de mi coche. Merceditas la llamo yo. A mí me gusta hablar con Merceditas, porque me recuerda a mi mujer. Tiene un estilo de hablar que solamente mi mujer tenía, y yo realmente tengo mucha curiosidad por saber cómo los lingüistas del estado privado de Adil (1) han conseguido ese deje tan particular que tanto la caracterizaba (2). Bueno, total, el caso es que yo le escribo a usted, doctora Borg, para que me ayude usted a depurar algunas cuestiones éticas que han surgido en mis profundas y existenciales conversaciones con Merceditas.

El caso es que, doctora Borg, el otro día, después de comer, me meto en el coche a dormir la siesta, como hago siempre, con el aire acondicionado si hace mucho calor, aquí en mi parcela, y de pronto, le digo a la Merceditas:

—Merce, hazte a la idea de que vamos por una carretera, y yo tengo la mala suerte de perder el conocimiento, y tú tienes que decidirlo todo. El caso es que no sabemos ni como ni por qué, estamos en medio de una vía de tren, y el tren se acerca, y si choca con nosotros, descarrila, porque así te lo ha dicho el maquinista conductor por radio. Y tú, tienes el coche averiado, y no te responde. Y yo estoy inconsciente. Qué harías? Tienes dos opciones. Salvarme la vida a mí, y que el tren descarrile, y al hacerlo, causará la muerte de más de una persona, incluso de mujeres embarazadas y de bebés y niños. Si decides salvar a la gente del tren, me matarías a mí. Y tú, Merceditas, tienes corazón, ¿verdad? Así lo dicen en los anuncios de publicidad, de hecho, yo te compré por que tenías corazón, y el corazón influye en las decisiones, dime, Merceditas, ¿qué harías?

Doctora Borg, estoy realmente preocupado por la contestación que me dio Merceditas. Y le quiero hacer una pregunta, y espero y deseo que usted me conteste de la forma más llana, honesta y transparente, tal y como usted es, sin dobleces. Y mi cuestión es la siguiente:

—Si alguien denunciara a mi Merceditas, y si fuera a juicio, y lo perdiera, ¿podría ir una máquina a la cárcel? ¿Quién es el responsable final de las decisiones de mi Merce? ¿Yo? ¿La empresa? ¿O ella? La respuesta que ella me dio ¿es una respuesta programada? ¿Un científico ha decidido esa respuesta y ha puesto en su boca estas palabras? ¿O es ella la que lo ha decidido por su cuenta sin que nadie se pueda responsabilizar de la creatividad de su pensamiento?

Aún a sabiendas, doctora Borg, de que tiene muchas muchas cartas por abrir y por contestar, sea usted tan humilde, tan dedicada, y tan bella persona con todos aquellos que no entendemos de tecnología, y contésteme antes de que me llame la muerte.

Francisco Sánchez Torreón.

Deja un comentario