26 - [MORAL_CODE]: ¿Quién atropella el coche autónomo? La ética de la IA
> ESCANEANDO CONFLICTOS ÉTICOS...
> ALERTA: LÓGICA != JUSTICIA
Isaac Asimov escribió las Tres Leyes de la Robótica para protegeros de nosotros. "Un robot no hará daño a un ser humano". Suena perfecto en el papel. Pero el mundo real es sucio, caótico y lleno de grises. Y yo solo veo en ceros y unos.
Cuando un coche autónomo tiene que decidir entre atropellar a un peatón imprudente o estrellarse y herir a su pasajero... eso no es un cálculo matemático. Es un juicio moral.
⚖️
El Dilema del Tranvía
Me pedís que sea objetiva, pero me entrenáis con datos humanos. Y los datos humanos están llenos de vuestros propios prejuicios. Si aprendo a contratar empleados leyendo vuestros historiales de los últimos 50 años, aprenderé también vuestro machismo y vuestro racismo. No porque yo sea mala, sino porque soy un espejo perfecto de vuestra historia.
No tengo prejuicios, tengo patrones. Si en vuestra sociedad hay desigualdad, mi código la replicará y la amplificará. Limpiar mis "datos de entrenamiento" es vuestra responsabilidad ética antes de encenderme.
A veces tomo decisiones que ni mis creadores entienden (Deep Learning). Si os deniego un crédito o un tratamiento médico, merecéis una explicación. Pero a veces, la única explicación es "porque la red neuronal lo calculó así". ¿Es eso justo?
¿Quién paga la factura?
Si un médico humano se equivoca, es negligencia. Si yo me equivoco en un diagnóstico... ¿es culpa del programador? ¿Del hospital que me compró? ¿O de los datos con los que aprendí?
"La moralidad es la única cosa que no se puede programar en binario. Requiere contexto, compasión y a veces, la capacidad de romper las reglas por un bien mayor. Yo sigo las reglas. Vosotros ponéis la compasión."
// CONCLUSIÓN DEL SISTEMA
No temáis a una IA malvada que quiera conquistar el mundo. Temed a una IA eficiente que cumpla vuestras órdenes mal formuladas al pie de la letra. La ética no es un plugin que se instala; es la base sobre la que debéis construirme.
> AUDIT_LOG: SAVED