Sven R. Larson.- El 12 de marzo de 1992, un trolebús de tren ligero en servicio del sistema de transporte público de Gotemburgo, Suecia, quedó atascado sin electricidad en la cima de una colina. Los pasajeros fueron evacuados y el gerente de tráfico ordenó al conductor que aflojara los frenos y dejara que el tren de dos vagones bajara la colina aproximadamente un cuarto de milla, hasta donde los motores pudieran volver a conectarse con energía.

Esto, dijo, reactivaría los frenos.

El gerente estaba equivocado: era técnicamente imposible accionar los frenos de esta manera. La maniobra también fue ilegal.

Cuando el tren de dos vagones comenzó a moverse, descendió desde la parada del tren ligero en la cima de la colina, pasando por el Instituto de Tecnología Chalmers, donde se suponía que debía recibir energía. Sin frenos en funcionamiento, aceleró por Aschebergsgatan alcanzando una velocidad estimada de 100 km/h (62 mph).

Aproximadamente 1,6 kilómetros (1 milla) cuesta abajo, justo después del edificio principal de la Universidad de Gotemburgo, el tren se estrelló contra las plataformas de la parada de tren ligero Vasaparken. Aplastó autos, provocó un incendio y mató a 13 personas. Otros 29 fueron llevados al hospital, muchos con heridas graves.

Más tarde, un tribunal encontró al administrador de tráfico totalmente responsable. Su orden al conductor de anular ilegalmente el protocolo de seguridad establecido había causado el accidente. Sin embargo, según algunas versiones en ese momento, el accidente podría haber ocurrido debido a circunstancias técnicas poco comunes.

En cualquier caso, la tragedia es un representante de la vida real del llamado problema del tranvía , que a veces se utiliza en la investigación empírica sobre los valores morales. En el experimento mental, un carro fuera de control se dirige en una dirección en la que hay varias personas en su camino, y la única forma de salvarlas es cambiar la dirección del carro a otra vía, donde golpeará a un grupo más pequeño de personas. gente. A la persona cuyos valores se estudian se le pide que elija en qué vía colocar el carro.

En el momento del accidente en Gotemburgo, solo había una vía a lo largo del camino del tren fuera de control. Sin embargo, unos años más tarde, se agregó una nueva vía, que iba a una parte diferente de la ciudad, aproximadamente un cuarto cuesta abajo. Si hubiera estado en vigor en 1992, el administrador del tráfico de tránsito habría tenido la opción de enviar el tren fuera de control a la vía alternativa.

¿Qué pista habría elegido el administrador de tráfico? ¿Qué pasaría si la función de gerente hubiera sido respaldada por una inteligencia artificial? ¿Habría sido diferente la decisión?

Las computadoras se involucran cada vez más en la resolución de problemas morales. Esto es inevitable, ya que nos hacemos dependientes de ellos para más y más funciones de nuestras vidas. Esta tendencia plantea la pregunta:

¿Debe la IA tomar decisiones morales?

Hay una premisa implícita en la expansión de la tecnología de IA, a saber, que es perfecta, o al menos mucho menos propensa a errores que los humanos. Esta es una premisa arriesgada en la que confiar, especialmente porque la expansión más reciente de la tecnología de inteligencia artificial en nuestras vidas, los automóviles autónomos, ha demostrado todo lo contrario. Los autos sin conductor no solo están lejos de ser impecables , sino que, como explica un informe del Instituto Estadounidense de Seguros para la Seguridad en las Carreteras (IIHS), los autos con piloto automático no son muy buenos para reducir los accidentes.

La razón, dice el IIHS, es que cuando la IA se pone al volante, conduce de manera muy parecida a como lo hacen los humanos.

¿Por qué? La respuesta a esta pregunta nos dice todo lo que necesitamos saber sobre por qué no queremos que la IA tome decisiones morales por nosotros.

Con el auge de la tecnología de IA, surge un creciente cuerpo de literatura que examina la relación entre la programación y los valores morales tanto en la teoría como en la práctica. Uno de los muchos buenos ejemplos es un artículo reciente en BigThink.com, donde Jonny Thomson pregunta: “ ¿La ética de quién debería programarse en los robots del mañana? Con el problema del tranvía en mente, pregunta:

¿Quién debe decidir cómo se comportan nuestras nuevas máquinas? Tal vez no debamos temer una “tiranía de la mayoría”, como reflexionó De Tocqueville, sino más bien la tiranía de una pequeña minoría con sede en Silicon Valley o fábricas de robótica. ¿Estamos contentos de tener su cosmovisión y valores éticos como modelo para el feliz nuevo mundo que tenemos por delante?

Estas son buenas preguntas y muy relevantes dados los rápidos avances en inteligencia artificial. Al mismo tiempo, el problema que abordan las preguntas de Thomson no es tan novedoso como puede parecer. Confiar en las computadoras en asuntos éticos es técnicamente nuevo, pero la idea de entregar la toma de decisiones morales a las máquinas no lo es. La forma mecanizada de toma de decisiones morales prevista en el crecimiento de la tecnología de IA es, en muchos sentidos, una adaptación de otra forma bien establecida de toma de decisiones mecanizada: la atención médica administrada por el gobierno.

Muchas decisiones con implicaciones directas para los pacientes son tomadas por funciones estandarizadas e institucionalizadas dentro de una burocracia gubernamental. Las juntas de expertos designadas usan estatutos, pautas regulatorias y poderes discrecionales para decidir qué métodos de tratamiento están permitidos y cuáles están prohibidos. Otros expertos deciden qué hospitales, clínicas y áreas de la medicina deberían recibir más fondos y cuáles deberían reducir sus presupuestos.

La toma de decisiones morales mecanizada en los sistemas gubernamentales de atención médica está a cargo de humanos. Ellos escriben las regulaciones y luego toman decisiones basadas en ellas.

Tres desafíos para la IA moral

¿Sería deseable reemplazar a esos humanos con IA? Considere los siguientes tres ejemplos:

1. Dos pacientes con cáncer están a la espera de una cirugía. La operación los curará permanentemente, pero esperar más los llevará a la muerte. El gobierno no ha asignado suficiente dinero para que ambos pacientes reciban tratamiento en un tiempo que les salve la vida. Ambos pacientes tienen 40 años, están casados ​​y tienen dos hijos. Uno de ellos gana el doble de dinero que el otro y, gracias a la escala progresiva del impuesto sobre la renta en el país, paga más del doble en impuestos que el otro paciente.

Muchos países utilizan una herramienta de toma de decisiones conocida como QALY, Años de vida ajustados por calidad , en sus sistemas de atención médica. Esta herramienta se utiliza para asignar recursos médicos y establecer prioridades en cuanto a quién recibe qué tratamiento médico y cuándo. En el ejemplo actual, QALY guiaría al hospital a priorizar al paciente que paga más impuestos. Esto garantizará un mayor retorno al gobierno sobre el costo de la cirugía.

2. Dos pacientes, iguales en todos los aspectos relevantes, están siendo tratados en el mismo hospital por la misma condición médica rara. El tratamiento es costoso y por lo tanto muy racionada por el gobierno. Solo un paciente puede recibir el tratamiento ofrecido por el hospital.

Uno de los pacientes explica que su hermano rico le ha prometido comprar un nuevo medicamento en el extranjero. Se sabe que cura la dolencia, pero debido a su alto costo ha sido excluido de la oferta de productos farmacéuticos en este país. Un grupo de expertos niega al paciente el acceso al medicamento financiado con fondos privados, con el argumento de que conduciría a una distribución desigual del tratamiento médico.

3. Una madre da a luz a un niño con una condición médica que requerirá tratamiento de por vida. El tratamiento permitirá al niño una vida normal; sin el tratamiento, el niño aún podrá vivir pero quedará discapacitado y dependiente de otros por el resto de su vida.

Al evaluar la condición médica del niño, el gobierno ordena la eutanasia del niño. Ahorrará dinero a los contribuyentes, ya sea al no pagar el medicamento o al no pagar la asistencia de por vida. También, argumenta el gobierno, le ahorrará al paciente el dolor de vivir una vida de baja calidad.

Como expliqué en mis libros Remaking America y The Rise of Big Government , los primeros dos ejemplos son versiones levemente estilizadas de decisiones de la vida real que se toman regularmente en los sistemas de atención médica administrados por el gobierno. El tercer ejemplo es, que yo sepa, todavía ilegal en el mundo civilizado, pero el caso moralmente no está muy lejos de los otros dos. Además, si el avance de la línea de frente de la guerra abortista contra la vida se combina con la atención médica administrada por el gobierno, el infanticidio pronto puede no solo ser legal, sino prescrito bajo las circunstancias dadas.

En los tres ejemplos, los juicios morales con respecto a la asignación de recursos y la aplicación de métodos de tratamiento han sido eliminados del paciente. Las decisiones sobre quién recibe qué tratamiento y quién se deja morir se guían por las preferencias morales que se encuentran en los estatutos legales o en las pautas reglamentarias.

Algoritmos morales prefabricados

Las decisiones sobre la vida o la muerte se han vuelto administrativas, burocráticas y, sí, mecánicas.

¿Podemos y debemos entregar este tipo de decisiones a una inteligencia artificial? Si es así, según la primera pregunta de Thomson, alguien tendrá que decidir cómo la IA debería tomar sus decisiones morales. Alguien tendrá que escribir las pautas de decisión que aplicará la IA.

Es muy probable que ese “alguien” sean las mismas personas que escribieron las pautas actuales para las decisiones morales en la atención médica administrada por el gobierno en la actualidad. Se considerará que tienen los conocimientos y la experiencia adecuados.

Con el tiempo, a medida que la inteligencia artificial se arraigue más en el ámbito de la toma de decisiones morales, es muy posible que la IA utilizada para esas decisiones se estandarice. Cada vez más, los fabricantes los equipan con preferencias morales prefabricadas para abordar los que se consideran los problemas más comunes que enfrenta la IA. Esas preferencias se adaptarán a las pautas de decisión mecanizadas que la mayoría de los compradores de IA ya están utilizando.

Los criterios sobre cómo priorizar a los pacientes; la evaluación de métodos de tratamiento basados ​​en pruebas estandarizadas; la decisión de sacrificar o no a un recién nacido puede estar sujeta a algoritmos estandarizados y prefabricados. Con el tiempo, todas las IA de atención médica estarán equipadas con ellos. Los compradores, es decir, las agencias gubernamentales a cargo de la asignación de los recursos de atención de la salud, pueden ajustarse a sus propias necesidades particulares.

Piense en él como un automóvil que se puede configurar para la venta al público en general, como un coche de policía o un taxi. Diferentes aplicaciones, pero la misma máquina debajo.

Todo esto es posible. ¿Pero es deseable?

La respuesta tiene menos que ver con la forma en que se toma la decisión (un algoritmo o un cerebro humano) y más con los valores morales que el tomador de decisiones aplica al problema. Específicamente, dado que se trata del cuidado de la salud, necesitamos saber qué dicen esos valores sobre la vida humana misma.

¿Es posible dotar a cualquier aplicación de inteligencia artificial de una prohibición absoluta de negociación de la vida humana? En teoría, la respuesta es afirmativa, por supuesto: así como podemos decidir que la vida es sacrosanta, podemos escribir en un algoritmo informático que la vida es sacrosanta. Sin embargo, en la práctica es imposible construir cualquier situación en la que la IA pueda marcar una diferencia para mejorar y al mismo tiempo respetar que la vida es sagrada.

Claramente, la inteligencia artificial no tiene ninguna ventaja decisiva en las evaluaciones cualitativas; su ventaja está en el lado cuantitativo. Allí, en facetas medibles, la IA puede aplicar sus habilidades superiores para procesar grandes cantidades de datos, como en el cálculo de los resultados de diferentes patrones de distribución de recursos de atención médica. Al estimar los resultados con mayor detalle que los humanos en circunstancias comparables, la inteligencia artificial puede tomar mejores decisiones cuantitativas.

La única forma en que la superioridad cuantitativa de la IA puede usarse para evaluaciones cualitativas es si nosotros, como los humanos que escriben los algoritmos, asignamos valores cuantitativos a las variables cualitativas. Podemos, por ejemplo, dar a la IA la capacidad de calcular si la vida de un paciente será “buena” o “mala” como resultado del tratamiento médico. Si se le dice a la IA que maximice lo “bueno”, entonces recomendará tantos tratamientos como sea posible en función del resultado esperado.

Por otra parte, alguien tendrá que decidir qué significa realmente “bueno”. La IA nunca podrá tomar esa decisión de forma independiente, a menos, por supuesto, que aprenda a estudiar de forma independiente la teoría del valor en filosofía.