Ética e inteligencia artificial

 

Francesca Rossi

Directora de Ética e Inteligencia Artificial en IBM

La ética está considerada como la rama de la filosofía que reflexiona acerca de los comportamientos humanos (sus causas, sus aciertos o errores) desde un punto de vista moral, es decir, desde la bondad o maldad de las conductas. Esta valoración, que supone además la libertad de las personas para elegir sus actos, convierte la ética en una cualidad exclusivamente humana, por lo que resulta paradójico hablar de una ética de las máquinas. Y, sin embargo, se trata de una disciplina necesaria a medida que ponemos cada vez más decisiones en sus manos. En un artículo sobre el tema de Núria Bigas Fortmagé publicado por la Universidad Oberta de Catalunya, el profesor de Filosofía del Derecho de la UOC David Martínez señalaba que “no solo es aconsejable, sino también indispensable, que los algoritmos incluyan parámetros éticos”. Uno de los ejemplos clásicos que se utilizan para argumentar la necesidad de que las futuras inteligencias artificiales tengan una base moral es el de los coches autónomos. Porque aunque existen informes que aseguran que los vehículos sin conductor terminarán por resultar más seguros que los actuales, no es menos cierto que se verán obligados a tomar decisiones en las que habrá en juego vidas humanas. Y, puesto que la ética es una característica de nuestra especie, solo nosotros podemos tratar de enseñársela a las máquinas. De ahí surgen ideas como el proyecto Máquina de la Moral puesto en marcha por el MIT, en el que a través de un juego web se están recogiendo datos para ver cómo reaccionamos ante distintos escenarios con posibles víctimas en un accidente automovilístico.

Francesca Rossi, directora de Ética en Inteligencia Artificial de IBM, cree que, aunque se han hecho muchos avances, todavía tenemos que ser pacientes: “la gente debe entender que la IA es una disciplina que existe desde hace 70 años, pero que todavía se está desarrollando. Tenemos muchos desafíos por delante y muchas cosas que no sabemos hacer”. La mayor capacidad para procesar información de las máquinas, junto con la abrumadora cantidad de datos que generamos en nuestra actividad diaria, hace que los algoritmos sean cada vez más precisos. Pero eso no quiere decir que sean también más éticos, puesto que aprenden de lo que reciben. Hace un par de años, una inteligencia artificial programada por Microsoft, comenzó a mostrar comportamientos racistas, homófobos y antisemitas después de pasar tan solo un día en Twitter. Y un estudio publicado en 2017 en la revista Science aseguraba que muchas inteligencias artificiales se volvían machistas cuando aprendían a comunicarse por palabras, puesto que ese sesgo está implícito en muchos idiomas.

Enfrentar el peligro de que los modelos de aprendizaje basados en comportamientos humanos a gran escala reproduzcan estereotipos y prejuicios existentes en la población, es una de las tareas de Francesca Rossi. “Entender estos temas y tratar de resolverlos sólo puede hacerse de forma multidisciplinar y con una aproximación en la que se tengan en cuenta varios escenarios” asegura Rossi. Una labor en la que deben implicarse en conjunto compañías tecnológicas, gobiernos e instituciones como Naciones Unidas, puesto que nos dirigimos hacia un futuro en el que las máquinas tendrán cada vez mayor importancia en sus relaciones con los humanos.

¿Por qué puede ser necesaria la ética en 4º ESO?

Dilema del Tranvía y Desarrollo Moral.

Este mismo dilema fue llevado a cabo por un psicólogo planteándolo a su propio hijo de dos años, observa el resultado y comenta a qué se debe. Investiga después sobre las etapas del desarrollo moral según Piaget y según Kohlberg

Dilemas éticos

Lee los siguientes dilemas y analiza las consecuencias de tus decisiones

Dilemas morales. Teorías éticas

DESCARGA DESDE AQUÍ LOS APUNTES  (2ª EVALUACIÓN)

REPASO DEL DESARROLLO MORAL SEGÚN KOHLBERG

(Ejercicio práctico)

RESUELVE EL DILEMA DE HEINZ PARA VER EN QUÉ ESTADIO DE KOHLBERG TE ENCUENTRAS

Visita este enlace donde se proponen varias alternativas al dilema del tren y coméntalas

Dilemas morales. Teoría y práctica

(Teoría y práctica)
(Normas de realización)
(Algunos ejemplos de dilemas morales)

Dilemas morales. Kohlberg

DILEMA a En Europa, una mujer estaba gravemente enferma (próxima a morir) de un tipo especial de cáncer. Había un medicamento que los médicos creían que podía salvarla. Era una forma de radio que había descubierto recientemente un farmacéutico de la misma ciudad. El medicamento era costoso de fabricar y el farmacéutico cobraba diez veces la cantidad que le había costado hacerlo. Pagaba 200€ por el radio y cobraba 2000€ por una pequeña cantidad de la medicina. El marido de la enferma, Heinz, visitó a todos sus conocidos para pedir prestado el dinero e intentó todos los medios legales, pero sólo pudo reunir 1000€, la mitad del coste. Le dijo al farmacéutico que se lo vendiera más barato o que le permitiera pagarlo más tarde. Pero el farmacéutico dijo: "No. Yo he descubierto la medicina y quiero ganar dinero". Así que, habiendo intentado todos los medios legales, Heinz se desespera y piensa asaltar la farmacia y robar el medicamento para su mujer.

DILEMA b Efectivamente, Heinz asaltó la farmacia. Robó el medicamento y se lo dio a su mujer. En los periódicos del día siguiente apareció la noticia del robo. El señor Bronce, un oficial de policía que conocía a Heinz, leyó la noticia y recordó haber visto a Heinz que se alejaba corriendo de la farmacia, por lo que se dió cuenta de que fue Heinz quien robó la medicina. El Sr. Bronce se pregunta si debe informar de que fue Heinz quien robó la medicina.

DILEMA c El policía Bronce denuncia a Heinz. Detienen a Heinz y lo llevan ante el juez. Se elige un jurado. La misión del jurado es decidir si una persona es inocente o culpable de haber cometido un delito. El jurado declara culpable a Heinz. El juez tiene que dictar la sentencia

ANÁLISIS DEL DILEMA (PREGUNTAS Y RESPUESTAS SEGÚN KOHLBERG)

(Ficha a desarrollar: Ejemplos de Dilemas y desarrollo moral )

Dilemas morales. Orientaciones

Para resolverlo, hay que dar los siguientes pasos: 

Análisis del problema

Al actuar tenemos en cuenta los valores morales, es decir, nos preocupa saber si lo que hacemos está bien o lo que está mal. Cuando hacemos lo que está bien, no sentimos satisfechos; cuando hacemos lo que está mal, nos sentimos culpables y avergonzados. Considerados desde otro punto de vista, los valores morales nos imponen una conducta: bueno es aquello que debemos hacer y la conciencia nos dice que es la conducta correcta; malo es aquello que no debemos hacer, nuestra conciencia nos dice que no es la conducta adecuada.

Además, cuando actuamos vamos buscando conseguir algo que consideramos bueno, que es importante y valioso para nosotros y que de ello depende nuestra felicidad.Los dilemas morales se caracterizan porque son situaciones en las que estamos obligados a tomar una decisión, pero nos damos cuenta de que existen varios valores morales en juego y también varios bienes o cosas valiosas y que no es posible atenderlos todos. Si hacemos una cosa, actuamos de acuerdo con un valor moral y conseguimos algo, pero al mismo tiempo incumplimos otro valor moral y perdemos también algo. No hay forma de satisfacer los dos valores en juego y nos vemos obligados a elegir. El primer paso para hacer frente a un dilema consiste, por tanto, en darse cuenta de los valores y bienes morales que están en conflicto. Para ello, tenemos que tener en cuenta, en primer lugar, lo que nos dice nuestra propia conciencia. También debemos tener en cuenta los valores que están vigentes en la sociedad en la que vivimos, valores que algunas veces son muy explícitos y están bien definidos, como ocurre en códigos morales del tipo de los Diez Mandamientos o de los Derechos Humanos. Por último, hay que prestar atención a los bienes que vamos buscando, su importancia para nosotros y el orden jerárquico en el los situamos. 

Justificar nuestra conducta: argumentos a favor de cada opción

Para tomar una decisión tenemos que buscar los argumentos que están a favor de cada una de las dos opciones que se nos presentan. No sirve cualquier argumento, sino sólo aquellos que pueden justificar moralmente lo que hacemos. Si alguien nos pregunta por qué hemos pegado a un compañero en clase, podemos responder que ha sido porque le odiamos; es sin duda una explicación, pero es muy difícil que alguien considere que nuestra acción está justificada con esa explicación. Explicar por qué hacemos las cosas no es lo mismo que justificarlas.

En el caso del dilema, el problema consiste en que hay argumentos a favor de cada una de las opciones. Para poder tomar una decisión bien justificada es muy importante que tengamos en cuenta los diversos argumentos, y no sólo los que hay a favor de la opción que, en principio, nos parece buena, sino también los que hay a favor de la otra opción.

En este ejercicio te pedimos que enumeres el mayor número de argumentos posibles a favor de cada una de las opciones. 

Solución

Al final hay que exponer lo que uno mismo haría en el caso de encontrarse en una situación semejante. Para ello hay que redactar una exposición en la que dejemos claro qué es lo que pensamos que se debe hacer y cuáles son las razones que justifican nuestra decisión. Es decir, se trata de exponer la decisión que nosotros tomamos basados en los argumentos expuestos en la pregunta anterior, procurando además refutar los argumentos que están en contra de lo que nosotros pensamos que es la conducta moralmente buena. Es muy importante no caer en el error de resolver el dilema proponiendo una solución intermedia que en cierta medida satisfaga los valores en están conflicto en el dilema. En ese caso estaríamos evitando el dilema y no dando nuestra solución. Por tanto, la decisión que ofrezcamos en este apartado tiene que ser una de las dos que planta el dilema.

Modelo de dilema resuelto y criterios de corrección

Si quieres ver un dilema resuelto, descarga este documento Dilema resuelto

Dilemas morales

Un dilema moral es un caso, real o inventado, en el que el protagonista se encuentra ante una situación que debe resolver escogiendo entre dos alternativas de acción que representan valores morales mutuamente incompatibles y conflictivos entre sí. La mayoría de estos dilemas presentan conflictos entre normas legales y valores morales o entre valores morales de distinta importancia o jerarquía.

El siguiente vídeo muestra un claro ejemplo de dilema moral, que en este caso se plantea en forma de pregunta: ¿Matarías a una persona para salvar a cinco?

En el siguiente enlace podrás ver ejemplos de tres dilemas clásicos. (DESCARGAR AQUÍ)

El dilema del periodista secuestrado es un famoso ejemplo de problema ético en el que el protagonista debe escoger entre dos alternativas, ninguna de las cuales es óptima desde un punto de vista moral.

Este dilema nos permite reflejar las diferencias entre importantes teorías éticas, como son el utilitarismo y la ética deontológica (Kant).

En el siguiente documento encontrarás este dilema y varias actividades relacionadas con el mismo:

DILEMA PERIODISTA SECUESTRADO