English: This image is a reproduction of an original painting by renowned science-fiction and fantasy illustrator Rowena https://www.rowenaart.com/. It depicts Dr. Isaac Asimov enthroned with symbols of his life's work. Français : Peinture de Rowena Morill réprésentant Isaac Asimov sur un trône décoré des symboles de son œuvre littéraire. (Photo credit: Wikipedia)
informatica envía una pregunta de Otros Temas
son moralmente neutrales las computadoras? razone su respuesta
Difícil respuesta. Primero deberíamos redefinir moral y hacerlo evitando usar una versión antropológica ya que si leemos la primera frase de la wikipedia, la definición reza así:
La moral son las reglas o normas por las que se rige la conducta de un ser humano.
Que como vemos descarta a todas las computadoras y a cualquier otro ser animado o inanimado del universo exceptuando al ser humano.
Por eso una redefinición requeriría páginas y páginas e incluso tesis doctorales completas, ya que por ejemplo, ¿cuál es la moral de una araña? ¿Es moralmente reprobable la ingesta de una mosca para satisfacer el apetito? ¿o no retirar la telaraña una vez decide emigrar constituiría una inmoralidad en el mundo arácnido? Y, por otro lado, ¿opinaría lo mismo la mosca que la araña?
Si decidimos ser menos estrictos y basamos en la versión antropológica, deberemos entonces definir computadora. Pero como en la realidad ninguna computadora ha sido capaz de superar todavía el test de turing, no podemos calificar a las computadoras como "humanas"; y por lo tanto otra vez la definición de moral habitual se nos queda pequeña, ya que como instrumento construido y utilizado por el hombre, una computadora no dejaría de ser ni más, ni menos moralmente neutral que una silla o un misíl tierra-aire.
Cover of Isaac Asimov
No nos queda otra que trasladarnos al terreno de la ciencia ficción para realizar mayores conjeturas, y para ello no cabe más que recomendar la lectura de la obra de Isaac Asimov, que preocupado por la posible amoralidad o inmoralidad de los robots y los androides (computadoras avanzadas), decidió crear una serie de leyes básicas e inviolables que todo robot debería obedecer, llamadas "las tres leyes de la robótica".
- Un robot no puede hacer daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
- Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la Primera Ley.
- Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la Primera o la Segunda Ley.
Y a las que luego añadió una ley nueva, llamada "Ley 0".
- Un robot no puede hacer daño a la Humanidad o, por inacción, permitir que la Humanidad sufra daño.
Los libros de Asimov no resuelven el problema que nos planteas, pero abren puertas filosóficas que nos ayudarán a comprender la magnitud del reto al que nos enfrentamos.
Por ejemplo supongamos que: Un robot debe salvar a la población de una ciudad entera de la explosión de una bomba termonuclear colocada por unos terroristas, pero estos son tan necios que han ideado una trampa. Para que el robot pueda desactivar la bomba es necesario sacrificar al niño del policía que le ha ordenado salvar a toda la población. ¿Qué opción escogerá el robot? ¿Y si suponemos que el robot sabe que el niño morirá de todas formas si la bomba no es desactivada?¿Y si por el contrario no lo puede saber?
¿Y qué sucede si hablamos de robots que no tengan impresa en sus circuitos ningún tipo de ley? Podemos poner el ejemplo de HAL, la computadora de 2001 Odisea en el Espacio. ¿Es moralmente neutral esta computadora? La respuesta desde el punto de vista de los humanos es claramente negativa; sin embargo desde el punto de vista de las computadoras podría no serlo, si entre las costumbres de las computadoras se encuentra la insana obsesión de matar a todos los humanos.
Por último quedaría por evaluar si el concepto "moralmente neutral o imparcial" no es en realidad una contradicción, ya que la moral humana es parcial por definición.
Por eso, la respuesta a la pregunta es la que un buen profesor que tuve siempre nos aconsejaba responder:
- DEPENDE -
Libros de Isaac Asimov en Amazon
