Tal vez el
ejemplo más claro y más trágico, según las últimas noticias sobre el avión de
Malasia derribado en Ucrania con casi 300 pasajeros a bordo, sea el que ese
avión hubiera sido derribado por un error tecnológico o cibernético. Los sistemas computacionales
que operan misiles y armas, obedecen a programas ideados por ingenieros de
sistemas pero que, como humanos que son –los ingenieros, digo– no cubren absolutamente todas las
variables posibles.
En un momento cualquiera, los sistemas, que no son inteligentes pero sí autónomos, es decir, no se reprograman solos ni RAZONAN en función de la realidad inmediata sino que REACCIONAN ante una posibilidad ya MATEMÁTICAMENTE prevista, pueden haber obrado autónomamente frente a un hecho: un avión entra en el espacio reservado para acciones de guerra. Por lo tanto, ese avión extraño, es un OBJETIVO MILITAR. Para eso está programado el sistema defensivo: para atacarlo. Y le envía un misil que lo derriba.
Por qué fue desviado ese avión hacia
esa ruta, es otra cosa. Es posible que alguien lo haya hecho y ahí se configura
una conspiración y un crimen realizado con algún propósito político perverso. Y
si el avión volaba en cielo ucraniano, ese alguien es de los Controles Aéreos
de Ucrania. No de Rusia ni de los rebeldes pro rusos que no tienen acceso a
esos controles.
El punto es que si el Sistema funcionó para hacer lo que tenía programado, atacar un blanco civil convertido por un "error" o por una orden política en un objetivo militar inocente y desprevenido, fortuita o perversamente situado en ese espacio aéreo, es porque ese Sistema autónomo no piensa sino que actúa. Es decir, estamos en manos de una máquina que no razona pero sí puede destruir si esa destrucción está en su programa. ¿Debe la tecnología moderna dejar en
manos de un programa cibernético una decisión que sólo debería ser humana? Es
el ser humano o debe ser o tiene que ser, la última instancia de decisión ante
una posibilidad de esa clase. Para que haya un responsable de cualquier acción porque las máquinas NO SON RESPONSABLES.
¿Estamos a las puertas de que las máquinas, como en los filmes Terminator, nos dominen? ¿Les estamos dando a las máquinas una autonomía que no PUEDEN NI DEBEN TENER porque las máquinas no razonan para ARREPENTIRSE DE UNA DECISIÓN A ÚLTIMA HORA, sino que la Ejecutan sin vacilación alguna? ¿Estamos DEGRADANDO LA CIENCIA hasta el punto de que la TECNOLOGÍA que de ella se deriva, actúe sin límites y sin frenos éticos?
Ese es el resultado lamentable de que la EDUCACIÓN DEL MUNDO HAYA OMITIDO LAS HUMANIDADES en beneficio solamente de la TECNOLOGÍA DESHUMANIZADA.
¿No será necesario que los ingenieros de toda índole TAMBIÉN ESTUDIEN HUMANIDADES Y ARTES Y LETRAS para que sus decisiones y sus construcciones tecnológicas obedezcan TAMBIÉN a normas humanas y éticas y no sólo a algoritmos que se van de las manos simplemente porque para las matemáticas el ser humano no es una variable por considerar?
En un momento cualquiera, los sistemas, que no son inteligentes pero sí autónomos, es decir, no se reprograman solos ni RAZONAN en función de la realidad inmediata sino que REACCIONAN ante una posibilidad ya MATEMÁTICAMENTE prevista, pueden haber obrado autónomamente frente a un hecho: un avión entra en el espacio reservado para acciones de guerra. Por lo tanto, ese avión extraño, es un OBJETIVO MILITAR. Para eso está programado el sistema defensivo: para atacarlo. Y le envía un misil que lo derriba.
El punto es que si el Sistema funcionó para hacer lo que tenía programado, atacar un blanco civil convertido por un "error" o por una orden política en un objetivo militar inocente y desprevenido, fortuita o perversamente situado en ese espacio aéreo, es porque ese Sistema autónomo no piensa sino que actúa. Es decir, estamos en manos de una máquina que no razona pero sí puede destruir si esa destrucción está en su programa.
¿Estamos a las puertas de que las máquinas, como en los filmes Terminator, nos dominen? ¿Les estamos dando a las máquinas una autonomía que no PUEDEN NI DEBEN TENER porque las máquinas no razonan para ARREPENTIRSE DE UNA DECISIÓN A ÚLTIMA HORA, sino que la Ejecutan sin vacilación alguna? ¿Estamos DEGRADANDO LA CIENCIA hasta el punto de que la TECNOLOGÍA que de ella se deriva, actúe sin límites y sin frenos éticos?
Ese es el resultado lamentable de que la EDUCACIÓN DEL MUNDO HAYA OMITIDO LAS HUMANIDADES en beneficio solamente de la TECNOLOGÍA DESHUMANIZADA.
¿No será necesario que los ingenieros de toda índole TAMBIÉN ESTUDIEN HUMANIDADES Y ARTES Y LETRAS para que sus decisiones y sus construcciones tecnológicas obedezcan TAMBIÉN a normas humanas y éticas y no sólo a algoritmos que se van de las manos simplemente porque para las matemáticas el ser humano no es una variable por considerar?
No hay comentarios:
Publicar un comentario