Hombre contra máquina: a medio siglo de 2001: Odisea en el espacio

Lo primero y más importante es la cuestión de cuánto control deben ceder las personas a las máquinas artificialmente inteligentes, independientemente de cuán “inteligentes” puedan ser los sistemas. El control de Discovery de HAL es como una versión del automóvil sin conductor. Ciudadanos, legisladores, expertos e investigadores aún están explorando el grado en que la automatización podría, o debería, sacar a los humanos del circuito.

Algunas de las consideraciones involucran preguntas relativamente simples sobre la confiabilidad de las máquinas, pero otros problemas son más sutiles. Las acciones de una máquina computacional son dictadas por decisiones codificadas por humanos en algoritmos que controlan los dispositivos. Los algoritmos generalmente tienen algún objetivo cuantificable. Del mismo modo que un sistema de inteligencia artificial analizaría las posiciones de las piezas del juego en un tablero, también puede medir la eficiencia de un almacén o el uso de energía de un centro de datos.

¿Pero qué sucede cuando surge un dilema moral o ético en el camino hacia la meta? ¿Es la misión de un vehículo autónomo, por ejemplo, llevar a un pasajero de un lugar a otro lo más rápido posible, o evitar matar a los peatones? Cuando alguien se para delante de un vehículo autónomo, esos objetivos entran en conflicto. Esto podría parecer una “elección” obvia para programarse, pero ¿qué sucede si el automóvil necesita “elegir” entre dos escenarios diferentes, cada uno de los cuales causaría una muerte humana?

Bajo vigilancia

En una escena clásica, Dave y Frank entran en una parte de la estación espacial donde creen que HAL no los puede escuchar y abordan la idea de callarlo. No saben que las cámaras de HAL pueden verlos: la computadora está leyendo sus labios a través de la ventana de la cápsula y se entera de sus planes.
En el mundo moderno, una versión de esa escena ocurre todo el día, todos los días. La mayoría de nosotros somos efectivamente monitoreados continuamente, a través de nuestros teléfonos casi siempre en pie o la vigilancia corporativa y gubernamental de actividades en línea y en el mundo real. La frontera entre lo privado y lo público se ha vuelto y sigue siendo cada vez más borrosa.

La famosa escena de la muerte de HAL, en la que Dave desconecta metódicamente sus vínculos lógicos, lanza la pregunta de si las máquinas inteligentes tendrán alguna vez algo equivalente a los derechos humanos. Clarke creía que era muy posible que el tiempo de los humanos en la Tierra no fuera más que un “breve lugar de descanso” y que la maduración y evolución de la especie llevaría necesariamente a las personas más allá de este planeta. El filme 2001 termina de manera optimista, marcando el renacimiento de la raza. Hacer esto en realidad requerirá que la gente descubra cómo hacer el mejor uso de las máquinas y dispositivos que están construyendo, y asegurarse de que no permitamos que esas máquinas nos controlen. (The Conversation) l