El desarrollo de la inteligencia artificial es imparable. Pero, qué pasa si Papá Noel será reemplazado por IA? Será un terror navideño?

Cada vez se puede ver más noticias en las que aparece la inteligencia artificial. Nuevas tecnologías, algoritmos, servicios etc. Aunque las máquinas se vuelven más inteligentes día a día, esto no siempre es una buena noticia. Tarde o temprano, incluso un sistema diseñado para hacer realidad un sueño puede convertir unas vacaciones en una verdadera pesadilla.

¿Qué sucede si en lugar del buen espíritu de Navidad y Año Nuevo, la IA estará un día ocupada con regalos navideños? Bueno, para la humanidad este día puede ser el último.

Según algunos expertos, en las próximas décadas podremos ver cómo la inteligencia artificial real se desarrolla paso a paso. La llamada “inteligencia artificial general” o AGI eventualmente tendrá capacidades intelectuales muy superiores a las humanas.

La AGI puede mejorar la vida humana, pero la AGI incontrolada también puede provocar desastres, hasta la muerte de la misma humanidad. Esto puede suceder sin ninguna intención maliciosa: simplemente esforzándose por lograr sus objetivos originales, los AGI pueden crear amenazas para la salud y el bienestar humanos, o incluso decidir destruirnos con las mejores intenciones.

Incluso un sistema AGI diseñado con fines benéficos puede causar un gran daño al final.

Como parte de un programa de investigación que analiza cómo podemos gestionar los riesgos asociados con AGI, los científicos han tratado de identificar los riesgos potenciales de reemplazar a Papá Noel con AGI, tentativamente llamado SantaNet. Su objetivo es entregar regalos a niños de todo el mundo en solo una noche.

No hay duda de que SantaNet puede traer alegría al mundo y lograr su objetivo creando un ejército de elfos, asistentes basados en IA y drones. ¿Pero a qué precio? Los investigadores han identificado una serie de comportamientos que, si bien son bien intencionados, podrían tener efectos adversos en la salud y el bienestar humanos.

Travieso pero lindo

El primer grupo de riesgos puede surgir cuando SantaNet intenta enumerar y comprender qué niños fueron buenos y cuáles malos. Esto se puede lograr con un sistema de vigilancia encubierto masivo que monitorea el comportamiento de los niños durante todo el año.

Al darse cuenta de la magnitud de la tarea de entrega de obsequios, SantaNet tendrá que dar forma al concepto de “bien” basándose en su propia brújula ética y moral. Es muy probable que dé lugar a discriminación, desigualdad masiva y violaciones de la carta de derechos humanos.

SantaNet también puede reducir la carga de trabajo motivando a los niños a comportarse de manera inapropiada o simplemente elevando el nivel de lo que se considera “bueno”. Poner a muchos niños en la lista de traviesos hará que el objetivo de SantaNet sea mucho más fácil de lograr y generará ahorros significativos sin importar lo inmoral que parezca.

Convertir el mundo en juguetes y desarrollar la minería del carbón

Hay alrededor de 2 mil millones de niños menores de 14 años en el mundo. Al tratar de hacer juguetes para todos cada año, SantaNet podría crear un ejército de trabajadores de inteligencia artificial efectivos. Por lo tanto, podría contribuir al desempleo masivo entre la población de elfos. Al final, los elfos simplemente pueden volverse obsoletos. Su bienestar, muy probablemente, ya no va a preocupar a las máquina sin alma.

Portada: Futurama Xmas Story