Promesas y peligros de la IA generativa

Como explicó el historiador, que una tecnología se considere buena o mala depende sobre todo del contexto y de la época. El mismo invento puede producir resultados distintos en contextos diferentes y éstos pueden cambiar conforme evolucionan las circunstancias.

Así, por ejemplo, el uso del pesticida DDT fue inicialmente bien acogido como medio para matar a los mosquitos portadores de la malaria e impulsar la productividad agrícola. Pero después de que la ecologista Rachel Carson expuso cómo el DDT causaba daños ecológicos y envenenaba a las personas, se prohibió en muchos países. Incluso así, India siguió utilizando el DDT para prevenir las enfermedades, lo que contribuyó a reducir la cifra anual de muertes por paludismo de 750,000 a 1,500.

Dos casos recientes y radicalmente distintos de uso de la IA ponen de manifiesto la dualidad de nuestra última tecnología de propósito general, así como las dificultades para separar lo bueno de lo malo.

Primero, el bueno. Desde 1971, los voluntarios del Proyecto Gutenberg han creado un valioso recurso público: una vasta biblioteca de libros digitales gratuitos y accesibles. El proyecto da acceso a más de 60,000 libros no protegidos por derechos de autor como parte de su misión de derribar las "rejas de la ignorancia y el analfabetismo". Durante años, el proyecto ha querido convertir esos libros electrónicos en audiolibros para beneficiar a las personas con problemas de visión, pero los costos han sido prohibitivos. Ahora, gracias a la IA, ha generado 5,000 audiolibros a una velocidad increíble y con un costo mínimo, y los está publicando en Spotify, Google y Apple.

Este proyecto de audio, dirigido por investigadores pro bono del Instituto Tecnológico de Massachusetts (MIT) y de Microsoft, utilizó la última tecnología neuronal de conversión de texto a voz para imitar la calidad y el tono de las voces humanas y crear 35,000 horas de grabaciones de audiolibros en poco más de dos horas.

Los investigadores han demostrado una aplicación aún más asombrosa que permite leer audiolibros con la voz de cualquier persona utilizando sólo cinco segundos de audio de muestra. Los padres podrían algún día utilizar esa aplicación para "leer" libros a la hora de dormir a sus hijos incluso cuando estén fuera de casa. Pero los peligros potenciales de la clonación de la voz son obvios y el equipo de investigación se muestra con razón cauteloso a la hora de facilitar el acceso a la tecnología.

Un ejemplo de cómo la tecnología de IA se ha utilizado para el mal ocurrió este mes en la localidad española de Almendralejo, donde un grupo de chicos escandalizó a la comunidad al circular por WhatsApp y Telegram imágenes de desnudos de 28 chicas de la localidad generadas por IA. Las fotos originales de las chicas fueron tomadas de sus cuentas en las redes sociales y posteriormente fueron manipuladas con una aplicación de IA generativa. En medio de un furor político nacional, un fiscal está examinando ahora si se ha cometido algún delito.

Gema Lorenzo, madre de un hijo de 16 años y una hija de 12, dijo que todos los padres estaban preocupados. "Te preocupan dos cosas: si tienes un hijo, te preocupa que pueda haber hecho algo así; y si tienes una hija, te preocupa aún más, porque es un acto de violencia", le dijo a la BBC.

Las promesas, y los peligros, de la IA generativa son que ahora es muy fácilmente accesible y puede desplegarse a una velocidad y escala extraordinarias. Más de 100 millones de usuarios experimentaron con el chatbot ChatGPT de OpenAI a los dos meses de su lanzamiento. Y las compañías tecnológicas están construyendo ahora modelos multimodales aún más potentes que combinan texto, imágenes, audio y vídeo.

"Muchos de nuestros problemas relacionados con la tecnología surgen debido a las consecuencias imprevistas cuando tecnologías aparentemente benignas se emplean a gran escala", escribió Kranzberg. Eso sucede con las redes sociales y es lo que está sucediendo también con la IA generativa. Al igual que sucede con otras tecnologías, seguirá un periodo complicado de adaptación del comportamiento, de la sociedad y de las legislaciones.

Un informe de Sequoia Capital publicado este mes sugirió que la IA generativa estaba aún en su "incómoda adolescencia". Sin duda, el sector aún tiene que madurar mucho y será necesaria la intervención de los padres.