HACE UNOS AÑOS, UN ESLOGAN PUBLICITARIO ACUÑADO POR LA AGENCIA YOUNG&RUBICAM, PROTAGONIZADO POR EL RAPIDÍSIMO CARL LEWIS, DECÍA ALGO ASÍ: «EL PODER NO ES NADA SIN CONTROL».
UNA AFIRMACIÓN QUE HOY, PENSÁNDOLO BIEN, PARECE PERFECTA PARA RESUMIR LA CARTA LLENA DE INQUIETUDES QUE UN MILLAR DE DIRECTIVOS DEL MUNDO TECNOLÓGICO HAN FIRMADO PARA FRENAR LA CARRERA DE LA INTELIGENCIA ARTIFICIAL GENERATIVA (LA DEL CHATGPT, PARA ENTENDERNOS).
UNA CARTA -FIRMADA POR MÁS DE MIL PERSONALIDADES INFLUYENTES DE SILICON VALLEY, COMO ELON MUSK O EL COFUNDADOR DE APPLE STEVE WOZNIAK- EN LA QUE SE PIDE A LAS EMPRESAS DEL SECTOR QUE PAREN DURANTE SEIS MESES PARA HACER BALANCE, MARCARSE UNAS REGLAS Y VOLVER A EMPEZAR CON MAYOR CONTROL Y CONCIENCIA.
«Pedimos a todos los laboratorios de inteligencia artificial que hagan una pausa inmediata de al menos seis meses en el entrenamiento de los sistemas de IA más potentes, como el GPT-4. La pausa debe ser pública y verificable. La pausa debe ser pública, verificable e incluir a todo el mundo. Si no se aplica rápidamente, los gobiernos deberían intervenir e instituir una moratoria«, reza el texto publicado por el Future of Life Institute.
Se trata de una advertencia importante, en un momento en que los avances de la inteligencia artificial se manifiestan en toda su potencia. Avances que han llegado tras años de investigación, y que ahora parecen imparables. «Los sistemas de inteligencia artificial pueden plantear graves riesgos para la sociedad y la humanidad», escriben Musk y los demás, trayendo a la memoria películas de ciencia ficción que evidentemente se acercaron tremendamente a la realidad.
EL PUNTO CENTRAL PARA LOS FIRMANTES DE LA CARTA ES LA FALTA DE REGULACIÓN SOBRE EL DESARROLLO DE ESTA TECNOLOGÍA. UN VACÍO NORMATIVO QUE «CORRE EL RIESGO DE DESENCADENAR EFECTOS DEVASTADORES, PORQUE PODRÍA CONDUCIR A LA PÉRDIDA DE CONTROL DE NUESTRA CIVILIZACIÓN». Y LAS DECISIONES AL RESPECTO ‘NO DEBERÍAN DELEGARSE EN LOS LÍDERES TECNOLÓGICOS’. EN LA CARTA ABIERTA, LOS FIRMANTES RECUERDAN LOS PRINCIPIOS DE ASILOMAR PARA LA INTELIGENCIA ARTIFICIAL, SEGÚN LOS CUALES «LA IA AVANZADA PODRÍA REPRESENTAR UN CAMBIO PROFUNDO EN LA HISTORIA DE LA VIDA EN LA TIERRA Y DEBERÍA PLANIFICARSE Y GESTIONARSE CON CUIDADO Y CON LOS RECURSOS ADECUADOS. DESGRACIADAMENTE, ESTE NIVEL DE PLANIFICACIÓN Y GESTIÓN NO SE ESTÁ DANDO».
Para los peticionarios, «los laboratorios de IA han emprendido una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie -ni siquiera sus creadores- puede comprender, predecir o controlar de forma fiable«. Según Musk y otros, «los sistemas de inteligencia artificial contemporáneos están llegando a competir con los humanos en tareas generales», por lo que «tenemos que preguntarnos si debemos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedades».
¿Deberíamos automatizar todos los trabajos, incluidos los más satisfactorios? ¿Deberíamos desarrollar mentes no humanas que, con el tiempo, podrían superarnos en número, ser más inteligentes y sustituirnos? ¿Debemos arriesgarnos a perder el control de nuestra civilización?». Preguntas que parecen pedruscos, y que suscitan un examen de conciencia colectivo sobre el progreso potencial y necesario.
Porque, al fin y al cabo, el poder no es nada sin control.
ARTÍCULO SOBRE EL TEMA DE LAS 24 HORAS DE HOY 30 DE MARZO DE 2023 para detenerse y reflexionar.
Fabio Ciabattini
