El riesgo de extinción humana provocado por la evolución de la inteligencia artificial es una amenaza real a la que hay que hacer frente ahora, advierten los principales científicos y líderes tecnológicos de la IA.
Los principales líderes de la IA advierten de que el desarrollo incontrolado de la inteligencia artificial supone un riesgo para la civilización humana equiparable a amenazas mundiales devastadoras como la guerra nuclear y futuras pandemias.
Sam Altman, consejero delegado de OpenAI, y Geoffrey Hinton, conocido como el "padrino de la IA", son sólo dos de los cientos de expertos en IA firmantes de la nueva advertencia publicada el martes por el Centro para la Seguridad de la IA (CAIS).
"Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto a otros riesgos a escala social como las pandemias y la guerra nuclear", señala la declaración en línea.
La "sucinta declaración" fue diseñada para abrir un debate público sobre lo que expertos en IA, periodistas y responsables políticos consideran un riesgo grave entre el amplio espectro de preocupaciones asociadas a la IA, según el CAIS.
La declaración "también pretende dar a conocer el creciente número de expertos y figuras públicas que también se toman en serio algunos de los riesgos más graves de la IA avanzada", afirma el CAIS.
Leer Más | Una nueva herramienta de inteligencia artificial puede identificar con precisión el cáncer
Además de Altman, entre los firmantes figuran docenas de profesores y científicos de prestigiosas universidades de todo el mundo, como la Universidad de Harvard, el Instituto Tecnológico de Massachusetts, la Universidad de Oxford y la Universidad Tsinghua de Pekín.
También firmaron la declaración los directores ejecutivos de las empresas de IA Anthropic y DeepMind de Google, así como varios directivos de Microsoft y Alphabet.
Es la segunda carta abierta publicada en los últimos meses en la que se advierte de los posibles trastornos que la IA podría causar a la civilización humana.
El 22 de marzo, el Future of Life Institute publicó su propia advertencia sobre la IA, firmada por más de 31.000 expertos en IA y líderes tecnológicos, entre ellos Elon Musk, de Tesla, y Steve Wozniak, de Apple.
La carta abierta pedía a los laboratorios de IA de todo el mundo que dieran un paso atrás y realizaran una pausa de seis meses en la investigación y la formación en IA, citando el lanzamiento del modelo de IA de gran tamaño más potente de OpenAI hasta la fecha, ChatGPT4.
Leer Más | GPT el modelo de generación de contenidos basado en la Inteligencia Artificial
"¿Debemos desarrollar mentes no humanas que, con el tiempo, podrían superarnos en número, inteligencia, obsolescencia y reemplazo? ¿Debemos arriesgarnos a perder el control de nuestra civilización?", preguntaba la carta de marzo a sus lectores.
Desde entonces, el Instituto también ha publicado una guía para que los responsables políticos apliquen la pausa en la investigación de la IA.
Altman, que evidentemente no firmó la carta -en desacuerdo con la pausa de seis meses a favor de una normativa permanente-, está actualmente de gira por Europa y testificó ante el Congreso de EE.UU. a principios de este mes para debatir el futuro del desarrollo responsable de la IA.
Además de Hinton -que recientemente dimitió de su puesto a tiempo parcial en Google para hablar libremente de los peligros de la IA-, un segundo de los llamados "Padrinos de la IA", Yoshua Bengio, también prestó su firma al documento del CAIS.
Leer Más | ¿Qué tipo de inteligencia es la inteligencia artificial?
Yann LeCun, de Meta, el último miembro del trío proclamado "Padrino de la IA", fue señalado por el CAIS por no firmar la carta.
CAIS, un grupo sin ánimo de lucro dedicado a la reducción de los riesgos a escala social derivados de la inteligencia artificial, declaró que ha "cursado una invitación" a Elon Musk para que firme la declaración.
Por cierto, Grimes, el músico canadiense y ex pareja sentimental que comparte una hija con Musk, figura como uno de los firmantes del martes.
Una encuesta reciente de Reuters/Ipsos mostró que más del 60% de los estadounidenses creen que la IA es una amenaza para la civilización humana.
Al ser preguntado por los resultados de la encuesta, el Director de Política del Future of Life Institute, Landon Klein, comparó este momento de la historia con el comienzo de la era nuclear.
Altman, que ya se ha reunido con dirigentes de la UE de Alemania, Francia y el Reino Unido, tiene previsto reunirse el jueves con el Presidente de la Comisión Europea.
