La carrera armamentista de próxima generación puede causar un evento de “extinción” similar a una guerra nuclear, una pandemia: jefe tecnológico

El cofundador de una organización sin fines de lucro de seguridad de IA le dijo a Fox News que una carrera armamentista de IA entre países y empresas para ver quién puede desarrollar las máquinas de IA más poderosas podría crear una amenaza existencial para la humanidad.

“La IA puede representar una amenaza de extinción, y parte de la razón es que actualmente estamos atrapados en una carrera armamentista de IA”, dijo Dan Hendricks, director ejecutivo del Centro para la Seguridad de la IA. “Estamos construyendo tecnologías cada vez más poderosas y no sabemos cómo controlarlas o comprenderlas por completo”.

Sam Altman, CEO de OpenAI, firmó la declaración del AI Security Center diciendo que la IA representa una amenaza existencial para la humanidad. (Bill Clark/CQ-Roll Call, Inc vía Getty Images)

“Hicimos lo mismo con las armas nucleares”, continuó. “Todos estamos en el mismo barco con respecto al riesgo existencial y la amenaza de extinción”.

La carrera de la inteligencia artificial puede llevar a la extinción–Efectividad a nivel humano: gerente de seguridad de IA

Ver más FOX NEWS ORIGINALES DIGITALES aquí

Hendrix emitió un comunicado el martes advirtiendo que “[m]Determinar el riesgo de extinción de la IA debería ser una prioridad global junto con otros riesgos sociales como las pandemias y la guerra nuclear. Varios investigadores, desarrolladores y ejecutivos líderes en IA, como el CEO de OpenAI, Sam Altman, y el “padrino de la IA”, firmaron la declaración.

Altman recientemente pidió al gobierno que regulara la IA en su testimonio ante el Congreso para “mitigar” los riesgos que plantea la tecnología.

Hendrycks, quien también firmó la declaración de su organización, le dijo a Fox News: “Me preocupa el desarrollo de la IA como un proceso relativamente no supervisado, y que la IA termine teniendo un mayor impacto en la sociedad porque son muy buenos para automatizar cosas”. “Están compitiendo entre sí y existe este ecosistema de agentes que ejecutan muchos procesos, y podríamos perder el control de ese proceso”.

Continuó: “Esto podría convertirnos en una especie de segunda clase o seguir el camino de los neandertales”.

Millones de trabajadores de comida rápida podrían perder sus trabajos dentro de 5 años. esta es la razón

El CEO de Tesla, Elon Musk, ha hablado abiertamente sobre las posibles amenazas a la inteligencia artificial y ha dicho que la tecnología podría conducir a la “destrucción de la civilización” o a la interferencia electoral. Musk también firmó una carta en marzo en la que pedía que se detuvieran los grandes experimentos de IA.

Elon Musk ha advertido que la inteligencia artificial puede causar la “destrucción de la civilización”. (Justin Sullivan/Getty Images)

Sin embargo, la carta no logró que los grandes desarrolladores de IA, como OpenAI, Microsoft y Google, suspendieran los experimentos.

“Tenemos una carrera armamentista de IA que podría llevarnos al borde de la catástrofe como lo hizo la carrera armamentista nuclear”, dijo Hendricks. “Esto significa que debemos establecer prioridades globales para este problema”.

Haga clic aquí para la aplicación FOX NEWS

Pero Hendricks advirtió que las organizaciones que crean los sistemas de inteligencia artificial más poderosos del mundo no tienen incentivos para retrasar o detener los desarrollos. El Centro de Seguridad de IA espera que su declaración le diga a la gente que la IA representa un riesgo creíble y significativo.

“Ahora esperamos iniciar la conversación para que pueda abordarse como esas otras prioridades globales, como acuerdos o regulaciones internacionales”, dijo Hendricks a Fox News. “Necesitamos tratar esto como una prioridad más alta, una prioridad social y una prioridad técnica para reducir estos riesgos”.

Para ver la entrevista completa con Hendrycks, haga clic aquí.