La ONU pide una agencia de supervisión de la IA por el potencial ‘enorme’: urgencia ‘muy clara’

Las Naciones Unidas ven una necesidad urgente de un grupo de vigilancia de inteligencia artificial (IA), pero reconocen que los estados miembros primero deben alinearse con las políticas e intereses públicos antes de formar una agencia de este tipo.

“La urgencia es muy clara desde la perspectiva de la ONU”, dijo el secretario general adjunto de la ONU y enviado de tecnología, Amandeep Gill, a Fox News Digital en una entrevista. Abordar con urgencia los riesgos y abordar la brecha de gobernanza en las instituciones.

Gill ha liderado el camino en el esfuerzo de las Naciones Unidas para establecer un panel asesor sobre política de IA, que la organización espera que esté en funcionamiento a finales de año. La comisión es algo que la ONU puede establecer porque no tiene poder de gobierno, cualquier agencia de monitoreo debe provenir de los estados miembros y la ONU solo puede actuar con el poder que le otorgan los miembros.

El secretario general de las Naciones Unidas, António Guterres, instó recientemente a los miembros a prestar atención a las “llamadas de alarma sobre las últimas formas de inteligencia artificial”, que son “más ruidosas que los desarrolladores que las diseñaron”.

El fundador de AI dice que el papel de la tecnología en la educación será ‘inevitable’

“Debemos tomar estas advertencias en serio”, dijo, y pidió la formación de una agencia “inspirada en lo que es hoy la Agencia Internacional de Energía Atómica”.

Las Naciones Unidas han enfatizado repetidamente la urgencia de tener firewalls para lidiar con el “enorme potencial” de la tecnología de IA, pero la falta de inversión en herramientas de gobernanza, “estándares” y requisitos de seguridad ha dejado a los gobiernos y estados miembros mal equipados para los cambios. . que la inteligencia artificial creará dentro de la sociedad.

Amandeep Singh Gill (Lee Vogel/Getty Images para Concordia Summit/Archivo)

See also  Las tensiones políticas están hirviendo a fuego lento en Nigeria a medida que salen los resultados de las elecciones anticipadas

“Las organizaciones del sector público están muy rezagadas en términos de su comprensión, en términos de su capacidad para lidiar con las consecuencias, ya sean cambios en el mercado laboral o información errónea, desinformación o la amenaza a las democracias”, dijo Gill. “Entonces, eso impulsa la perspectiva del lado del riesgo”.

“Al mismo tiempo, existe un enorme potencial para que la IA y los datos aceleren el progreso de los ODS”, agregó. “Ya sea que se trate del cambio climático, la agricultura resiliente o, ya sabes, lidiar con la próxima pandemia, la IA puede ser una herramienta invaluable”.

El profesor revela por qué es más probable que los extraterrestres se asocien con la IA que los humanos

“Necesitamos obtener la gobernanza adecuada no solo para enfrentar los riesgos sino también para poder aumentar la confianza en las soluciones que necesitamos para lograr el desarrollo sostenible”.

El discurso sobre la IA se ha intensificado desde que el desarrollador OpenAI permitió el acceso público a ChatGPT, que capturó la imaginación y el interés del público a medida que los posibles beneficios y peligros comenzaron a tomar forma.

El secretario general de las Naciones Unidas, António Guterres, instó recientemente a los miembros a prestar atención a las “llamadas de alarma sobre las últimas formas de inteligencia artificial”, que son “más ruidosas que los desarrolladores que las diseñaron”. (Spencer Platt/Getty Images/Archivo)

Muchas personas se han aferrado a las posibilidades más aterradoras de la IA, como la capacidad de exacerbar severamente la información errónea, aumentar la pérdida de empleos y cambiar el sesgo político entre la población.

Los algoritmos que componen las capacidades operativas de la inteligencia artificial son construidos por humanos con ciertos sesgos políticos y sociales. Si la humanidad se vuelve dependiente de la inteligencia artificial para buscar información, estos sistemas pueden sesgar la búsqueda de una manera que beneficie a un lado de la esfera política.

AI ‘KILL SWITCH’ hará que la humanidad sea menos segura y podría generar una superinteligencia ‘hostil’

Un experto en análisis de riesgos le dijo previamente a Fox News Digital que “el AR-15 no es nada comparado con la… inteligencia artificial, los usos disruptivos de estas herramientas”.

Sin embargo, los beneficios positivos de la IA se están volviendo cada vez más evidentes, y los expertos destacan sus usos potenciales para revolucionar y mejorar una serie de áreas.

Sam Altman, CEO, OpenAI (Bill Clark/CQ-Roll Call Inc. vía Getty Images/Archivo)

La inteligencia artificial podría ayudar a impulsar un nuevo paradigma para estudiantes más eficientes y relevantes dentro de la fuerza laboral, transformando la forma en que funciona el sistema educativo de EE. UU. Las empresas han aprovechado la capacidad de la IA para procesar cantidades inhumanas de datos en los plazos más breves para lograr hazañas tan notables como ayudar a las empresas a identificar posibles casos de trabajo forzoso o trabajo infantil en sus cadenas de suministro.

Los gobiernos de África han comenzado a utilizar sistemas de IA para mejorar la rotación de cultivos y la productividad, y algunos han utilizado la IA para ayudar a los cazadores furtivos y proteger muchas especies en peligro de extinción en el continente.

LEGISLADOR GOP ADVIERTE QUE LA CONFERENCIA ESTÁ “DETRÁS” DE AI

Gill destacó las preocupaciones sobre el retraso de las Naciones Unidas en los Objetivos de Desarrollo Sostenible y el manejo de crisis específicas, incluida la crisis del costo de vida, todo lo cual AI podría ayudar a mitigar o incluso resolver.

“Los resultados más impresionantes que he visto con la IA son en términos de investigación e innovación de exploración”, dijo Gill. “Lo que antes tomaba años en términos de predecir la estructura de las proteínas ahora se puede hacer en meses, por lo que estoy muy entusiasmado con el potencial de la IA para acelerar la investigación y el desarrollo de soluciones integrales, desde el cambio climático hasta la agricultura. a la salud, etcétera”.

La mayor preocupación con la IA es el uso de “conjuntos de datos sesgados o incompletos” porque el “contexto no se comprende correctamente”.

Las Naciones Unidas ven una necesidad urgente de un grupo de monitoreo de IA, pero reconocen que los estados miembros primero deben alinear las políticas y los intereses públicos antes de formar una agencia de este tipo. (Spencer Platt/Getty Images/Archivo)

Haga clic aquí para la aplicación FOX NEWS

“[AI can] Nos lleva a soluciones o intuiciones y análisis que no reflejan plenamente la realidad, ya se trate de decisiones relacionadas con personas encarceladas o decisiones relacionadas con la salud, etc. Incorrecto, el impacto podría ser enorme, también en términos de confianza en la IA.

“El despliegue imprudente de la IA, el despliegue rápido de la IA sin la suficiente consideración del contexto, la gobernanza y el ciclo de vida de la IA, es lo que más me preocupa”.

Nicholas Lunom de Fox News Digital y Reuters contribuyó a este despacho.