El creador de ChatGPT pide extremo cuidado ante el desarrollo de la inteligencia artificial

El debate internacional sobre los riesgos de la inteligencia artificial llegó este miércoles al Consejo de Seguridad de las Naciones Unidas, donde Sam Altman, director ejecutivo de OpenAI, pidió actuar con especial precaución ante el avance acelerado de esta tecnología.

Durante su intervención, Altman señaló que la inteligencia artificial podría avanzar rápidamente y llegar a escenarios en los que los sistemas sean capaces de “tomar decisiones que las personas ya no entiendan ni puedan controlar”.

El ejecutivo de OpenAI sostuvo que la industria tecnológica no debería asumir riesgos excesivos únicamente porque los beneficios potenciales de la IA sean considerados demasiado importantes como para frenar su desarrollo.

Al mismo tiempo, Altman llamó a evitar tanto el optimismo excesivo como el catastrofismo y planteó la necesidad de encontrar un punto intermedio que permita aprovechar los beneficios de la tecnología mientras se fortalecen sus mecanismos de seguridad.

OpenAI también ha planteado que Estados Unidos lidere un esfuerzo internacional para establecer estándares de seguridad para la inteligencia artificial, en medio de un creciente debate sobre cómo supervisar los modelos más avanzados.

La reunión de la ONU contó además con la participación de Dario Amodei, CEO de Anthropic, y Clément Delangue, de Hugging Face. Amodei pidió una respuesta internacional coordinada y estándares que permitan evaluar los sistemas de IA frente a posibles pérdidas de control y usos indebidos.

Las advertencias se producen mientras gobiernos, organismos internacionales y empresas tecnológicas debaten cómo establecer reglas para una tecnología cuyo desarrollo continúa avanzando rápidamente.