Ayudar a construir estándares compartidos para el AI avanzado

OpenAI ha ayudado a fundar la Appia Foundation, una organización que busca desarrollar estándares compartidos para sistemas avanzados de inteligencia artificial (IA). La iniciativa pretende crear un marco técnico y de gobernanza para evaluar, asegurar y regir estos sistemas.

La Appia Foundation trabajará en especificaciones abiertas y modulares que traducen los marcos internacionales existentes en criterios prácticos de evaluación. Esto permitirá a terceros verificar la conformidad con estándares, generando pruebas claras y reutilizables cuando modelos, infraestructuras y aplicaciones se desarrollan por diferentes organizaciones.

“La organización también promueve la creación de un sistema global de evaluaciones independientes que permitan comprobar el rendimiento de estos sistemas de manera comparable”

Este esfuerzo busca crear un lenguaje técnico compartido que permita a instituciones nacionales e internacionales confiar en el trabajo de las demás. La Appia Foundation pretende hacer avanzar la cooperación internacional para mejorar la seguridad de los sistemas de IA y facilitar la interoperabilidad entre ellos.

La organización también promueve la creación de un sistema global de evaluaciones independientes que permitan comprobar el rendimiento de estos sistemas de manera comparable. OpenAI ya contribuye a una amplia gama de esfuerzos para estandarizar los criterios técnicos y regulatorios en IA, participando en diversos foros internacionales.

Este trabajo busca establecer un marco técnico común que permita a diferentes actores del sector intercambiar información sobre riesgos y mejores prácticas. La Appia Foundation pretende ser una plataforma para desarrollar estándares técnicos que mejoren la seguridad y confiabilidad de los sistemas de IA en todo el mundo.

La creación de estos marcos técnicos y normativos busca crear un entorno más seguro para el desarrollo y uso de la inteligencia artificial avanzada. Esto permitirá a diferentes actores del sector trabajar juntos para mitigar riesgos y aprovechar las oportunidades que ofrecen estas tecnologías emergentes.