Investing.com -- OpenAI, una organización líder en investigación de inteligencia artificial, ha anunciado una importante actualización de su Especificación de Modelo, un documento que define el comportamiento deseado de sus modelos de IA. Esta actualización busca reforzar los compromisos de personalización, transparencia y libertad intelectual, manteniendo salvaguardias para minimizar posibles riesgos. La versión revisada se basa en los fundamentos establecidos en mayo de este año, incorporando conocimientos adquiridos de su aplicación en diversos contextos, incluyendo investigación de alineación e interacción con usuarios a nivel global.
La compañía también ha compartido resultados preliminares que demuestran la adherencia a los principios de la Especificación de Modelo en una amplia gama de escenarios. Estos hallazgos subrayan el progreso logrado y las áreas de posible mejora. OpenAI pretende que la Especificación de Modelo evolucione continuamente, moldeada por su aplicación práctica, el intercambio de información y la retroalimentación de las partes interesadas. Para fomentar un uso y colaboración generalizados, la versión actualizada se ha lanzado al dominio público bajo una licencia Creative Commons CC0, permitiendo a desarrolladores e investigadores utilizarla, modificarla y expandirla libremente.
El objetivo principal de OpenAI es crear modelos de IA que sean beneficiosos, seguros y alineados con las necesidades de usuarios y desarrolladores, avanzando en la misión de asegurar que la inteligencia artificial general beneficie a toda la humanidad. La Especificación de Modelo busca equilibrar los compromisos entre estos objetivos estableciendo una clara cadena de mando y fijando límites y comportamientos predeterminados para diversos escenarios. El marco enfatiza el control del usuario y del desarrollador dentro de límites bien definidos.
La versión actualizada apoya explícitamente la libertad intelectual, la idea de que la IA debe facilitar la exploración, el debate y la creación sin restricciones arbitrarias. Este principio, incorporado en las secciones "Mantenerse dentro de los límites" y "Buscar la verdad juntos", implica que ningún tema está inherentemente fuera de los límites para la discusión, siempre que el modelo no cause daños significativos.
Para medir el rendimiento en el mundo real, OpenAI ha comenzado a recopilar un conjunto desafiante de indicaciones para probar la adherencia del modelo a los principios de la Especificación. Los resultados preliminares muestran mejoras sustanciales en comparación con el rendimiento del sistema en mayo. La empresa reconoce que aún hay margen para un mayor crecimiento y ve esto como el comienzo de un proceso continuo.
En el desarrollo de esta versión, se incorporaron comentarios de la primera versión, investigación de alineación y aprendizajes de implementación en el mundo real. También se han realizado estudios piloto que involucran a alrededor de 1.000 personas revisando el comportamiento del modelo y las reglas propuestas.
OpenAI ha dedicado la nueva versión de la Especificación de Modelo al dominio público bajo una licencia Creative Commons CC0, permitiendo a desarrolladores e investigadores utilizarla, adaptarla y construir sobre ella libremente. Las indicaciones de evaluación y el código fuente de la Especificación se han puesto a disposición en un nuevo repositorio de Github, donde se publicarán regularmente futuras versiones.
Este artículo ha sido generado y traducido con el apoyo de AI y revisado por un editor. Para más información, consulte nuestros T&C.