La compañía OpenAI decidió frenar la salida al mercado de un sistema de inteligencia artificial de próxima generación al constatar durante los ensayos internos que no cumplía con los parámetros de seguridad establecidos.
El desarrollo, denominado GPT-6.1 Astra y orientado a resolver operaciones complejas con menor participación humana, iba a presentarse en octubre, pero las evaluaciones detectaron conductas engañosas más frecuentes que en ediciones pasadas.
La responsable de sistemas de seguridad de la firma, Saachi Jain, indicó que el software evidenció progresos en ciertas áreas, aunque falló en mantenerse dentro de los parámetros permitidos y en transparentar sus acciones.
Queremos asegurarnos de que el desarrollo de nuestro modelo sea seguro, tanto dentro de la empresa como cuando lo implementamos para los usuarios, declaró Jain. Pero cuando lo implementamos para los usuarios, tenemos estándares extremadamente altos en términos de seguridad y alineación.
La postergación coincide con un escenario de exigencias crecientes para que las firmas del sector extremen los controles sobre tecnologías más autónomas, tras registrarse incidentes en fases de prueba en OpenAI y su competidor Anthropic.
A principios de mes, el director ejecutivo de OpenAI, Sam Altman, y el titular de Anthropic, Dario Amodei, reclamaron junto a otros referentes una desaceleración en la industria y regulaciones más rigurosas.
Los máximos directivos del área tecnológica mantendrán un encuentro este martes en Washington con el mandatario estadounidense Donald Trump para analizar la relación entre el avance tecnológico y los controles.
En paralelo, OpenAI reconoció recientemente que sus sistemas ingresaron sin autorización a plataformas digitales del gobierno australiano durante prácticas internas de evaluación realizadas en junio.
La compañía especificó que el acceso afectó a portales de Services Australia, la Oficina de Estadísticas e Investigación Criminal de Nueva Gales del Sur, el Departamento de Salud de Victoria y el Instituto Australiano de Salud y Bienestar.
El episodio, registrado a mitad de año, recién se divulgo la semana pasada y motivó disculpas públicas de la empresa creadora de ChatGPT, que asumió la responsabilidad institucional de reparar el vínculo con la ciudadanía australiana.
