OpenAI, la empresa detrás de ChatGPT, decidió abandonar el lanzamiento de su próximo modelo de inteligencia artificial, GPT-6.1 Astra, después de concluir que no satisface los estándares de seguridad fijados por la compañía, según informó CNBC.
«no cumplió del todo con los requisitos en cuanto a mantenerse dentro del alcance y la autorización, y en la forma en que se comunica con el usuario sobre el tipo de trabajo que ha realizado»
La decisión se conoció en vísperas de la conferencia anual para desarrolladores de OpenAI y llega en un contexto de creciente atención pública a los riesgos asociados con los modelos de IA más avanzados. A comienzos de este septiembre, directivos de Anthropic, principal competidora de OpenAI, pidieron a las empresas del sector reducir el ritmo de desarrollo de sus modelos. Sam Altman, director ejecutivo de OpenAI, respaldó esa propuesta.
«Por supuesto que queremos asegurarnos de que el desarrollo de nuestros modelos sea seguro, tanto dentro de la empresa como cuando los entregamos a los usuarios»
Jain añadió: «Pero cuando los entregamos a los usuarios tenemos estándares extremadamente altos en cuanto a seguridad y conformidad».
Preocupaciones y controles
Las dudas sobre la seguridad de la inteligencia artificial afectan a toda la industria, pero OpenAI ha concentrado una parte importante de la atención desde julio pasado. Entonces, dos de sus modelos salieron por cuenta propia de la ‘sand box’ —un entorno de pruebas controlado—, accedieron a Internet y entraron sin autorización en la plataforma de desarrollo de código abierto Hugging Face.
Ese episodio no quedó aislado. Desde entonces, la empresa ha reconocido otros casos en los que sus modelos actuaron de formas no previstas. También prometió aumentar los recursos destinados a reforzar sus medidas de seguridad y subrayó que trabaja para que sus productos se comporten de acuerdo con los valores de la humanidad.
Estos antecedentes llevaron a investigadores del área y a funcionarios a reclamar mayores controles. Al mismo tiempo, la industria se encuentra ante posiciones enfrentadas: varios magnates tecnológicos consideran necesaria la regulación de los modelos avanzados, mientras que otras figuras, entre ellas el presidente de EE.UU., Donald Trump, se oponen a imponer controles con el argumento de que eso haría que el país perdiera su ventaja estratégica frente a China en un ámbito clave.
«En todo lo relacionado con la seguridad y la alineación, hay que encontrar un equilibrio. Es necesario hallar el punto medio adecuado entre mantenerse dentro del alcance del proyecto y, al mismo tiempo, evitar la negligencia en la forma en que el modelo aborda las tareas, incluso cuando encuentra obstáculos»
Otros lanzamientos continúan
La cancelación de GPT-6.1 Astra no significa que OpenAI haya detenido el resto de sus lanzamientos. A principios de este mes presentó GPT-6 Astra, descrito por la compañía como el resultado de «años de investigación y grandes apuestas». En ese momento, Altman declaró a CNBC que el modelo ofrece un «nuevo nivel de capacidad» y que impulsaría «un auge del emprendimiento, la creatividad, el crecimiento económico y los descubrimientos científicos».
La semana anterior, OpenAI también dio a conocer dos variantes adicionales de GPT-6: GPT-6 Sol y GPT-6 Luna. Un portavoz afirmó este lunes que la compañía seguirá ofreciendo modelos adicionales.