Durante los últimos años hemos medido el progreso de la inteligencia artificial a través de benchmarks, rankings y demostraciones espectaculares. Sin embargo, de vez en cuando aparece un modelo que obliga a cambiar la conversación. Ya no se habla únicamente de rendimiento, sino de poder.
Eso es precisamente lo que ha ocurrido con Claude Fable 5, el nuevo modelo de Anthropic.
No se presentó simplemente como el sucesor de la familia Claude. La propia compañía lo describió como un modelo de clase Mythos, una categoría reservada para sistemas cuyas capacidades, especialmente en ciberseguridad y razonamiento complejo, obligaban a introducir medidas de seguridad inéditas antes de ponerlos a disposición del público. (anthropic.com)
Fable 5 no es Mythos 5... pero casi
Uno de los aspectos más interesantes del lanzamiento es que Fable 5 y Mythos 5 comparten prácticamente el mismo modelo base.
La diferencia no reside tanto en la inteligencia del sistema como en las restricciones que lo rodean.
Mythos 5 quedó reservado para un reducido grupo de organizaciones dedicadas a la defensa cibernética dentro del programa Project Glasswing. En cambio, Fable 5 es la versión destinada al público general, equipada con una compleja capa de clasificadores de seguridad capaces de bloquear solicitudes relacionadas con áreas consideradas especialmente sensibles: ciberseguridad ofensiva, biología, química o intentos de eludir sus propias salvaguardas. (anthropic.com)
En otras palabras, Anthropic no lanzó un modelo menos potente. Lanzó un modelo con un "cinturón de seguridad" mucho más estricto.
Y ahí comenzó la polémica.
La paradoja de crear un modelo demasiado bueno
Anthropic llevaba meses defendiendo que los modelos de clase Mythos habían alcanzado un nivel de capacidad suficiente como para incrementar de forma significativa las habilidades de un atacante informático.
Según sus evaluaciones internas, el riesgo ya no era únicamente que un modelo respondiera preguntas técnicas, sino que pudiera colaborar durante largos periodos de tiempo en tareas complejas, encontrando vulnerabilidades, razonando sobre código y proponiendo cadenas completas de ataque.
Por ese motivo decidieron no publicar Mythos 5 de forma abierta.
Sin embargo, pocos días después apareció Fable 5.
La empresa insistía en que era seguro gracias a sus mecanismos de protección. Muchos observadores, sin embargo, señalaron una contradicción evidente: si Mythos era demasiado peligroso para liberarlo, ¿hasta qué punto bastaba con añadir filtros para convertirlo en un producto de consumo? (techradar.com)
El giro inesperado: intervino el Gobierno de Estados Unidos
La historia dio un giro pocas horas después del lanzamiento.
El Gobierno estadounidense ordenó suspender el acceso a Fable 5 y Mythos 5 para todos los usuarios mientras evaluaba riesgos relacionados con la seguridad nacional.
El motivo era especialmente llamativo.
Investigadores habían demostrado que era posible obtener de Fable 5 información sobre determinadas vulnerabilidades de software mediante técnicas de jailbreak, es decir, estrategias para esquivar parcialmente sus restricciones.
Anthropic respondió que los resultados obtenidos no eran exclusivos de Fable 5 y que modelos comerciales de otros laboratorios podían ofrecer información similar. Además, defendió que no existía ningún método universal capaz de romper sus protecciones y que las pruebas realizadas durante miles de horas mostraban unas salvaguardas significativamente más robustas que las de generaciones anteriores. (anthropic.com)
Durante varios días el acceso a ambos modelos quedó suspendido debido a controles de exportación impuestos por Estados Unidos, una decisión inédita para un modelo comercial de IA. (apnews.com)
Semanas más tarde, tras revisar el caso junto con el Gobierno y reforzar algunos mecanismos de protección, Anthropic recuperó el acceso global a Fable 5. (anthropic.com)
Más allá de la polémica
Es fácil quedarse con el titular: "un modelo retirado por motivos de seguridad".
Pero quizá esa no sea la verdadera noticia.
Lo realmente importante es que estamos entrando en una etapa donde las capacidades de ciertos modelos empiezan a tener implicaciones geopolíticas.
Hasta hace poco discutíamos si una IA escribía mejor que otra.
Ahora discutimos si determinados modelos deben tratarse como tecnologías estratégicas comparables a un sistema criptográfico avanzado, un semiconductor de última generación o incluso una tecnología de doble uso.
Fable 5 representa precisamente ese cambio de paradigma.
No porque sea el modelo definitivo.
Ni porque sea invulnerable.
Sino porque ha demostrado que la conversación sobre la inteligencia artificial ya no gira únicamente alrededor de qué pueden hacer los modelos, sino de quién debería poder utilizarlos, bajo qué condiciones y con qué límites.
Quizá esa sea la auténtica historia de Fable 5.
No la de un nuevo modelo.
Sino la del momento en que la inteligencia artificial dejó de ser únicamente una carrera tecnológica para convertirse, también, en un asunto de política internacional.
