Anthropic lanza su IA más potente, aunque con restricciones por la ciberseguridad y los riesgos biológicos / Foto: © AFP
Anthropic lanza su IA más potente, aunque con restricciones por la ciberseguridad y los riesgos biológicos
La empresa estadounidense Anthropic, desarrolladora de los modelos de inteligencia artificial (IA) Claude, puso el martes a disposición del gran público la versión más potente de su tecnología, aunque limitada en áreas sensibles como la ciberseguridad y los riesgos de ataque biológico.
Bautizado como Fable 5, este modelo es el primero de la clase Mythos —la gama más avanzada de Anthropic, presentada en abril pero restringida por motivos de seguridad— que se abre al público.
Paralelamente, Anthropic ofrece una versión sin limitaciones, Claude Mythos 5, a las empresas, organizaciones y agencias estatales que ya disponen de acceso a esta familia de patrones, presentada como capaz de detectar y explotar fallos de seguridad a una velocidad y con una precisión inéditas.
A principios de abril, Anthropic había anunciado simultáneamente la existencia de Mythos y su decisión de limitar su acceso a socios de confianza para reforzar su protección frente a ciberataques.
La noticia le valió acusaciones de hacer un "marketing del miedo" y provocó al mismo tiempo una agitación entre los Estados y las instituciones mundiales, para evaluar el nivel de la amenaza sobre infraestructuras esenciales (bancarias, energéticas y otras).
Desde entonces, varias empresas que tuvieron acceso a Mythos han confirmado sus capacidades, y el gobierno estadounidense, a pesar de estar en litigio con Anthropic, terminó probándolo.
La Casa Blanca ha instaurado desde entonces un dispositivo de evaluación opcional para los modelos de IA estadounidenses más potentes antes de su comercialización. OpenAI, el rival de Anthropic, está a punto de presentar la versión 5.6 de su ChatGPT.
- ¿Ataques biológicos? -
Hasta ahora, Anthropic justificaba restringir el acceso a Mythos únicamente por los riesgos de ciberseguridad.
Con Fable 5, Anthropic amplía por tanto la vigilancia y el control a los riesgos de ataques biológicos, sin precisar las amenazas específicas que busca prevenir (diseño de armas químicas, bacteriológicas, entre otras).
Según la empresa, la mayoría de las solicitudes relacionadas con la ciberseguridad o la biología reciben una respuesta del modelo inferior, Opus 4.8, hecho público a finales de mayo.
Anthropic presenta Fable 5 como la versión segura de este modelo que, sin salvaguardas, no podría abrirse al público.
Este marco se basa en filtros automáticos que analizan las solicitudes en tiempo real y bloquean las que tratan temas sensibles.
Anthropic afirma haber encargado a expertos externos que intentaran sortearlos -un enfoque de simulación de ataque o "red teaming"- con remuneraciones para premiar a quienes lograran explotar fallos.
Según la empresa, ninguno, en 1.000 horas de pruebas, logró un "bypass universal", es decir, desbloquear por completo el modelo.
Anthropic no precisa, sin embargo, si se identificaron bypass puntuales.
- Tarifa elevada -
La cuestión de la seguridad, que Anthropic ha convertido en uno de sus principales argumentos comerciales, ha llevado a la start-up de San Francisco a un pulso inédito con la administración Trump, por su negativa a levantar sus restricciones sobre la vigilancia masiva y las armas letales autónomas.
A raíz de esta situación, el Pentágono rescindió sus contratos con la empresa, cuyos instrumentos de IA eran los únicos autorizados para información clasificada.
El lanzamiento de Fable 5 va acompañado de una tarifa elevada -de hasta 50 dólares por millón de "tokens", la unidad de cuenta con la que se maneja-, el doble de los precios de Opus 4.8.
Una sesión intensiva de programación puede consumir un millón de tokens en unas pocas horas, o incluso en menos tiempo.
Anthropic ha revisado recientemente sus tarifas para tener en cuenta el desarrollo de los agentes de IA, que a menudo multiplican el consumo de "tokens".
Pero todavía debe demostrar su rentabilidad a largo plazo, lastrada por el elevado costo de la potencia de cálculo necesaria para la IA.
Anthropic acaba de cerrar un acuerdo con Elon Musk para utilizar uno de sus centros de datos por 1.250 millones de dólares al mes.
Estos lanzamientos se producen en plena efervescencia financiera en torno a la IA.
Anthropic, al igual que su rival OpenAI, anunció en junio haber presentado su documentación para salir a bolsa.
Se posicionan así a pocos días de una primera cotización que se espera sea récord para SpaceX, el gigante espacial de Elon Musk, que integra su propio laboratorio de IA, xAI.
A.Maldonado--TFWP
