Anthropic presentó el 8 de octubre su Cyber Mission, un esfuerzo a largo plazo para ayudar a proteger los sistemas de los que depende el público, que comienza con dos programas: OSS Scanner, un servicio gratuito y voluntario de análisis de vulnerabilidades para proyectos de código abierto, y el Critical Infrastructure Defense Program, con 11 socios fundadores.
OSS Scanner: análisis periódicos con los modelos más potentes de Anthropic
Según la publicación de investigación de Anthropic, OSS Scanner está inspirado en OSS-Fuzz, de Google: los proyectos que se inscriben reciben análisis periódicos, sin costo, de los modelos más potentes de la compañía, incluido Claude Mythos. Los responsables principales de proyectos de código abierto críticos pueden inscribirse. Los informes detallan las vulnerabilidades, cómo podrían explotarse y posibles correcciones.
Los informes no pasan por revisión humana antes de llegar a los mantenedores, por lo que algunos hallazgos podrían ser incorrectos. Anthropic espera una tasa de verdaderos positivos superior al 90%, una expectativa de la propia empresa, y para validar una versión temprana pidió a pentesters expertos que revisaran 97 vulnerabilidades críticas y altas encontradas por el escáner en 48 proyectos. El servicio es distinto de Claude Security, su producto de análisis y parcheo de código para empresas.
Del Project Glasswing a un programa para infraestructura crítica
OSS Scanner nace de la experiencia de Project Glasswing, en el que Anthropic analizó cientos de proyectos de código abierto muy usados y reportó en privado lo hallado a sus mantenedores. Según SiliconANGLE, de más de 29,000 posibles vulnerabilidades halladas en seis meses, el personal de Anthropic revisó manualmente unas 6,000. El 6 de octubre, la compañía amplió su Cyber Verification Program con tres niveles de acceso e incorporó Glasswing a él.
El Critical Infrastructure Defense Program ofrecerá modelos de IA, ingenieros en sitio e investigación de amenazas a empresas ya responsables de proteger infraestructura crítica, como redes eléctricas y sistemas de agua. Andrew Turner, de Booz Allen, calificó la tecnología operativa como “la próxima frontera de los ataques autónomos habilitados por IA”. El Defender Advantage Fund, lanzado en agosto, financia que el escáner sea gratuito, y Anthropic también ha aportado fondos a la Python Software Foundation, la Apache Software Foundation, Alpha-Omega y OpenSSF. El anuncio no detalla términos comerciales.