Meta refuerza la seguridad de Llama con nuevas herramientas de código abierto

Meta continúa su apuesta por la inteligencia artificial de código abierto con el lanzamiento de un conjunto de herramientas diseñadas para proteger el uso de sus modelos Llama en entornos cada vez más exigentes. Bajo el nombre de AI Open Source Protection Tools, esta nueva suite de soluciones introduce protecciones específicas frente a amenazas como las inyecciones de prompt, la ejecución de código inseguro y la detección de contenido generado artificialmente.

El paquete incluye tres herramientas principales: Llama Guard 4, LlamaFirewall y Llama Prompt Guard 2. La primera, Llama Guard 4, actúa como salvaguarda unificada para entradas de texto e imagen, y ya está disponible a través de una nueva API de Llama en fase preliminar. LlamaFirewall, por su parte, orquesta modelos de protección para prevenir vulnerabilidades comunes en los flujos de interacción con IA, como los prompts manipulados o el uso de plugins de riesgo. Finalmente, Llama Prompt Guard 2 mejora la detección de intentos de jailbreak e inyecciones maliciosas, ofreciendo también una versión ligera para reducir la latencia y el coste computacional.

Pero estas herramientas no llegan solas. Meta ha presentado también CyberSOC Eval y AutoPatchBench, dos nuevas incorporaciones al conjunto de benchmarks de ciberseguridad Open  Source que ya venía desarrollando con CyberSec Eval 4. Mientras que CyberSOC Eval evalúa el rendimiento de los sistemas de IA en centros de operaciones de seguridad, AutoPatchBench mide su capacidad para corregir automáticamente vulnerabilidades en código nativo.

Todo ello se enmarca en el nuevo Llama Defenders Program, un proyecto con acceso exclusivo para socios seleccionados que ofrecerá soluciones avanzadas como el clasificador automático de documentos sensibles, detectores de audio generado por IA o tecnologías de procesamiento privado para aplicaciones como WhatsApp. Según Meta, estas tecnologías permiten refinar mensajes o generar resúmenes sin comprometer la privacidad, ya que ni la empresa ni terceros pueden acceder al contenido.

Este impulso en materia de seguridad coincide con el reciente lanzamiento de Llama 4, una nueva generación de modelos de lenguaje abiertos que introduce capacidades multimodales avanzadas. Tal y como recogimos en MuyLinux, Llama 4 destaca por su arquitectura basada en mixture of experts y por modelos como Scout y Maverick, diseñados para tareas intensivas y escalables, con especial énfasis en la eficiencia de despliegue.

Con este doble movimiento, Meta busca afianzar su posición no solo como referente en IA de alto rendimiento, sino también como actor responsable en el desarrollo de tecnologías abiertas y seguras. La comunidad, por su parte, recibe un conjunto cada vez más completo de herramientas para construir sistemas de IA más confiables, auditables y resistentes frente a amenazas emergentes.

La entrada Meta refuerza la seguridad de Llama con nuevas herramientas de código abierto es original de MuySeguridad. Seguridad informática.