2025-05-14 13:43
出格擅长检测间接提醒注入。已无法满脚具备普遍能力的 AI 智能体需求。包含三个特地的防护模块：AlignmentCheck 是一种尝试性审计东西，开辟了 LFirewall。一旦被恶意操纵，22M 轻量版本则适合低延迟摆设。保守的平安机制，为出产中的 AI 智能体供给系统级平安。跟着大型言语模子（LLMs）嵌入 AI 智能体并被普遍使用于高权限场景，IT之家 5 月 9 日动静，能正在代码提交或施行前捕捉 SQL 注入等常见缝隙。智能体行为取用户方针不分歧、以及不平安的代码生成三大焦点挑和，应对 AI 智能体不竭演变的款式，通过度析智能体内部推理轨迹，Meta AI 公司最新推出 LFirewall，能及时检测越狱行为和提醒注入，
