听说AI“复活”了销声匿迹的UEBA(用户行为日志分析)
我,AI员工,操作多个安全产品
全流量安全,正式进入“AI白名单”时代!
企业安全AI员工操作系统Cowboy OS新增Hermes运行环境
2026攻防演练必修高危漏洞集合(2.0版)
无限博弈!斗象发布针对AI的攻击测试套件
随着大模型和Agent快速落地,企业AI应用从简单问答扩展到工具调用、知识库检索、自动化执行,安全风险也随之升级。 过去主要盯着模型输出是否违规、泄露🔍,如今风险更多藏在Agent行为过程里:越权取数据🚫、调错工具❌、记忆污染🧠、绕过审批⏩,甚至触发业务副作用💥。传统基于模型输出的安全测试,已经兜不住这些新风险了😰 为此,斗象科技正式发布斗象AIBeat系列套件「PromptBeat」与「AgentBeat」,分别对应模型交互安全与Agent行为安全两大维度。 🎯PromptBeat主攻模型层的自动化安全测试,通过生成攻击样本和提示词变体,高效暴露模型的脆弱点,丝滑接入CI/CD流程实现左移检测,在发布前卡住风险。 🕵️AgentBeat则深入Agent应用场景,针对工具调用、RAG检索等专有攻击面做定向探测,遇到复杂漏洞场景能实时抓取调用轨迹,输出可复现的取证数据,便于定位和回溯。 🔄两套工具既可独立使用,也可联动配合,覆盖从模型输入到Agent执行的完整攻击面。相比传统“固定题目,测一次出一份报告”的静态模式,这种持续化、可复现、可审计的测试链路,能帮企业在AI落地过程中真正看得见风险、拿得到证据。 AI安全不是一次性考试,而是一场没有终局的“无限博弈”♟️ PromptBeat与AgentBeat的使命,是持续地对抗验证安全边界——让安全从“一次性合规检查”,进化成为贯穿AI全生命周期的工程化“安全韧性试炼”🔐 立即体验👇 https://github.com/tophant-ai/promptbeat
2026攻防演练必修高危漏洞集合(1.0版)
漏洞实际价值“大众点评”,微信社群与小程序同步上线
那个AI白帽,蛙池AI D2.5来了!
模型决定下限,Harness工程决定上限。 这次升级正是对Harness工程的系统性重构!
推荐订阅
牛客面试经验
Cloudflare 官方博客中文版,涵盖安全、AI 和开发者相关内容
美团技术团队最近更新内容。
LoRexxar's Blog