讲座预告 | 复旦白泽青年学者论坛系列活动第一期预告

复旦白泽青年学者论坛系列讲座第一期来了!既有在校同学分享前沿在研课题,又有往届毕业师兄师姐带来职场实操心得,欢迎大家积极参与~

2026/7/20
阅读更多

课程分享 | 读论文没有头绪?研究生第一课带你快速入门!

你是否也有论文读不懂的烦恼呢?快来杨老师的课程中寻找答案!

2026/7/17
阅读更多

AgentGuard 2.1 上线!一站式落地《智能体部署使用安全指引》

随着 AI Agent 走向“自主执行”,运行时安全已成为不可忽视的挑战。为积极响应《网络安全标准实践指南——智能体部署使用安全指引》,我们发布AgentGuard 2.1,实现对工具、技能、权限、外联、日志、审批和运行轨迹的全过程治理

2026/7/15
阅读更多

被神话的 "神话(mythos)" ?——大模型让黑客失业了吗?

尽管各种榜单和报道不断宣称大模型已具备极强的网络攻击能力,但我们的实证研究表明,当前AI仍远未强大到可以让

2026/7/10
阅读更多

追了一年 AI 安全动态, 我们决定把它们做成一套情报系统

AI 安全事件持续增加,但真正的问题不是信息不足,而是信息分散在不同来源中,很难建立整体认知,也难以判断事件之间的关联与影响。 我们尝试把这些信息连接起来,做成一套可以直接用于风险判断的情报系统。

2026/7/9
阅读更多

KDD 2026|破碎的记忆:利用劣化效应识别并缓解扩散模型的训练集图像复刻风险

扩散模型生成“破碎”图像的背后,隐藏着模型泄露所记忆的训练数据的风险。我们提出实时检测与缓解方法,从生成过程中的异常信号出发,在不修改提示词、不重新生成的情况下识别并降低记忆风险。

2026/7/6
阅读更多

AAAI 2026|Neural Collapse为3D点云模型装上“磁力分拣盘”,构筑模型内生鲁棒性

3D-ANC 在模型特征空间中建立一套“磁力分拣机制”:利用神经坍缩现象(Neural Collapse)构造清晰解耦的类别磁极,实现天然安全的点云识别模型,准确率相比最优基线提升 34%。

2026/7/3
阅读更多

录用速递|我实验室8篇论文被USENIX Security'26接收!

News📢 我实验室将有 8 篇论文在 USENIX Security 2026 上进行分享!

2026/6/26
阅读更多

录用速递|我实验室8篇论文被USENIX Security'26接收!

NEWS📢 我实验室将有 8 篇论文在 USENIX Security 2026 进行分享!

2026/6/25
阅读更多

喜报|我实验室项目荣获第十五届“挑战杯”中国大学生创业计划竞赛上海市赛区特等奖

我实验室项目荣获第十五届“挑战杯”中国大学生创业计划竞赛上海市赛区特等奖

2026/6/24
阅读更多

ICML 26 | 注意力阀门源头抑制,杜绝危险画面元素

当危险内容在生成过程中萌芽,UVR 已提前打开“注意力阀门”,精准识别风险信号,抑制多场景下的不安全输出

2026/6/16
阅读更多

盛夏启航|新生系统安全专项实验课开课啦!

为帮助新加入实验室的同学更快完成从课程学习到科研实践的过渡,复旦大学系统软件与安全实验室面向新生组织开展“系统安全专项实验课”。

2026/6/9
阅读更多

初夏正当时,白泽竞芳华 | 复旦白泽夏季运动会纪实

复旦系统软件与安全实验室2026年夏季运动会纪实

2026/6/8
阅读更多

研究分享 | 小程序“复制粘贴”式开发背后的安全隐忧

复旦大学系统软件与安全实验室对小程序模板化开发带来的安全风险进行了系统性研究,揭示了恶意行为借助模板大规模传播的现象

2026/6/1
阅读更多

AgentGuard:给智能体工具调用行为带上“紧箍咒”

我们提出了一套面向工具调用型智能体的轻量级访问控制框架,AgentGuard。该框架能够无缝集成到现有智能体系统中,并在工具调用前后对潜在安全风险进行识别、审计与拦截,并完整记录执行轨迹,从而支持事后审计与安全溯源

2026/5/29
阅读更多

毕业季 | 乘风破浪,未来可期——热烈祝贺本实验室2026届毕业生顺利完成答辩

恭喜系统软件与安全实验室2026届毕业生完成答辩,顺利毕业!

2026/5/27
阅读更多

访谈资讯|张谧教授就“AI智能体浪潮下的安全护栏治理”话题答南都记者问

AI智能体陷“护栏失灵”困局?张谧教授受邀解析API调用模式下内容安全风险,探讨智能体时代的安全边界与合规治理路径。

2026/5/24
阅读更多

成果分享 | [ISSTA 2026]HScope:构建鸿蒙生态安全的“火眼金睛”

成果分享 | [ISSTA 2026]HScope:构建鸿蒙生态安全的“火眼金睛”

2026/5/15
阅读更多

新闻 | 好导师讲座:杨珉教授受邀作《人工智能安全与治理》专题报告

本次报告作为计算与智能创新学院第十二届 “研究生心目中的好导师” 评选暨校庆学术报告会、未来智造(AI Agent)工程师训练营 “智领未来” 前沿讲坛系列活动。

2026/5/13
阅读更多

白泽成果分享:通过补丁语义分析让“依赖库漏洞传播”看得更准

白泽成果分享:通过补丁语义分析让“依赖库漏洞传播”看得更准

2026/5/11
阅读更多