讲座预告 | 复旦白泽青年学者论坛系列活动第一期预告
复旦白泽青年学者论坛系列讲座第一期来了!既有在校同学分享前沿在研课题,又有往届毕业师兄师姐带来职场实操心得,欢迎大家积极参与~
复旦白泽青年学者论坛系列讲座第一期来了!既有在校同学分享前沿在研课题,又有往届毕业师兄师姐带来职场实操心得,欢迎大家积极参与~
你是否也有论文读不懂的烦恼呢?快来杨老师的课程中寻找答案!
随着 AI Agent 走向“自主执行”,运行时安全已成为不可忽视的挑战。为积极响应《网络安全标准实践指南——智能体部署使用安全指引》,我们发布AgentGuard 2.1,实现对工具、技能、权限、外联、日志、审批和运行轨迹的全过程治理
尽管各种榜单和报道不断宣称大模型已具备极强的网络攻击能力,但我们的实证研究表明,当前AI仍远未强大到可以让
AI 安全事件持续增加,但真正的问题不是信息不足,而是信息分散在不同来源中,很难建立整体认知,也难以判断事件之间的关联与影响。 我们尝试把这些信息连接起来,做成一套可以直接用于风险判断的情报系统。
扩散模型生成“破碎”图像的背后,隐藏着模型泄露所记忆的训练数据的风险。我们提出实时检测与缓解方法,从生成过程中的异常信号出发,在不修改提示词、不重新生成的情况下识别并降低记忆风险。
3D-ANC 在模型特征空间中建立一套“磁力分拣机制”:利用神经坍缩现象(Neural Collapse)构造清晰解耦的类别磁极,实现天然安全的点云识别模型,准确率相比最优基线提升 34%。
News📢 我实验室将有 8 篇论文在 USENIX Security 2026 上进行分享!
NEWS📢 我实验室将有 8 篇论文在 USENIX Security 2026 进行分享!
我实验室项目荣获第十五届“挑战杯”中国大学生创业计划竞赛上海市赛区特等奖
当危险内容在生成过程中萌芽,UVR 已提前打开“注意力阀门”,精准识别风险信号,抑制多场景下的不安全输出
为帮助新加入实验室的同学更快完成从课程学习到科研实践的过渡,复旦大学系统软件与安全实验室面向新生组织开展“系统安全专项实验课”。
复旦系统软件与安全实验室2026年夏季运动会纪实
复旦大学系统软件与安全实验室对小程序模板化开发带来的安全风险进行了系统性研究,揭示了恶意行为借助模板大规模传播的现象
我们提出了一套面向工具调用型智能体的轻量级访问控制框架,AgentGuard。该框架能够无缝集成到现有智能体系统中,并在工具调用前后对潜在安全风险进行识别、审计与拦截,并完整记录执行轨迹,从而支持事后审计与安全溯源
恭喜系统软件与安全实验室2026届毕业生完成答辩,顺利毕业!
AI智能体陷“护栏失灵”困局?张谧教授受邀解析API调用模式下内容安全风险,探讨智能体时代的安全边界与合规治理路径。
成果分享 | [ISSTA 2026]HScope:构建鸿蒙生态安全的“火眼金睛”
本次报告作为计算与智能创新学院第十二届 “研究生心目中的好导师” 评选暨校庆学术报告会、未来智造(AI Agent)工程师训练营 “智领未来” 前沿讲坛系列活动。
白泽成果分享:通过补丁语义分析让“依赖库漏洞传播”看得更准