中新网浙江新闻8月6日电（郭其钰 曹丹）当前，随着人工智能、大模型和物联网技术快速发展，智能摄像机、工业视觉终端、边缘计算设备等智能系统在各领域加速应用。然而，边缘智能系统面临的对抗攻击、模型后门威胁、数据泄露风险持续增加，如何在有限计算资源条件下实现高可靠、低开销的安全防护，成为人工智能可信应用亟待突破的问题。

　　浙江科技大学人工智能学院院长、大数据与智能安全团队负责人钱亚冠6日接受中新网专访介绍，该科研团队联合海康威视，面向边缘智能环境下人工智能安全防护重大需求开展持续攻关，突破输入数据检测、模型可信增强、智能内容保护等关键技术，构建了覆盖“输入安全检测—模型可信增强—输出内容保护”的全链路轻量化安全防护技术体系。

　　“边缘智能设备普遍存在算力受限与安全需求提升的矛盾，传统安全防护方法计算复杂度高、资源消耗大，难以实现大规模部署。”钱亚冠表示，针对这一瓶颈，其团队提出基于底层数据表示特性的轻量化安全防护新方法，提升了人工智能系统在复杂环境下的安全防御能力。

　　具体而言，上述边缘智能全链路轻量化安全防护体系在三个关键环节实现技术突破。

　　在输入端，团队提出位平面解耦驱动的对抗攻击检测与主动减扰技术，通过挖掘数据底层表示中的异常特征，实现图像、语音等多模态输入的快速安全检测与风险阻断，有效提升智能终端面对恶意攻击的防护能力。

　　在模型端，团队研发语义约束引导的模型安全增强与后门净化技术，在保持模型结构和计算效率基本稳定的情况下，提高人工智能模型抵御攻击能力，解决传统防御技术中安全性与性能难以兼顾的问题。

　　在输出端，面向智能视频应用中的内容安全需求，团队运用主动内容保护与水印防护技术，实现智能系统输出内容的可信控制与安全溯源，为智能安防场景下的数据安全和可信应用提供技术必威保障。

　　钱亚冠表示，该研究成果依托高校科研创新优势和企业产业资源，构建了覆盖数据输入、模型运行和结果输出全过程的人工智能安全防护体系，突破传统安全技术针对单一环节防护的局限，实现人工智能安全技术从理论创新到产业应用落地的有效衔接。（完）

　　主办单位:中国新闻社浙江分社 地址:浙江省杭州市文一西路1199号中新大厦11楼 邮编:311100

• 上一篇：中富通（300560）8月17日主力资金净买入387335万元
• 下一篇：【百强透视】盈喜催化股价暴涨20%云工场