一张朋友圈普普通通的照片，经人工智能大模型处理后，个人身份、人际关系等敏感信息就可能被泄露——近日，大模型“读心术”登上热搜，再次引发有关网络安全的讨论。大模型正面临着被诈骗分子利用的风险，其安全漏洞令人心惊。
在网络安全工程师眼里，“诱骗”大模型之易如同骗走3岁小孩的糖果一样。数据“投毒”、模型窃取、“记忆”污染、“信任背叛”等大模型特有的安全问题层出不穷。
更为严峻的是，随着攻击技术迭代升级，未知攻击还将持续增加。
去年底，360数字安全集团发布的《大模型安全漏洞报告》显示，近40个大模型存在相关安全漏洞，影响多个知名模型服务框架以及多款开源产品。
网络安全领域的科技创新从未停滞。
在国家部委的支持下，盛邦安全开展了网络空间测绘与反测绘相关的AI技术研究。盛邦安全服务产品线总经理郝龙解释说：“网络空间测绘如果被攻击方利用，丙肝患者交流群会绘制出不利于我们的‘网络空间地图’，而基于反测绘的AI引擎则可以阻断攻击方的探测和扰乱关联分析。”当前，该项目相关技术已应用在金融业。
在AI技术的加持下，网络诱捕情报、预测攻击的技术能力也大幅提升。潮云山东云御公司总经理李聪说，以AI防护AI，有望更全面地抵御新型攻击手段，进行全方位的检测与防护。
用户在DeepSeek手机客户端上提问。新华社记者 黄宗治 摄
明年1月1日起，新修改的网络安全法将实施，法律中新增相关条款被业内视为对人工智能实施强制性安全防护的“前奏”。
绿盟科技伏影实验室主任研究员吴铁军建议，对于可能影响个人权益、社会公共利益的重大算法应用，要建立备案和审查制度，行业协会、学术机构等专业力量也应参与到算法伦理的研究和治理中，形成多方协同的治理格局。
更多热点速报、权威资讯、深度分析尽在北京日报App交流群神器