你的AI正在“偷看”你?当AI越来越聪明,我们更需要“安全常识”,这场活动讲透了我们担心的事

多客科技

作者：微信文章


　　从蒸汽机轰鸣开启工业纪元，到电力点亮万家灯火；从互联网编织全球神经，到人工智能悄然成为我们呼吸般的存在——人类文明的每一次跃迁，都伴随着技术的飞速发展，也总在便利与风险之间寻找微妙的平衡。



　　今天，AI已如空气般渗透进生活的缝隙：它为你写邮件、订行程、诊断疾病、绘制图像，甚至在深夜陪你聊天解忧。我们习惯了它的“聪明”，却很少关注它的“弱点”——它会看错吗？会被误导吗？会泄露隐私吗？

　　当AI不再只是个工具，而成了社会运转的一部分，安全就不再是可有可无的附加项，而是必须守住的底线。



　　11月30日下午，浙江省科技馆交流厅内座无虚席。作为“科学有观·科话武林”第五季的收官之作，本期活动以“AI的安全密码：守护智能时代的未来”为主题，邀请到浙江科技大学人工智能与信息工程学院院长、AI安全领域领军学者钱亚冠教授，为大家解读AI背后的安全挑战。



从“幻视”到“隐身”：AI并非无所不能

　　钱亚冠在分享中从早期的专家系统讲到今天的深度学习，他指出：“现在的AI就像一把精密的手术刀，在特定任务上很厉害，但也非常脆弱。一点微小的干扰，就可能让它出错。”



　　“AI也会产生‘幻觉’。”钱亚冠举了几个案例：一张看似普通的海报，却能令自动驾驶系统将“停车标志”误读为“限速标志”；一副特制眼镜，便可骗过人脸识别系统。

　　这些不是电影情节，而是真实存在的技术漏洞，叫“对抗样本攻击”或“后门攻击”。钱亚冠解释道：“AI看到的不是物体的‘概念’，而是像素的统计规律。”正是这种与人类认知的差异，让AI容易被精心设计的干扰所欺骗。

　　从伪造医疗影像导致误诊，到隐藏的语音指令攻击，再到AI模型泄露隐私——AI的安全问题已从实验室走向现实社会的各个领域。钱亚冠提醒：“我们在发展技术的同时，也必须为AI系好‘安全带’。”

每个人都是智能时代的“安全守护者”

　　在“科话武林”互动环节，钱亚冠与观众展开了交流。面对“普通人如何防范AI风险”的提问，他提出三点建议：保持警惕、减少分享、自己负责。“请把AI聊天框看作一个公开场所，”他说，“不要在里面输入身份证号、密码或商业机密。”



　　谈到如何在利用数据的同时保护隐私，钱亚冠介绍了“差分隐私”和“遗忘学习”等技术。“这就像给数据打码，或者让AI学会忘记——既要让数据发挥作用，也要保护个人隐私。”谈及未来，他预言：数字水印、对抗训练、模型可解释性工具将如同今天的杀毒软件一样普及，成为每个人数字生活的“基础免疫系统”。

　　现场观众也踊跃提问，从对AI创作版权的困惑，到家长对孩子沉迷智能设备的担忧，钱亚冠都耐心回应，并始终传递一个信念：技术本身无善恶，关键在于使用者的认知与选择。

　　正如钱亚冠所言：“AI的未来，不在代码里，而在我们每个人的手中。”在这场人与AI共舞的时代浪潮中，唯有以理性为舵、以责任为锚，方能驶向真正安全、可信、向善的智能未来。





科学有观·科话武林

　　“科学有观”致力于推进科普创新融合发展，自创办以来，已邀请到航天英雄杨利伟、英雄航天员刘伯明、都有为院士、杨德仁院士等多位大咖参与活动。2025年，“科学有观”活动进行了全新升级，特别策划推出了更具有好奇与探索精神的“科话武林”系列活动，邀请来自不同领域的顶尖科学家、行业先锋、专家学者汇聚一堂，在城市中央的“武林”C位，共赴一场关于科学的深度对话。

来源：省科技馆、都市快报责编：叶　扬
美编：郑娜莉

一审：何百岳

二审：方佳佳

三审：王陆军

-转自科技武林门-