奇安信副总裁刘前伟谈AI数据安全：用魔法打败魔法

21世纪经济报道记者雷晨 北京报道

4月26日，2024中关村论坛——数据安全治理与发展论坛在中关村国际创新中心举办。

21世纪经济报道记者了解到，本届论坛紧跟数字经济发展特别是人工智能演进浪潮，众多专家学者交流前沿理念、分享研究成果，畅谈前沿领域数据安全治理话题。

在圆桌论坛环节，清华大学苏世民书院院长、人工智能国际治理研究院院长薛澜，与来自清华大学、剑桥大学、香港科技大学、IBM、华为、奇安信的数据安全专家，就生成式人工智能数据安全治理热点问题进行探讨。

会上，奇安信（688561.SH）副总裁刘前伟表示，不管是作为大模型的使用者还是开发者，都要解决隐私安全问题、商业机密甚至涉及国家安全的问题。

他认为，要解决大模型的相关安全问题，要用AI对抗AI，用魔法打败魔法。

据其介绍，奇安信身兼两种不同的角色，既是一个行业模型的开发者，也是一些通用模型的使用者。

“奇安信作为国内最大的一家网络安全公司，我们有自己的安全大模型，也有安全大模型的机器人。”刘前伟表示，行业大模型对于数据集的质量要求非常高，数据本身的安全值得关注。

他还提到，标注的数据也不能出错，这是确保行业大模型质量最重要的一个保障。

“做行业大模型的厂商都很担心，语料本身会不会被别人窃取？有没有一些漏洞导致这些核心数据资产被泄露出去？”他提到。

此外，刘前伟还考虑到出售给客户的安全大模型会被别人“拿走”，因此，他认为“需要对大模型本身进行加密等处理”。

从通用大模型使用者的角度来看，他认为，“AI是非常重要的生产力，但当我去问AI一些问题的时候，我们会不会把自己商业的机密、个人的信息会泄露出来？这是一个很大的问题”。

在他看来，用过去传统的流量过滤方式是无法解决这种内容安全的问题，只能通过AI对抗AI的方式才能解决，“用魔法打败魔法，可能是解决安全上的一个很大的出路”。