肖钢：人工智能不能消除金融风险，算法并非中性，须加强治理金融AI算法模型 | 财富管理50人论坛

12月22日，中国证监会原主席肖钢表示，智能金融的本质是金融，其虽颠覆了传统金融模式，增加了新业态，但并没有改变金融要服务实体经济和人民生活的宗旨，只是通过智能方法来服务实体经济、服务科技创新、服务人民生活。

此外，人工智能极大提高了金融机构识别预警和控制风险的能力，但并没有分散或消除金融风险。因此，智能金融的本质还是金融，要遵循金融的基本规律。

当天，国民财富发展研究合作平台 “AI+金融”峰会在京召开，会议主题为“AI浪潮下的金融业应变”。肖钢在大会上谈到了上述观点。

同时，对于当前金融领域应用算法模型所产生的问题，肖钢指出，算法并非中性，算法的应用具有不确定性和不透明性。目前黑灰产组织已利用人工智能，模拟金融机构客户画像，为其灌输数据，进行信贷欺诈，导致新算法和大数据成为金融机构进行风控的反制因素。而在量化投资中，则存在着算法黑箱、算法歧视等问题，且高频交易影响了市场公平性。因此，治理金融AI算法模型，首先应设立相关法律法规，构建治理的顶层设计。其次成立专门组织，作为模型管控平台，开展数据治理、算法模型解释和模型效果评估审查等工作。此外，还应建立模型算法的治理生态体系，由金融机构、科技公司、消费者、监管者、自律组织等共同来参加。

以下为肖钢主题演讲的全部内容：

很高兴来参加今天的论坛，按照论坛的主题，我今天主要就加强金融AI算法和模型的治理问题谈一点自己的认识。人工智能是把双刃剑，它一方面引领了新一轮科技革命和产业革命，深刻改变社会生产生活，当然也深刻地改变了金融业的业态和模式，但同时也产生了各种风险和挑战。

智能金融的本质是金融，它虽然改变了传统金融模式，甚至说颠覆了传统金融模式，增加了新业态，但它并没有改变金融要服务实体经济和人民生活的宗旨，无非是通过智能方法来服务实体经济、服务科技创新、服务人民生活。

另外更重要的是，人工智能并没有分散或者消除金融风险，但其极大地提高了金融机构识别预警和控制风险的能力。分开来看，人工智能没有消除风险，不是因为人工智能发展消除了金融发展。因此，智能金融的本质还是金融，它要遵循金融的基本规律。

构成人工智能的主要元素是数据、算力、算法，以及多元应用场景。其中算法是人工智能中重要的组成部分。Algorithm原本出于拉丁文，现在是英语中的一个词汇，翻译过来就是算法。Algorithm其实是以波斯科学家穆罕默德·花拉子密名字命名。这个人当时指的是使用阿拉伯数字进行运算的法则。花拉子密在1830年写下了代数学，第一次详细解释了使用十进式进行4种基本运算，也就是现在的加减乘除和分数计算，形成了算法的底层概念。而算法真正的形成是在20世纪的30年代，由美国数学家香农第一次将二进式计算的数字和布尔代数结合，产生了智能算法编写的计算机语言。

算法和模型密不可分。简单来说，算法就是计算的方法，它是输入数据得出输出结果的过程。而建立模型离不开算法，算法是建立模型的流程，并非全部。模型是一系列算法的结果，一系列算法的数学表达。如果建立一个模型肯定要对事物进行规律性概括，即抽象概括，所以算法和模型密不可分。

关于算法的讨论其实国内外都存在着丰富的文献，比如《被算法操纵的生活》，专门讲述了人类被算法操纵。另外最新出版的《智者之上》，人类是智者，而在人类之上却由算法控制。还有《技术封建主义》，称之为技术封建主义是因为人类在拥有大量算法后，会产生信息茧房，会对算法产生依赖，这种依赖被国外翻译为封建主义。以及《奇点更近》《大数据时代》《浪潮将至》《重塑资本主义》等等。对于算法的诸多讨论，我归纳为五个方面：

第一是算法残酷，比如，美团和滴滴，时间算法非常精确，以及外卖员在街上狂奔送餐，算法已提前计算出配送时间，超时会面临着被差评的风险。算法很残酷，超越了人的情感，不是以人为本。

第二是算法歧视，其中有很多种歧视。第三是算法博弈，不同算法之间存在博弈。第四是算法霸权，利用算法强加于他人产生一些想要的结果。第五是算法奴隶，当然人类不能成为算法奴隶，日前联合国安理会讨论人工智能和国际和平安全的主题，联合国秘书长古特雷斯表示，人类命运不能掌握在算法手中，不能依靠算法来掌握人类命运。

对于“算法是不是中性”的争论较多，有的人认为算法是中性的，而我认为算法不是中性的。第一要形成算法，必须提前预设价值立场。第二算法依赖的数据往往有局限性，不可能十分完美。第三算法多样性和结果是中立的，因为算法有多种，采用的不同可能产生的结果也不同。此外，算法应用有不确定性和不透明性。

从上述多种维度来看算法并非中性。目前算法模型在金融领域的问题也有所显现。第一美国Zillow公司是一家依靠算法进行智能投资的公司，2021年该公司因算法预测模型出现失误导致亏损5亿美元。在IBM的一项全球调查中显示，模型缺乏可解释性被列为接受人工智能的最大障碍。

此外，算法模型在中国金融机构的风控模型中也遇到了问题。我国一些金融机构现在已采用了信贷风控模型，靠算法进行风控，但现在存现了一批黑灰产组织，同样使用大模型模拟运行金融机构信贷风控模型参数，依据金融机构的客户画像（客户放贷条件），为其灌输数据，进行信贷欺诈，而这种利用大模型的信贷诈骗在我国已真实发生。

当前不法分子利用人工智能进行欺诈，导致新算法和大数据成为金融机构进行风控的反制因素，而由于大银行和中小银行在抵御科技技术风险能力上存在差异，部分中小银行更容易被黑灰产组织攻破。

目前，美国银行家协会正在研究开发全体金融机构的欺诈检测人工智能模型，这值得借鉴，由于一家金融机构能够获取的欺诈数据相对有限，各家金融机构汇集数据，统一开发的检测模型更为精准，同时各家金融机构也能共享这一模型。

在量化投资方面，我国相关机构的算法模型也存在问题。2023年某量化投资平台被行政处罚，并被公开谴责，暂停业务。在量化投资中，算法权力具有市场优势地位，而由于推荐的服务信息不对称会产生算法黑箱。另外算法还存在歧视，因为算法输出的数据关系到性别、年龄、收入、资产，采取差异化收费，因客定价，此时往往容易产生歧视。

同时，算法模型具有策略一致性的特点，容易加大市场波动性，特别是高频交易，容易影响市场公平性。国内将每秒进行300笔交易定义为高频交易，而高频交易占整个量化收益的60%。我国投资者以散户为主，高频交易影响市场公平性。

为研究治理金融AI的算法模型，首先应设立相关法律法规，从而构建算法治理的顶层设计，并设立三个目标，分别为信任、效能和安全。

第二是做好算法模型治理一定要成立专门组织，如大型金融机构应建立算法模型管理委员会，而这一专门组织不是用来领导干部开会，而是要真正设立模型管控平台。

第三是具体任务，包括数据治理、算法模型解释、自主评估，对模型效果评估的审查，以及问责和救济。

最后是要建立模型算法的治理生态，由金融机构、科技公司、消费者、监管者、自律组织等共同来参加。

分享国内某一个商业银行的实例。第一是模型管理委员会，由模型管理委员会制定算法模型开发应用的战略和政策规则。第二是模型管理的规范，比如对于零售模型有需求、设计、开发、验证等一套规范。第三是模型管理的风险管理平台，实时展现模型参数的前景，跟进项目进展，自动监控预警。

算法模型不能一概而论，要分级分类治理，风控模型应放到最优先等级，即高等级。另外，新模型也要放到高等级。算法模型的迭代非常重要，模型不可能一蹴而就，需要在实践中不断迭代，进行差异分析、解释归因，以及数据训练，不断更新投产验证等等。

人民银行很有先见之明，其专门发布了人工智能算法金融应用评价的规范，该文件具有前瞻性，从模型的精准性和性能方面做出规定，要求在建模过程中存在相关措施。例如，可解释性方面，分为几个步骤，在建模准备过程中，要对模型特征定义、要选择哪些可解释性的算法参数、样本等。在建模应用过程中，模型参数也要可解释，而且要监控管理。最后算法的目标性，对于算法应用的业务，具体内容提出了若干要求。比如对于常见的攻击防范、盗取、供应链后门攻击等，并要求算法可追溯。最后是算法内控。

此外，人民银行除发布应用评价规范，还发布了人工智能AI模型的信息披露指南，其重要性在于要向消费者披露模型参数、内在逻辑等，便于大众监督、社会监督和监管者监督。未来应进一步贯彻好人民银行AI算法应用的规范，更好地促进智能金融健康发展。