联合国科技大会关注AI安全，科大讯飞深度参与这项国际标准

4月15日-19日，第27届联合国科技大会在瑞士日内瓦召开。16日，在以“塑造AI的未来”为主题的AI边会上，世界数字技术院（WDTA）发布了一系列突破性成果，包括《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准。这是国际组织首次就大模型安全领域发布国际标准，代表全球人工智能安全评估和测试进入新的基准。

据了解，这两项标准由OpenAI、蚂蚁集团、科大讯飞、谷歌、微软、英伟达、百度、腾讯等数十家单位的多名专家学者共同编制而成，其中，科大讯飞深度参与制定《生成式人工智能应用安全测试标准》。同时，科大讯飞还作为大会支持方为会议提供讯飞听见、讯飞翻译机等服务，相关产品得到了与会嘉宾和联合国官员的一致好评。

与会的WDTA人工智能安全可信负责任工作组组长黄连金表示，随着人工智能系统，特别是大语言模型继续成为社会各方面不可或缺的一部分，以一个全面的标准来解决它们的安全挑战变得至关重要。

近年来，世界各国都在加强对于大模型安全的研究和管控。自去年以来联合国就对 AI 行业高度关注。去年9月，联合国教科文组织就发布了全球首份关于在教育和研究领域使用生成式AI的指南，呼吁各国政府对AI在教育中的运用实施管制；我国先后发布了《全球人工智能治理倡议》《生成式人工智能服务管理暂行办法》《生成式人工智能服务安全基本要求》等，旨在促进生成式人工智能安全可信发展，推进全球人工智能治理领域合作共识。

《生成式人工智能应用安全测试标准》的颁布代表了人工智能安全评估和测试进入了新的基准。该标准为测试和验证生成式AI应用的安全性提供了一个框架，特别是那些使用大语言模型（LLM）构建的应用程序。它定义了人工智能应用程序架构每一层的测试和验证范围，包括基础模型选择、嵌入和矢量数据库、RAG或检索增强生成、AI应用运行时安全等等，确保AI应用各个方面都经过严格的安全性和合规性评估，保障其在整个生命周期内免受威胁和漏洞侵害。以科大讯飞为代表的人工智能公司，基于大模型安全应用中的探索和实践，深度参与了该国际标准的制定，这不仅是对科大讯飞技术实力的认可，更是中国在全球 AI 领域影响力与日俱增的表现。

事实上，在这场席卷全球的大模型竞赛中，中国大模型一直走在世界前列。早在去年 4 月，我国就发布了《生成式人工智能服务管理办法（征求意见稿）》。根据国家网信办官网信息，截至 3 月底，我国已完成生成式 AI 服务备案的大模型就有 117 个之多。

科大讯飞推出的讯飞星火大模型是其中的佼佼者。今年 1 月，科大讯飞星火认知大模型 V3.5 正式发布，这是首个基于全国产化算力平台“飞星一号”训练的全民开放大模型，进一步对标国际最先进水平。其中，语言理解、数学能力已经超过 GPT-4 Turbo，代码能力达到 GPT-4 Turbo 的 96%，多模态理解达到 GPT-4V 的 91%。

同时，作为公认的人工智能产业“国家队”，科大讯飞一直以积极的姿态投身于人工智能相关标准制定，助力人工智能安全可信发展。公开资料显示，今年1月，科大讯飞作为核心参编单位参与制定了工信部信通院代码大模型；去年，科大讯飞被授予国家人工智能标准化总体组大模型专题组联合组长单位、之前还被授予人工智能关键技术和应用评测工业和信息化部重点实验室大模型工作组的副组长单位，参编中国信通院大模型标准体系2.0的建设。

此次科大讯飞、蚂蚁集团、腾讯等中国科技巨头在国际标准制定中的积极贡献，不仅彰显了中国企业在人工智能领域的技术实力和专业影响力，也为国内其他企业树立了积极的典范。相信未来会有更多的中国企业参与全球竞争与合作，共同促进全球人工智能技术的创新与可持续发展。

本文来源：财经报道网