可信已成为AI发展必备要素 2022世界人工智能大会可信AI论坛共话

　　在上海举办的2022世界人工智能大会可信人工智能论坛上，全球20余位可信人工智能顶尖智脑、政府领导、行业代表，围绕可信AI的政策与标准、理论与技术、应用与场景等议题展开探讨。

　　如何解决AI信任危机？

　　“当前，人工智能技术加快演进，深刻改变人们的生产生活方式，随之而来的数据隐私、算法歧视、安全风险等人工智能治理问题也引起各方的共同关注。”上海市政府副秘书长尚玉英在论坛上率先提出，发展可信AI，推动人工智能透明可释、安全可控、多元包容已经成为全球共识，融合可信要素的人工智能产业生态成为新时代人工智能发展的必由之路。

　　据IDC相关数据，2021年全球人工智能产业规模为3619亿美元，预计在2022年同比增长19.6%，超过4300亿美元。

　　然而，随着人工智能应用的深入，其自身的技术缺陷以及带来的决策偏见、使用安全等问题引发了信任危机，可信成为关注焦点。而构建可信人工智能成为缓解和消除这些担忧的必然选择。

　　学术界率先推开了可信AI的大门，而企业界则成为实践可信AI的主要力量。

　　世界人工智能大会可信人工智能论坛现场

　　澳大利亚科学院院士、京东探索研究院院长陶大程从理论层面剖析了可信人工智能中各种支撑技术，从实践视角详述可信人工智能的实践路径，对实践可信人工智能、完善可信生态提出了方案和建议。

　　陶大程认为，可信AI应该研究怎么从以下四方面解决AI的信任危机：稳定性，AI系统抵抗各类环境噪声、攻击的能力；可解释性，AI系统的预测、决策是否透明、可被人理解；隐私保护，AI系统是否可以保护用户隐私不被泄露；公平性，AI系统是否公平对待不同群体。

　　陶大程表示，可信AI研究的方方面面相互联系，并不孤立。因此，在建立相关标准时需要将可信AI作为一个整体来考虑。陶大程提出，实践中，应加强业务人员在AI应用构建中的参与程度，融合业务、数据、算法、运维，以更好更快地实验、开发、部署、管理应用，保证交付与运行质量，提升各业务线获得的效用与价值。

　　可信AI仍面临诸多挑战

　　可信已经在人工智能产业各个环节中落地，贯穿研发、生产、经营等内部全流程，打造出全面融合可信要素的人工智能产业，涵盖基础能力、理论技术、应用场景与产品设备等多元化模块。

　　论坛上，为推动企业实现业务全链路可信，护航可信AI走向工业级落地，蚂蚁集团基于大规模实践经验，联合清华大学和中国信通院云计算与大数据研究所共研一款业内首个适配工业级应用的AI安全检测平台，正式发布向行业开放使用。

　　蚂蚁集团机器智能部总经理王维强从阿里集团基于可信观的封控技术角度，谈了可信AI从可解释性、公平性、鲁棒性、隐私保护四个维度去推进创新、共建、共生。

　　“如何量化AI模型的公平，如果不公平原因何在？最终如何让模型更加公平，因此，AI公平性需要可衡量、可归因、可优化。”王维强谈到，从隐私保护技术角度，通过用户隐私体系升级，最小化使用用户客户端内容，识别欺诈、赌博、洗钱等风险场景；与合作伙伴的联防联控，蚂蚁开源的可信隐私计算技术与各互联友商通过多方安全计算、联合建模等方式，助力生态高效进行联合风控，共同控制风险，与生态伙伴隐私技术共建，形成数据最小化。在这方面的落地实践，也让融合可信要素的人工智能产业生态开始兴起。

　　事实上，目前，人工智能平台系统与可信理念的融合，在数据处理、模型构建、部署和支撑服务等方面还面临不少挑战。技术上，算法脆弱易受攻击带来的危险性；黑箱模型导致算法不透明，这些都导致外界无法直观理解决策背后的原因。

　　OPPO终端安全领域总经理王安宇则表示，从1G到4G时代，用户的信任不仅仅是产品本身的安全性，还涉及各参与实体之间的互信，数字化时代的可信内涵在于安全性、隐私保护、可靠性、韧性、物理安全。“所以说融合世界的可信在社会空间、网络空间、物理空间，而消费者终端安全的趋势在感知与交互安全。”

　　在中国信通院云计算与大数据研究所内容科技部副主任石霖看来，应以评测手段推进算法治理落地。他谈到，算法应用诱发较多复杂问题，由于算法不透明、用户不清楚算法的目标和意图，更谈不上对其进行评判和监督，信息不对称导致信任往往难以真正建立。因此，企业在落实算法治理要求时面临规则界定、规则理解、任务分解、任务分配、效果评估等五大关键问题，需要一整套方法论指引。