世界互联网大会｜人工智能与数字伦理

　　当前，以人工智能为代表的新一轮科技改变和产业变革正在重构全球创新版图，重塑全球经济结构，既为世界各国创造了更加广阔的发展机遇，也带来了安全伦理时等方面的风险挑战。身处这一变局之中，如何顺应信息化、数字化、网络化、智能化发展趋势，同时又塑造健康的伦理价值，是人们共同面对的紧迫课题。

　　今日下午，在世界互联网大会分论坛“人工智能与数字伦理”上，清华大学人工智能研究院名誉院长、中国科学院院士张钹，中国工程院院士高文，之江实验室主任朱世强等人工智能与数字科技领域的知名专家学者，以及微软、阿里等人工智能和数字领域头部企业负责人，共同围绕人工智能技术、应用和产业发展过程中的安全风险治理与数字伦理建设，以“人工智能的产业方向与伦理取向”为主题展开交流。各位嘉宾各抒己见，为推动国际社会人工智能伦理研究和治理体系构建等方面碰撞思维、交流互鉴。

　　AI研究及治理需要全世界不同领域的人员参与

　　早在上世纪50年代，美国科幻小说家阿西莫夫就在小说中对相关机器人提出具有前瞻性的“机器人三定律”：即“机器人必须不危害人类，也不允许它眼看人将受害而袖手旁观；机器人必须绝对服从于人类，除非这种服从有害于人类；机器人必须保护自身不受伤害，除非为了保护人类或者是人类命令它作出牺牲”。

　　但是上述提醒并没有引起人工智能界的重视，因为当时人工智能研究还处于探索阶段，进展缓慢。而随着人工智能迅猛发展，曾经的“远虑”似乎日益成为“近忧”。

　　对于发展第三代人工智能的思路，清华大学人工智能研究院名誉院长、中国科学院院士张钹认为：“人工智能的研究和治理都需要全世界不同领域的人员参与和合作，除从事人工智能的研发和使用人员之外，还需要法律、道德、伦理等不同领域人员的参与，我们需要明晰伦理道德的标准，什么是符合道德和伦理的？不同国家、民族团体和个人，都有不尽相同的认识，因此需要全球范围的合作，共同制定出一套符合全人类利益的标准。”

　　之江实验室主任、中国人工智能产业联盟副理事长朱世强则认为，人工智能是人类智能在机器领域的延伸，真正的主动权仍然是掌握在人身上。“现在任何一项技术只要是人开发出来的，总有人能够控制它，所以技术并没有原罪，但是技术的应用是有正邪的。”

　　他以菜刀举例称：“菜刀是用来切菜的，菜刀也很多次被用来杀人，但菜刀是没有原罪的，我们的技术逻辑是希望‘以道制魔’，用技术手段把菜刀打造成锋利的，但是让它永远砍不到人头上去。这个听起来有点天方夜谭，但至少应该是我们努力的一个方向。”

　　朱世强表示，在当前发展阶段，最重要的任务仍然是发展技术。据他介绍：“我们正构建之江实验室预防人工智能危害社会的技术图谱，试图用一种先进的技术来阻止人工智能的滥用和恶意的违法应用。”

　　除了国内专家外，2007年图灵奖获得者、世界顶尖科学家协会会员约瑟夫·斯发基斯也通过形式进行了演讲。他是2007年图灵奖获得者、国际嵌入式系统研究中心Verimag实验室名誉研究主任，曾作为欧洲“卓越网络”嵌入式系统设计研究联盟的技术协调人。

　　多年来，斯发基斯一直在观察ICT和人工智能之间的融合。他认为，这种融合越来越快速，ICT和人工智能也共同带来了自治系统，这是从弱人工智能到通用人工智能的一大进展。但如今面对的挑战是，自治系统过于依赖人工智能赋能的组件。

　　对于如何实现自治系统，斯发基斯认为，要将人工智能集成到关键应用程序中，但现在这还没有完全实现，因为人工智能还没有自我解释的能力，比如解释神经网络是如何在如此之多的技术中学习的。

　　算力会像电力一样方便使用

　　讨论完人工智能伦理的技术逻辑，以及数字伦理的法理与道理后，人工智能及其产业模式优化对未来人类社会生产生活形态的影响也备受外界关注。

　　众所周知，人工智能技术可以显著提升人类效率，尤其在图像识别、语音识别等领域快速完成识别和复杂运算。此外，面对开放性问题，人工智能技术亦可通过穷举计算，找到人类预料之外的规律和关联。

　　在高文院士看来，大模型正在改变人工智能在各个领域的一些研究情况和现状，如自然语言大模型等，但想要训练大模型很重要的一点是要有算力，并且算力对国家经济的发展有很大推动作用。

　　“算力对国家的宏观经济发展有重大影响，与GDP/数字经济的走势呈现正相关。算力指数平均每提高一个点，可能会对数字经济的增长产生千分之五的贡献，GDP会有0.18%的提升。不仅如此，算力还将促进科学创新。”高文说道。

　　那么，未来是否有可能把算力通过一个算力网络输送给各部门、各行各业呢？高文表示，通过东数西算等抓手建起算力网，若干年后，算力也会让用户像用电一样方便地使用算力，算力会是一种消费。

　　不过，要想达到上述理想状态，算力还面临着很多技术问题。但在国家发改委的部署与支持下，鹏城实验室探索中国算力网0.1，2019年启动中国智算网预研项目建设，今年6月完成验收。高文介绍称，中国算力网0.1结束以后目前正在推动中国算力网1.0版的工作，这个工作执行期从2022年7月到2025年12月，希望中国算力网1.0完成后，可以集聚更大的算力。

　　站在企业的角度，蚂蚁集团首席技术官倪行军认为，科技伦理应该融入到公司业务和产品生命周期中，企业应秉承对用户、行业、社会负责任的态度，更好地服务于数字经济高质量发展和高水平安全。

　　据倪行军介绍，蚂蚁集团已经在无障碍和适老化改造、保证算法公平性、增强算法普惠等方面做了一些工作。

　　此外，从去年开始，蚂蚁集团和浙江省内一些学术机构和同业发起成立浙江金融科技伦理委员会，旗下的数字金融平台也发布了平台自律准则。今年6月，蚂蚁集团启动ESG可持续发展战略，“科技伦理建设”作为重要子议题上升为集团重点工作。

　　同时，倪行军还透露，蚂蚁集团已在公司内部成立科技伦理委员会，接下来还将成立顾问委员会，邀请业界资深的专家学者，参与和指导科技伦理建设工作。