清华大学教授薛澜:AI治理已从理念层面到实践层面,应用场景治理挑战更大

清华大学教授薛澜:AI治理已从理念层面到实践层面,应用场景治理挑战更大清华大学教授薛澜:AI治理已从理念层面到实践层面,应用场景治理挑战更大清华大学文科资深教授、苏世民书院院长、人工智能国际治理研究院院长薛澜 出品 | 搜狐科技 编辑 | 梁昌均 12月4日-5日,由清华大学人工智能国际治理研究院主办的2021人工智能合作与治理国际论坛在清华大学举行,搜狐科

清华大学教授薛澜:AI治理已从理念层面实践层面,应用场景治理挑战更大

清华大学教授薛澜:AI治理已从理念层面到实践层面,应用场景治理挑战更大清华大学文科资深教授、苏世民书院院长、人工智能国际治理研究院院长薛澜

出品 | 搜狐科技

编辑 | 梁昌均

12月4日-5日,由清华大学人工智能国际治理研究院主办的2021人工智能合作与治理国际论坛在清华大学举行,搜狐科技作为支持媒体之一参与报道。在“如何构建一个平衡包容的人工智能治理体系”的主论坛中,清华大学文科资深教授、苏世民书院院长、人工智能国际治理研究院院长薛澜认为,人工智能治理现在已经从理念层面到实践层面,既要鼓励企业的创新发展,也要提供有效的治理框架和相关的规则。

“我们特别强调的是求同存异,争取各国文明最大公约数,需要通过建立多边协同共治的方式,把行业规则、技术标准等纳到统一的框架内。”薛澜表示。

目前,全球共同提倡的人工智能治理基本准则具有高度的相似性。薛澜介绍了清华大学人工智能国际治理研究院提出的人工智能治理框架,基本的治理准则、治理对象(包括数据、算法、算力,囊括了从知识、信息到数据的治理过程);治理工具(包括法律制度体系、技术标准、行业准则和规范体系),及参与的主体(包括政府、公民、媒体、高校、平台企业、国际组织等)。

在应用场景层面,从治理角度来讲,目的在于降低潜在风险,使社会效益最大。“这会有各种不同类型的场景,从风险治理角度来讲,大概率、大损失的需要高度关注;小概率、大损失,所谓黑天鹅事件,也要高度关注;还有很多小损失,相对来讲不用太担心。”薛澜介绍称,在价值导向方面,则要具备底线思维、人本思维、发展思维和全球思维,形成共识。

清华大学教授薛澜:AI治理已从理念层面到实践层面,应用场景治理挑战更大

人工智能治理目前面临什么样的挑战?从治理对象来看,薛澜表示,这主要体现在四个方面。首先是数据层面,挑战在于如何进行高质量的数据集建设,以及如何让公共数据集更大程度开放,数据自主可控和宏观安全也需高度关注。

其次是算法的稳定性、安全性、可解释性和公平性;第三是算力层面,需要推动核心硬件的持续性创新,寻求多边合作共赢,避免技术垄断等,同时需要突破技术创新范式,探索未来的新兴技术。最后就是场景,这是人工智能下一步更大的治理挑战,需要考虑如何根据不同类型和风险的场景提出更加具体的准则,并更加具体地应用。

从人工智能治理机制来讲,薛澜认为,这包括三个层面。首先是形成价值共识,目前国家新一代人工智能治理专业委员会提出的治理准则和一些国际组织和机制的准则比较一致,核心是按照包容、共享、审慎、负责的价值原则来平衡人工智能治理中的发展和安全需求。

第二是促进治理主体分工协作,发挥治理主体各自优势,形成治理合力。具体来看,政府要担负其赋权和监管职责,技术提供方需要进行赋能,从而形成迭代优化。同时,技术研究者和使用者也要有更多的合作交流,社会要提供及时有效的监督。

第三个治理机制在于保持迭代优化。薛澜认为,这是在人工智能治理方面独特的地方,很多传统的技术扩散过程漫长,可能经过几十年在社会上也只能达到70%、80%的渗透率,但现在人工智能技术发展非常快,在短短的几个月甚至几天,就可以拓展到成百上千万的用户。

他表示,这种情况下,很难采用传统的治理方式——先多方审慎探讨,达成共识再出台治理规则。这就会导致治理跟不上技术发展的速度,因此要保持各种治理模式相结合。首先是探索性治理或前瞻性治理,先对预想潜在的风险进行规制,有效避免不利的情况发生。此外,还需要适应性治理或敏捷治理,治理小跑跟上技术发展的步伐,不要追求完美,从而进行有效平衡。

在治理工具层面,也需要多方结合。薛澜介绍,宏观层面,需要出台国家规划、法律体系和伦理规范,把这些宏观工具和具体的应用有效结合。在中观层面,需要探索人工智能技术对社会的影响,进行更好的社会应用观察和实验。

在具体技术应用方面,薛澜表示,技术标准对企业来讲是更为关键的治理手段,包括强制性标准和推荐性标准,比如产品标准、工艺标准、检测试验方法等,在开始拿不准的时候可以先按照推荐性标准推进,在形成共识后就可以确定为强制性要求。

另外,薛澜认为,技术手段本身也在治理过程中也可以发挥更大作用。如何通过技术手段,采取一些措施,一方面保证可以把数据拿来用,另一方面形成对数据隐私有效的保护,联邦学习、隐私计算、区块链等监管性科学技术都可以发挥作用。

原创文章,作者:胡小梅,如若转载,请注明出处:http://www.xkko.cn/news/1636.html