北大国发院席天扬：数据治理时代，政府部门也需要设置算法审计

　　北大国发院政治学长聘副教授席天扬在北大国发院“平台经济创新与治理”研讨会暨发布会上表示，大数据和数字技术进入国家治理，治理逻辑本质上从一种人格化的管理体系转变为非人格化的管理体系，从依靠人的治理转变为依靠数据的治理。

　　借用制度经济学家道格拉斯·诺斯的观点来看，非人格化的制度依赖于规则，而不是人与人之间的相互了解。在公共治理当中，利用大数据的非人格化管理体系，有没有好处呢？席天扬以健康码举例说，在疫情常态化防控背景下，健康码能够以相对较低的成本促进陌生群体之间的信任，维持社会基本正常运行的机制，“但同时，应该看到这种依赖于数字技术和大数据的管理体系，对国家治理也带来了潜在挑战。”

　　其一是权责不对等。通过对大数据的占有，公共部门对私人的权利在不断扩张，然而，公共部门的责任却越来越小。“因为它的行为变得更加隐秘了。”席天扬称，“在大数据数字技术治理下，有可能我们不知道谁做决定，谁来负责。”

　　然后是纠错成本高。此前就发生过“健康宝弹窗”事件。从概率上来讲，以大数据与算法为支撑的治理方式发生偏差的概率较小，但一旦有错误发生，难以用个体的力量去纠正系统性的偏差，这种纠错的代价是巨大的。而且，除了数字技术本身出现差错，还要注意人为的“恶意行为”。

　　数字化鸿沟也是挑战之一。国家工业信息安全发展研究中心发布的最新数据显示，32.7%的老年人不知如何下载APP，农民数字素养得分仅为18.6分。疫情期间对数字技术的大量采用，在方便了生活的同时，也将部分弱势群体拒之门外。“未来的公共治理，尤其在提供数字化的公共服务上要警惕。”席天扬表示。

　　最后一个挑战表现在系统的稳健性。在疫情防控中，发生过多起因系统崩溃而造成健康码长时间失灵的事件。随着大数据和数字技术的普遍采用，服务器的稳健性也日益凸显。席天扬指出，由于技术或非技术原因导致的系统错误，对国家的安全和社会的稳定都会产生重要影响。

　　谷歌文本语料库的数据显示，2000年以后，从全球范围看来，公共政策的讨论中大数据和人工智能的热度在不断上升。技术数字赋能，正成为全球国家治理的关键词，如何应对这些挑战，也就成了政府部门亟需更新的知识技能储备。

　　针对上述挑战，席天扬提出了三条应对措施。

　　首先，政府采集数据需要构筑企业和政府两重防火墙，只有企业的防火墙是不够的。席天扬认为，对于相关企业在APP中过度收集、使用个人信息的问题相关法律法规正变得越来越完善，但是，私人数据到企业终端后，政府在什么样的情况下可以接入、使用这些数据，应该有一定的正当程序。

　　其次，公共治理导入私人数据不应该成为默认权利。席天扬表示，在公共治理中，从不同的领域导入私人数据的边界在不断扩张，比如公交系统跟健康码相连。“这种行为是不是要经过一定的授权？它在什么样的情况下是合法的？它的边界在哪里？”

　　最后，拥有数据的政府部门也需要数据/算法审计。席天扬将之归纳为“合法、透明、问责和回应性”。具体来看，数据/算法审计的关键词分别指的是：数据的存储与实用程序应当合法；算法的逻辑应当透明；使用数字技术治理导致的不良后果应当有问责；对公众的重大关切应当有回应。