度小满许冬亮：提升科技伦理治理能力需要“五大举措”并举

2022年7月27日，“第六届金融科技与金融安全峰会”顺利召开。国家金融与发展实验室副理事长胡滨、全国社会保障基金理事会原副理事长王忠民、度小满CTO许冬亮、清华大学金融科技研究院金融安全研究中心主任周道许等嘉宾出席了本次峰会。与会嘉宾围绕金融科技伦理治理体系、金融机构兼顾数字合规与伦理的数字化转型、信息安全与金融科技伦理重要性等话题展开了讨论。

许冬亮认为， “大数据+AI技术”是金融数智化升级的强劲驱动力，但数智化升级过程中也伴随着伦理风险：例如在数据伦理方面，会涉及数据的非法/过度采集、隐私数据的传播与滥用等问题;在技术伦理方面，存在算法歧视、模型黑盒（不可解释性）等隐患。

“科技伦理建设是科技企业和科技人员应有的义务”，许冬亮表示。围绕防控科技伦理风险，提升科技伦理治理能力，他分享了度小满采取的 “五大措施”。

首先是组织层面，科技伦理的落地要有对应的组织保障，度小满IT治理委员会的基础下新设立了科技伦理工作小组，该工作小组是站在科技伦理的角度制定公司的科技伦理原则，同时要去监督科技伦理原则的落地。

其次是健全规章制度。度小满目前已经建立了科技伦理审查制度，监督伦理原则的落地，具体审查内容落实在技术风险管理制度、数据风险管理等制度中。

第三，在数据治理方面，度小满围绕三大法《网络安全法》、《数据安全法》和《個人信息保护法》，把整个数据安全与管理、隐私保护贯穿于数据的采集、存储、流通、应用以及销毁全环节，制定数据的全生命周期的管理，并且设置了严格的数据红线。

第四，技术治理方面，从三个维度开展工作：打破算法模型黑箱，深度学习算法可解释性是比较差的，通过技术革新，比如因果推断的方式能够使得模型的因果关系可解释性变得更强，以及制定算法规范，防范算法歧视，避免用户遭受不应该有的伤害;通过构建模型全生命周期管理机制，将模型立项到下线全流程纳入规范管理，确保模型安全可靠、持续、透明可解释、尊重隐私、可审计可监督，有效控制模型风险;通过专家经验防范系统性的风险，例如用成熟的框架限定新技术应用边界，在顶层我们使用的是专家经验的整体框架，新技术的应用会在专家经验的大框架下进行应用，即使可能出现风险影响范围也是约束在相对小的范围，不会引发系统性风险。

最后是人才培养，科技伦理的意识需要贯穿人才培养全过程，包括人员招聘、任用、培训、内部交流。

许冬亮强调，科技企业在践行科技创新时要秉承“意识先行，伦理前置，以制度约束，让科技自我完善”的理念，共同建设美好科技生态。