第443章 伦理审查

第443章 伦理审查 (第1/2页)

2022年8月15日，周一，上午九点。
　　
　　陈诺坐在AI伦理认证委员会的办公室里，面前摆着第一批申请认证的AI项目名单。一共有十二个项目，涵盖了人脸识别、语音合成、推荐算法、自动驾驶等多个领域。每个项目都需要经过严格的伦理审查。
　　
　　审查流程分为三个阶段。第一阶段，项目方提交伦理自评报告，包括技术说明、数据来源、隐私保护措施、公平性评估、安全性评估等五个方面的内容。第二阶段，委员会组织专家进行书面评审，每位专家独立打分，满分一百分，六十分及格。第三阶段，专家进行现场考察，核实自评报告的真实性。整个流程预计需要两个月。
　　
　　陈诺拿起第一份申请，是一家公司的人脸识别系统。他仔细阅读了伦理自评报告，发现这家公司在隐私保护方面做得不错，采用了差分隐私技术，确保个人数据不会被泄露。但在公平性方面存在问题——系统对女性、老人、有色人种的识别准确率明显低于对年轻白人的识别准确率。数据显示，对年轻白人男性的识别准确率为百分之九十八点五，对老年女性的识别准确率仅为百分之八十七点三，差距超过十个百分点。
　　
　　他拿起手机，给项目的负责人打了电话：“张总，我看到你们的伦理自评报告了。隐私保护方面做得不错，差分隐私技术的应用值得肯定。但公平性方面有问题。你们的系统对不同群体的识别准确率差异很大，这是不符合伦理标准的。”
　　
　　对方沉默了片刻，然后说：“陈总，这个问题我们也注意到了。但技术上的改进需要时间。我们正在收集更多的训练数据，特别是女性和老年人的数据，希望能够提高对这些群体的识别准确率。我们已经增加了五千张女性面孔和三千张老年人面孔的训练数据。”
　　
　　陈诺说：“我理解。但在问题解决之前，我们不能通过你们的伦理认证。这是对用户负责，也是对你们负责。如果你们的系统被用于安防领域，因为识别准确率低而导致误判，可能会造成严重的后果。比如，如果一个老年人因为系统误判而被拦在机场安检口，那不仅是用户体验问题，更是人权问题。”
　　
　　

（本章未完，请点击下一页继续阅读）