奇书网

错误案件（第2页）

-被最高人民法院纳入“智慧法院建设标准”。

**意义**：

该案例表明，**在司法这一高度敏感领域，AI的“辅助性”必须通过制度刚性确立**，避免技术凌驾于法律之上。

####**案例三：上海瑞金医院“AI影像诊断纠错平台”——医疗AI的“双盲验证”实践**

**背景**：

瑞金医院在使用AI辅助诊断肺结节时，曾发生一起误判事件：AI将早期肺癌判为良性，导致患者延误治疗。

**治理措施**：

1。**“双盲双审”制度**：所有AI诊断结果必须由两名放射科医生独立审核，且医生不知晓AI判断。

2。**“错误案例库”建设**：将误诊案例纳入内部培训系统，用于医生与AI共同学习。

3。**动态模型更新机制**：每发现一个错误，立即启动模型再训练，并在测试集上验证。

4。**患者知情权保障**：在报告中明确标注“本诊断由AI辅助生成，最终解释权归主治医生”。

**成效**：

-AI误诊率从12%降至3。2%；

-医生与AI协同诊断准确率达96。5%；

-项目获“国家医疗人工智能治理示范奖”。

**意义**：

该案例揭示了**医疗AI治理的核心原则：生命权高于效率，人工监督不可替代**。

####**案例四：深圳市“AI招聘监管平台”——遏制算法歧视的制度创新**

**背景**：

深圳某科技公司AI招聘系统被曝系统性降低女性与大龄求职者评分，引发舆论风暴。

**治理措施**：

1。**“算法备案制”**：企业使用AI招聘系统前，必须向人社局备案算法逻辑与训练数据。

2。**“公平性压力测试”**：由第三方机构模拟不同性别、年龄、学历的简历，检测是否存在歧视。

3。**“透明化评分”**：求职者可查看AI评分依据，如“关键词匹配度”“经历相关性”等。

4。**设立“AI就业歧视投诉通道”**：支持集体诉讼与行政调查。

**成效**：

-深圳市AI招聘歧视投诉量下降60%；

-企业合规率从45%提升至89%；

-成为全国首个“AI就业公平试点城市”。

**意义**：