**“我们曾以为,只要心是热的,光就不会熄灭。可我们忘了,光越亮,影子越深。”**
——邓文文在危机日记中写道
####**一、平静之下的暗流**
20XZ年11月,“心光科技”正处于创业以来的高光时刻:
-用户突破8万人,日活稳定在3000以上;
-与浙江省老龄办达成战略合作,启动“记忆守护千村行”项目;
-获评“全国数字人文创新案例”,登上《光明日报》专题报道;
-天使轮投资到账,团队扩至20人,搬入杭州未来科技城独立办公室。
公司墙上挂着新的标语:“**用AI守护记忆,用科技温暖人心。**”
办公室里,新员工在培训中学习《心光伦理准则》,老员工在会议室讨论“情感增强算法”的迭代方案。
一切看似顺风顺水。
可就在这片平静之下,一股暗流正悄然涌动。
####**二、一封匿名邮件,撕开裂痕**
20XZ年11月17日凌晨2点18分,技术主管邓超超的邮箱收到一封匿名邮件,标题只有四个字:**“你们被骗了。”**
邮件内容是一段加密压缩包,附言:
超超立刻警觉,叫醒值班的李然和陈昊,三人连夜解密。
压缩包里是一组数据日志,记录了过去三个月内,**超过2300个用户账号存在异常行为**:
-同一IP地址注册多个账号;
-批量上传非家庭照片(如网络图片、影视截图);
-修复后立即下载,未使用“心声”“对话”等核心功能;
-多数账号在72小时内注销。
更令人震惊的是,这些账号的“文字描述”内容高度雷同,甚至出现“请修复我父亲在抗美援朝战场上的照片”这类明显虚构的叙述。
“这不是普通用户。”李然脸色发白,“这是有组织的数据爬取。”
他们顺藤摸瓜,发现这些账号的下载行为触发了系统自动备份机制——为防止用户误删,系统会将修复前后的图像与文字描述在服务器保留90天。
**而这些数据,正被用于训练一个外部AI模型。**
####**三、数据泄露?还是系统漏洞?**
团队紧急召开闭门会议。
“我们没有主动泄露数据。”技术工程师陈昊斩钉截铁,“所有数据加密存储,访问需双重认证。”
“但……”他顿了顿,“系统有一个‘公开分享’功能。用户可生成链接,将修复成果分享至社交平台。”
问题就出在这里。
黑客利用该功能,通过脚本自动抓取公开链接中的图像与文字描述,再批量下载。由于分享链接默认有效期为30天,且未设置访问频率限制,**系统成了“免费数据饲料站”**。
“我们设计的是温情功能,却被当成了数据矿场。”林晓声音颤抖。
更致命的是,一名离职员工在社交媒体透露,心光科技正在训练“AI情感对话模型”,引发外界对“AI复活逝者”的猜测。多家自媒体迅速跟进,标题耸动:
-《心光科技偷偷训练“亡者AI”?》
-《你的老照片,正在被用来训练AI“鬼魂”》