林薇把最后一口乌龙茶喝完,瓶子捏扁,扔进回收箱。
“信不信不重要。
做不做才重要。”
她们回到工位的时候,系统锁定已经解除。
林薇重新戴上耳机,点开下一条任务。
这次是一个文本段落,AI生成的新闻报道,标题是“本市第三季度失业率环比下降百分之零点三”,正文充满了官方口径的用词和数据引用。
林薇扫了一遍,发现文中的“失业率”概念被偷换了,把“登记失业率”和“实际失业率”混为一谈,制造出一种形势大好的假象。
这种把戏她见过太多次了,不新鲜。
她快速勾选“文本真实性存疑-概念偷换”,标注了具体的词条,提交。
第三百五十条。
然后是下一条。
再下一条。
每一条都像一粒子弹从她的指尖射出去,击中标靶,弹壳弹出,循环往复。
她的视觉皮层在处理连续不断的图像信息中逐渐变得麻木,色彩和形状开始失去意义,只剩下标签:违规。
可疑。
需进一步核查。
安全。
安全。
安全。
安全是个很少用到的标签,就像一把从不拔出的剑,它存在的意义更多是提醒你还有其他选项,虽然你几乎用不上。
下午四点左右,王组长从办公室走出来,手里拎着一沓打印好的报表,沿途在每个工位前停一下,放一张。
林薇拿起那张纸,上面是本周的“审查质量回溯报告”。
她扫了一眼自己的名字后面跟着一串数据:上周总处理量两千九百一十三条,准确率百分之九十八点二,误判率零点七,漏判率一点一。
漏判率比公司红线高出零点三。
王组长用红笔在漏判率数字下面画了一道线,旁边批了一个小字:“关注。”
林薇把那张纸折了两折塞进抽屉里。
漏判率偏高她知道原因,上周有三条深度伪造内容从她手里滑过去了,事后被复查系统抓了回来。
那三条内容的生成质量极高,其中一条甚至通过了她的三次复核。
她后来专门研究了那三条的生成特征,发现它们用了一种很新的对抗训练方法,专门针对市面上主流的检测模型做了优化。
技术部到现在还没给出针对性的更新方案,但漏判率是记在她头上的。
她打开内部通讯软件,给技术部负责检测模型迭代的工程师方宇发了一条消息:“Gx-7的渲染签名特征我标记了,但今天又看到一条疑似变种,瞳孔边缘色晕位置从内圈移到了外圈,你们那边有新的检测补丁吗?”方宇过了几分钟回了一个短句:“在做了。
原型大概后天能跑通。”林薇盯着那个“在做了”看了好几秒。
在做了。
她知道这意味着什么,意味着后天之后还有测试,测试之后还有部署,部署之后还有灰度验证,等她真正用上能检测这个变种的工具时,下一个变种早就冒出来了。
这是一场永远在追赶的战争,她跑得再快,对手也只比她快半步。
快下班的时候,系统推了一条优先级不高但标注了“跨部门联审”的任务。
林薇点开一看,是一组由AI生成的儿童绘本插图,画风温馨,色调柔和,小兔子戴着围巾在雪地里堆雪人。
但联审备注里写着:“画面背景中多次出现特定建筑轮廓,经地理空间比对,与某边境争议地区的标志性地标相似度超过百分之八十七。
请评估图像内容的地缘政治敏感性。”林薇揉了揉眼睛。
她把那些插图一张张放大,小兔子的雪人旁边确实有一排低矮的、拱顶的建筑,被雪覆盖了大半,但轮廓特征还在。
她调出地理信息数据库进行比对,相似度百分之八十九点四。
这算什么?
算法在生成“温馨雪地”的时候随机抓取了一组建筑素材?
还是有人刻意在提示词里嵌入了地标信息?
前者是偶然偏差,后者是恶意渗透。
两种可能的处理方式完全不同,前者只需要在训练数据中做清洗,后者需要启动安全预案。
但林薇面临的现实是:她只有图像本身,没有生成日志,没有提示词记录,没有任何上下文。
她能做的只是标注“存在地缘敏感性关联,建议技术部核查训练数据来源”,然后把问题抛给下一个环节。
本章已完成!