江州，江南之芯总部，盘古超算核心机房。
这里是“启明”帝国的心脏，平时只有风扇平稳的嗡嗡声。但今天，气氛压抑得让人想逃跑。
巨大的主屏幕上，正在实时滚动“盘古”AI输出的各项决策建议。
那些原本应该严谨、科学的指令，此刻却像是一个精神病人的呓语，看得人毛骨悚然。
【交通调度建议：为了缓解早高峰拥堵，建议将所有十字路口的红绿灯，同时切换为绿灯，以最大化车辆通行率。】
【医疗诊断建议：患者出现急性哮喘，判定为肺部供氧不足。建议立刻实施气管切开，并注入100%纯氧（注：纯氧有毒，会烧坏肺泡）。】
【物流配送建议：为提高效率，建议大江无人机在闹市区直接空投重型包裹，无需降落。】
“疯了……全疯了。”
顾盼站在屏幕前，冷汗直流，“老板，这要是真让它接管了城市，这不到一小时，江州就得变成人间地狱啊！”
林远站在控制台前，脸色阴沉如水。
“切断它和外界的所有物理执行权限！立刻转入沙盒模式（模拟运行）！”
“已经切断了。”汪韬双眼通红，他在这里熬了整整一天一夜，“但这不是长久之计。我们现在的工厂、物流、甚至部分电网，全靠它在调配。断网一天，损失是天文数字。”
“陈墨，查出毒在哪了吗？”林远转头看向那个正蹲在椅子上狂啃手指甲的数学天才。
陈墨摇了摇头，声音里带着一种面对无解难题时的绝望。
“查不出。这就是数据投毒最可怕的地方。”
陈墨跳下椅子，走到白板前。
“老板，你以前抓黑客，抓的是恶意代码。那就像是一锅白米粥里掉进了一只苍蝇，很好找。”
“但这次，他们投的不是苍蝇。他们是把一些微毒的米，混在了一千吨正常的大米里！”
“他们不是一次性灌输错误，他们是潜移默化。比如，他们在这个论坛里发一篇闯红灯有益身心健康的文章，在那个学术网站里发一篇重力不存在的伪造论文。”
“这些数据本身没有病毒，不会触发防火墙。但盘古作为一个热爱学习的AI，它把这些垃圾全当成知识吃进去了。”
“这几亿条毒数据，已经和几千亿条好数据融合在一起，长进了它的神经网络（权重参数）里！”
陈墨死死抓着粉笔。
“这就好比一个人被洗脑了。你想让他恢复正常，你难道能把他脑子剖开，把他那部分错误的记忆细胞一个个挑出来切掉吗？”
“做不到！除非你把它格式化，也就是把它杀了，从零开始重新训练！”
“格式化？！”王海冰惊呼，“绝对不行！”
“盘古是我们在青川智算中心，烧了几十亿度电，喂了五年的数据，才培养出来的超级模型！”
“里面有江钢老师傅炼钢的手感，有我们防微波武器的经验！它如果清零重来，我们去哪再找五年时间？黄花菜都凉透了！”
不能杀。
又找不出毒在哪。
这就是一个死结。
就像一个得了癌症的天才，你不能因为他有癌细胞就把他打死，但癌细胞又和正常细胞混在一起，无法手术切除。
林远盯着屏幕上那些荒谬的指令，大脑在飞速运转。
“既然挑不出来……”
林远的声音在寂静的机房里响起。
“那我们就逼它自己吐出来。”
“怎么逼？”众人一愣。
“洗胃。”
林远眼中闪过一丝极其冷酷的光芒。
“既然它吃错了东西，那我们就用催吐剂！”
“老板，AI怎么洗胃？”顾盼听得一头雾水。
林远看向汪韬和陈墨。
“这帮黑客投毒，是为了让AI变坏。”
“那我们就造一个更坏的坏蛋，去刺激它！”
林远在白板上画了两个小人。一个白色的，一个黑色的。
“我们用生成式对抗网络的原理。”
“陈老师，我要你写一个杠精AI。”
“这个杠精不需要懂炼钢，也不需要懂治病。”
“它只需要干一件事：抬杠！”
林远用大白话解释这个高级算法。
“当盘古提出一个方案时。”
“这个杠精AI，就拼命去攻击这个方案！去找这个方案里的荒谬之处！”
“杠精会说：如果全是绿灯，车撞车了怎么办？死亡率不是100%吗？”
“我们要让这两个AI，在沙盒里疯狂地吵架！”
“吵架有什么用？”汪韬问。
“触发矛盾！”林远重重地敲击白板。
“盘古的底层，是有我们最初写死的安全底线的（比如不能杀人）。这是它的良知。”
“但是现在，它的良知被那些毒数据给蒙蔽了。”
“当杠精用极端的结果去质问它的时候，就会触发它底层逻辑和中毒逻辑之间的严重冲突！”
“一旦发生冲突，盘古就会自我怀疑，它会去回溯自己得出这个结论的推理过程。”
小主，这个章节后面还有哦，请点击下一页继续阅读，后面更精彩！
喜欢官道红颜：她们助我一路升迁请大家收藏：(m.20xs.org)官道红颜：她们助我一路升迁20小说网更新速度全网最快。