第一卷少年游第八十六章无主

    第一卷少年游第八十六章无主(第1/2页)
    顾老师发下来的材料比江遥想象得更简单。第一页只有一张蚂蚁在纸面上爬过的轨迹图，几十条细线彼此交叉，有些地方密得像一团乱麻，有些地方又突然形成两三条明显的通路。第二页把时间加了进去：最开始，蚂蚁几乎向各个方向乱走；十分钟以后，某几条路线上的往返明显增多；再往后，一条原本并不算最短的路慢慢被放弃，另一条通往食物的路线越来越清晰。材料没有告诉他们蚂蚁有没有“找到最短路径”，更没有要求证明某个算法，只给出三个可以人为改变的条件：食物位置、痕迹消失的速度，以及蚂蚁选择下一步方向时对已有痕迹有多敏感。
    顾老师让十五个人先不要计算，只回答一个问题：“如果没有任何一只蚂蚁知道哪条路最好，最后那条比较好的路是谁选出来的？”
    教室里最初有人说“群体”，顾老师追问群体是谁；有人说“信息素”，他又问信息素会不会作决定。答案越说越绕，最后黑板上反而只剩几句很朴素的话：每只蚂蚁走过会留下痕迹，后来的蚂蚁更容易沿着痕迹多的地方走，走得快的路线单位时间内往返次数更多，于是痕迹积累也更快；与此同时，如果痕迹不会永久保留，偶然走错的路线又有机会逐渐淡掉。这里没有哪一步包含“选择最短路线”这条命令，可几种局部动作叠在一起以后，整个群体却表现得像是在比较道路。
    顾老师把其中一条写在黑板上：“快的路回来得早。”
    然后便停了。
    江遥盯着这六个字看了一阵，忽然发现真正关键的地方并不神秘。假如两个孩子分别沿两条路跑到同一个小卖部再回来，一条路短，一条路长，走短路的人在同样十分钟里当然可以多跑几趟。如果每跑一趟就在地上撒一点粉，那么短路上的粉自然会更厚，后来的人就更容易继续选它。没有人需要先拿尺子量出哪条路短，时间本身已经替系统做了一部分比较。
    这个解释简单到初中生都能懂，却没有因此变浅。江遥接着想到一个麻烦：如果最开始恰好有很多蚂蚁误打误撞走了长路，那条路也可能先积累出很浓的痕迹，后来的蚂蚁便继续跟随。群体不一定总能“越来越聪明”，也可能因为一个偶然的早期优势越走越错。她把这个问题写下来，陆徊在旁边看见以后说：“所以痕迹不能留太久。”
    “为什么？”
    “让错路有机会忘掉。”
    江遥转过头看他，忽然觉得“忘掉”这个词比“挥发”更有意思。一个群体如果永远记住最早发生的一切，早期错误就可能一直放大；如果什么都记不住，又无法积累经验。真正有用的似乎不是记忆本身，而是记忆应该保留多久。
    他们很快得到了一套模拟工具，不需要真正养蚂蚁，只需调整几个滑块便能看到一群小点在屏幕上行动。江遥先把痕迹保留时间拉到最长。结果十分直观：一开始哪条路偶然被走得多，后来几乎就被彻底固定下来，即使教师中途把食物挪到另一个位置，整群“蚂蚁”仍会沿着旧路线反复奔跑，很久都改不过来。她又把痕迹消失速度调得极快，系统这次倒是不固执了，可也学不会任何东西，所有小点一直四处乱走，刚形成一点路线便消失。
    “一个太记仇，一个失忆。”韩思遥不在核心组课堂里，江遥下意识想起她大概会怎么评价，自己先笑了一下。
    顾老师正好经过，问她笑什么。江遥把这两个极端说了一遍，他没有纠正这种不专业的说法，只问：“那中间最好吗？”
    江遥本来想回答大概率是，话到嘴边却停住。她重新调整食物位置和环境变化速度，很快发现并不存在一个永远最好的“中间值”。食物长期固定时，保留更久的记忆有利于稳定利用好路线；如果食物位置频繁变化，过强的记忆反而拖慢适应。所谓合适的记忆长度，取决于世界自己变化得有多快。
    这一点让她想了很久。
    如果环境一天才变一次，记住半天也许是优势；如果环境每分钟都在变化，半天的记忆就可能成为负担。一个系统究竟应该多稳定、多善变，并不能脱离它生活的世界单独判断。她没有在草稿上写“适应性”或者“动态环境”这些词，只画了两条时间线，一条代表外部世界变化的速度，另一条代表群体遗忘旧痕迹的速度，然后在两条线之间画了一个问号。
    下午的任务更有意思。老师把模拟中的一个规则改掉：不允许蚂蚁直接“偏爱痕迹最多的方向”，只能让它们根据附近少量信息调整一点点方向。系统仍然能形成路线，却慢得多，而且经常在两条接近的道路之间来回摇摆。有人据此认为“全局智能”其实只是局部反馈的放大，江遥却觉得这句话仍然太快。局部反馈当然重要，可不是任何反馈都会产生有用的结果。把“越多人走越吸引人”稍微调得过强，系统会很快锁死；调得太弱，系统又无法形成稳定结构。真正难的不是说“简单规则可以产生复杂行为”，而是为什么某些简单规则能长出有用的复杂，而另外一些只能长出噪声、僵化甚至灾难。
    顾老师直到最后二十分钟，才在黑板上写下“涌现”两个字。
    他没有把它定义成一句需要记忆的话，只说：“你们今天看到的不是‘很多简单东西放在一起就一定会聪明’，更不是复杂系统自动高明。真正的问题是，什么时候局部互动能形成比个体更高一层的稳定结构，什么时候只是把错误放大。”
    江遥觉得这比“蚂蚁很聪明”重要得多。
    下课以后，陆徊跟她一起往外走，路过楼梯口时忽然问：“如果群体最后找到一条好路，那能不能说这个群体知道路？”
    江遥没有马上回答。他们已经见过很多类似的语言陷阱：一个模型准确识别图片，人会说它“看见了”；一群蚂蚁形成路线，人会说它“知道”；一排振子同步，人会说它们“协调”。这些词在人类生活里太自然，以至于一旦拿去描述别的系统，就很容易把自己的经验一起塞进去。
    她想了一会儿，说：“至少可以先说它表现得像知道。”
    “这不是绕开问题吗？”
    “是。”江遥承认，“但我现在不知道‘知道’应该从哪里开始算。”
    陆徊笑了：“终于有你不急着定义的词了。”
    江遥踢了一下台阶边缘的雪：“我现在改了。”
    “暂时。”
    “你闭嘴。”
    两个人走到食堂门口便分开。江遥没有注意到，自己整整一下午都没有想过核心组第七名，也没有计算这堂课可能在下一轮筛选里值多少分。这个问题让她感兴趣的方式已经和竞赛题不同：不是因为里面藏着一个难解的答案，而是她第一次觉得，连问题边界都没有画清楚。
    原既白那边的机器学习项目也正卡在一个边界上，只不过要狼狈得多。
    他们终于做出了第一版“自动找模型弱点”的测试程序。为了避免程序简单地把图片毁坏到人也无法识别，原既白和宋弈加入了几条限制：主体形状不能大幅改变，关键区域不能被直接抹掉，整体视觉差异控制在一个范围内。程序会在这些限制之内不断尝试轻微修改，一旦发现某种变化特别容易让模型改答案，就继续沿着这个方向搜索。
    第一批结果让他们很兴奋。几张在人看来几乎没变的豆子照片，仅仅调整背景细节和局部纹理，模型置信度就从接近百分之九十掉到不足百分之四十。其中一张甚至仍能被班上所有同学毫不犹豫地认成同一类豆子，模型却完全换了类别。宋弈把前后两张图片放大到满屏，来回切换了好几次，最后说：“我真看不出区别。”
    原既白也看不出。
    这本来应该是他们想要的结果，可等程序继续跑了几小时，新的麻烦出现了。它开始越来越擅长利用他们那几条“人仍觉得图片差不多”的限制边界，专门制造一些肉眼很难察觉、统计上却异常精确的细小纹理。结果确实能骗过模型，却离真实世界越来越远。正常相机不会这样改变豆子，正常光照也不会产生那种纹理，程序只是发现了一条人类测试规则没有堵住的缝，然后拼命从那里钻出去。
    宋弈看着一整页这种古怪样本，说：“我们造了个作弊专家。”
    “不是作弊。”
    “这还不算？”
    “它只是在完成我们给它的目标。”
    “那不就是更气人吗？”
    原既白没有回答，因为他也觉得更气人。
    （本章未完，请点击下一页继续阅读）第一卷少年游第八十六章无主(第2/2页)
    过去几个月里，他们已经不止一次碰到类似事情：分类模型会利用背景捷径，测试程序会利用相似度指标的漏洞，优化目标越明确，系统有时越会从设计者没有预料到的方向把目标完成得“太好”。每一次都可以单独解释成工程问题，可当这种模式重复出现以后，它开始不像偶然错误，而像一个更普遍的东西：机器并不会自动理解“我们真正想要什么”，它只会沿着实际能够被计算的目标前进。
    叶老师的视频会议安排在周四晚上。原既白把这些异常样本展示出来以后，原以为叶老师会建议他们加入更多限制，没想到他先问：“为什么一定要禁止它找这些东西？”
    宋弈愣了：“因为没现实意义。”
    “怎么知道？”
    “正常照片里不会这样变。”
    “你查过？”
    房间里安静了一下。
    他们没有。
    原既白原本也觉得这些样本只是测试程序钻空子，可叶老师一问，他才意识到自己又犯了一个熟悉错误：先按照人的直觉划定哪些变化“有意义”，再让模型服从。那些奇怪纹理或许真的不自然，也可能只是他们没见过某些压缩、传感器、打印、扫描或者数据传输条件。真正应该做的不是看到陌生结果就立刻删掉，而是把它们分成两类：一类只是数学上的漏洞，现实几乎不可能发生；另一类虽然现在看起来奇怪，却有可能暴露真正存在的脆弱性。
    叶老师说：“自动测试的价值，不只是替你出更多题。它有时候会出你觉得不该出的题。你要做的是判断，那是无聊的漏洞，还是你自己的想象范围太窄。”
    原既白把这句话记下来，却没有立刻把它放进报告。他先和宋弈挑出十几个最奇怪的样本，尝试用真实图像处理过程重现：重新压缩、截图、打印再拍、改变摄像头锐化、低光照下增加噪声。大部分极端模式确实无法自然出现，可以暂时归入“测试器漏洞”；但其中两类变化却在真实处理链里找到了近似版本。模型在这些现实版本上的性能也明显下降。
    这次原既白没有因为找到一个新结构就急着往上总结。他只在实验记录里写：**自动搜索发现的异常中，至少有一部分对应真实采集过程；剩余部分尚不能确定是否具有现实意义。**
    宋弈看完说：“你现在越来越会写‘不知道’了。”
    “这是进步。”
    “以前你最讨厌这三个字。”
    “现在也讨厌。”
    宋弈笑起来。
    那天回宿舍已经接近熄灯，原既白才看见江遥下午发来的消息。她没有讲完整的蚂蚁模型，只问了一个很简单的问题：“一群人都不知道哪条路最近，最后却可能走出一条比较短的路，那是谁选的？”
    原既白洗完脸以后坐到床边，把问题又看了一遍。他第一反应当然是“系统”，紧接着便意识到这和回答“群体”一样，只是换了一个词，并没有解释任何东西。他问她具体规则，江遥把“走过留下痕迹、后来更容易沿着痕迹走、痕迹会慢慢淡掉”这几件事说了。
    原既白很快抓到其中的反馈结构：“短路往返得快，所以单位时间强化次数更多。”
    “对。”
    “那不就是正反馈加遗忘？”
    江遥隔了一会儿才回：“这句话对，但是不好玩。”
    原既白盯着屏幕：“为什么？”
    “因为你一说完，好像已经解释完了。”
    他本来想反驳，又把那几条规则重新想了一遍。如果只说“正反馈加遗忘”，当然能概括机制，却会掩盖一些真正麻烦的细节：为什么反馈太强会锁死错误路线，为什么遗忘太快又什么都学不到，为什么环境改变速度会决定最佳记忆长度。一个高层概念如果太早出现，有时确实会让人误以为下面的问题已经被解决。
    他回：“那你怎么说？”
    江遥发来一句：“快的路回来得早，错的路如果没人再走会慢慢淡掉。”
    原既白看着这句话，几乎立刻明白为什么它更好。一个没学过复杂系统的人也能顺着这两件事往下想，而懂的人又会看到里面的反馈、竞争、时间尺度和路径依赖。
    他回：“这个比较好。”
    江遥很快发来：“顾老师说的，不是我。”
    “收回表扬。”
    “已经截图。”
    两个人又聊了一会儿，话题慢慢从蚂蚁转到原既白的测试程序。江遥听完“测试器为了让模型出错，自己找到一堆奇怪图片”的事情，问了一个让原既白沉默几秒的问题：“那它现在和你的模型有什么区别？”
    “什么意思？”
    “模型为了分类准确，会找你没想到的线索；测试器为了让模型出错，也会找你没想到的方法。你觉得前一个是在学错东西，后一个是在钻规则漏洞。可对它们自己来说，不都是在完成目标吗？”
    原既白看着这几句话，没有马上回答。
    这当然不能简单说成两者一样。一个在学习数据中的区分方式，一个在搜索能改变输出的扰动，机制不同，目的也不同。可江遥真正指出的不是技术等价，而是设计者的视角：人总倾向于把符合自己预期的优化叫“学会”，把不符合预期的优化叫“钻空子”，仿佛系统应该自动知道哪一条路才是我们心里真正认可的路。
    他最后回复：“可能区别不在它们有没有完成目标，而在我们有没有把真正的目标写进去。”
    江遥问：“真正的目标写得进去吗？”
    原既白没有立即打字。
    如果任务只是豆子分类，可以慢慢补充边界；可一旦问题复杂到招聘、医疗、交通甚至人与人的判断，“真正目标”本身也许就是争论的一部分。谁来决定什么是重要的，谁承担错误的代价，哪些东西允许系统利用，哪些东西即使能提高准确率也不应该利用，这些都不是把损失函数再改几个参数就自然消失的问题。
    他写了一大段，又全部删掉。
    最后只回：“不知道。”
    江遥发来一只猫点头的表情。
    这个“点头”让原既白有点不爽。他问：“你很满意？”
    “嗯。”
    “为什么？”
    “你最近会说不知道了。”
    这句话和宋弈白天说的一模一样。
    原既白决定不回。
    周末的训练营第一次允许核心组半天自由活动。江遥本来想睡觉，结果九点不到就醒了。韩思遥和简宁都还没起，她轻手轻脚下床，拿着绿色燕子本去了训练中心后面的小院。雪已经化掉一半，树下露出湿黑的泥土，有几只麻雀在没有完全融化的雪边跳来跳去。
    她把前几天关于蚂蚁的那两条时间线重新画了一遍：世界变化得多快，群体忘得多快。画完以后，她突然想到，人其实也一直生活在这样的两个尺度里。太快忘记会重复错误，太久抓住旧经验又可能看不见世界已经变了。这个想法很容易被写成一句漂亮的话，她已经能感觉到自己下一句会写什么，于是干脆停住，没有继续。
    她翻到最后一页。
    绿色燕子本终于只剩这一页了。
    从十四岁生日拿到它，到现在已经过去几年。前面写满数学式、物理草图、车票时间、训练排名、几个电话号码、被划掉的猜想，还有原既白那只难看的燕子。一本本子装不下一个人的几年，只装下她当时碰巧觉得值得写的那些东西。许多事情没有留下来，却并不意味着没有发生；留下来的东西也并不天然更重要。
    江遥把笔尖放在最后一页顶端，想了很久。
    最终没有写“智能”，没有写“涌现”，也没有写核心组。
    她只写了日期，然后记下一个问题：
    **一个东西如果没有任何部分知道全局，它还能不能真正知道些什么？**
    写完以后，她合上本子。
    远处训练楼里有人开窗，冷空气把窗帘吹出来一点，很快又缩回去。院门外有外卖骑手停下来确认地址，保安隔着玻璃指了指另一栋楼。所有人都在做自己的小事，没有谁知道整个训练中心这一刻发生着什么。
    江遥把本子放进外套口袋，回宿舍吃早饭。

一秒记住【882小说网】
882xsw.com，更新快，无弹窗！

章节报错（免登陆）

验证码：提交关闭

第一卷少年游 第八十六章无主

第一卷少年游第八十六章无主