第四百四十章 系统一和系统二 (第2/2页)

韩路一在旁边也听懂了：江松然虽说了两个问题，本质却还是速度慢——因为慢，不敢每次调度都调用一次，精度便随之漂移。
　　
　　“文渊，这就是我专门把你叫过来的原因。”韩路一开口道，“上次我们聊过，给汤圆做一个轻量版，你觉得能不能解决这个问题？”
　　
　　专业旗舰版验证过性能后，再推出参数更小、能力稍弱但成本低很多的轻量版，本来就是业内通行做法。
　　
　　这类轻量版一般通过蒸馏原始旗舰模型后训练出来。所谓蒸馏，是把一些高难度问题输入旗舰模型，让它给出答案，再用这些问题和答案作为训练集，给轻量模型做后训练。这样能以较低成本让轻量模型拥有旗舰模型70%到80%的能力，算是比较有性价比的做法。
　　
　　当然，也不一定非蒸馏自家旗舰模型，用同样方法蒸馏别家旗舰模型也可以。自汤圆API开放以来，起源集团已经发现并捕捉了不少试图蒸馏汤圆1.0的行为，很多请求来自美国。
　　
　　听完韩路一的话，赵文渊沉吟片刻。
　　
　　轻量模型在这方面确实有帮助，甚至可以像当初的汤圆0.1那样，用一个极小模型来预测任务复杂度——只要保证预测精度别掉得太离谱。
　　
　　但是——
　　
　　赵文渊开口道：“你们有没有听说过系统一和系统二？”
　　
　　韩路一和江松然对视一眼，同时点头。
　　
　　系统一（System1）和系统二（System2）的概念源自诺贝尔经济学奖得主丹尼尔·卡尼曼的研究，在他的科普畅销书《思考，快与慢》中有过详细阐述。
　　
　　人的大脑在思考时有两套系统：一种运转极快，善于快速判断，但因没有激发深度思考，也容易被噪音干扰，这叫系统一；另一种叫系统二，需要人主动花费精力仔细思考，耗时更长，最终结论也更准确。
　　
　　这本书当然不是计算机领域著作，但它足够畅销、足够有名，两人恰好都读过。
　　
　　其实，赵文渊和研究者同行们当初提出思维链（CoT，ChainofThought）的概念，正是借鉴了人脑系统二。
　　
　　只是不知道他突然提这个做什么？
　　
　　韩路一说道：“这和我们讨论的内容有什么关系？你是想说，我们可以借助系统一来快速估算任务复杂程度？”
　　
　　说到这儿，韩路一突然意识到什么，问道：“我们刚才讨论的用轻量模型做路由，不就是系统一的思路吗？”
　　
　　哪知赵文渊摇了摇头，说道：“韩总，您说得对，但还不够。您知道在人脑的决策系统里，系统一之所以能比系统二更快，还有一个重要原因是什么吗？”