第995章 十五亿参数终于横空出世 (第2/2页)

任少卿拿起专用设备，向中关村理想国际大厦发起加密视频请求。
　　
　　十几秒后，画面接通。
　　
　　顾屿刚结束一场业务会议，桌面还放着回音商城的双十一履约报告。
　　
　　看到视频背景里的测试大厅，他将文件合上。
　　
　　“出结果了？”
　　
　　“十五亿参数版本，跑通了。”
　　
　　任少卿把核心数据调到共享页面。
　　
　　“训练使用了目前完成清洗的一千零八十亿TOken。张量并行和数据并行运行正常，模型权重已经完成合并。”
　　
　　“和一亿五千万参数的天问一号相比，通用语料困惑度下降百分之三十七。长文本生成、摘要和翻译能力都有明显提高。”
　　
　　顾屿看完几项测试结果，问道：“稳定性呢？”
　　
　　楼天城凑到镜头前。
　　
　　“连续推理六小时，没有发生节点崩溃。”
　　
　　“但现在的响应速度不够快。生成五百字平均要十五秒。如果并发用户超过两百，服务器压力会急剧上升。”
　　
　　“显存利用率也不理想。我还能再压百分之二十左右。”
　　
　　顾屿点了点头。
　　
　　这个版本当然算不上成熟产品。
　　
　　十五亿参数放在后世，甚至塞不满一台消费级显卡。
　　
　　可现在才是2015年，业内主流仍在围绕循环神经网络反复优化。
　　
　　九天实验室已经提前摸到了另一条路。
　　
　　“微光计划的数据怎么样？”
　　
　　任少卿将数据后台切换出来。
　　
　　“第一批三千多人已经开始工作，目前每天可以完成八百万条基础任务。质量比纯脚本清洗高很多，尤其是文本分类和事实核对。”
　　
　　“等后续培训完成，日处理量还能增加。”
　　
　　顾屿提醒道：“别只盯数量。人工审核、交叉抽检和任务回溯都要保留。”
　　
　　“标错一条数据不算什么。几十万条同类错误被模型学进去，返工成本会很高。”
　　
　　“明白，我们已经启用了三层抽检。”
　　
　　任少卿把一个内网地址发送过去。
　　
　　“这是刚搭好的演示网站，只能通过集团专线访问。你可以自己输入内容，它会直接调用天问二号。”
　　
　　顾屿打开链接。
　　
　　页面非常简陋，左边是输入框，右边是参数设置。
　　
　　除了生成长度和随机度，几乎没有多余功能。
　　
　　他先输入了一段杂乱的会议记录，要求模型整理重点。
　　
　　页面等待数秒，很快生成了项目进度、主要问题、责任部门和截止时间。
　　
　　部分表达仍显生硬，关键信息却没有遗漏。
　　
　　顾屿又扔进去一份商城客服日志，甚至包含了昨天刚刚爆发的“黑公关抹黑星火充电宝”的负面评论。
　　
　　模型不仅自动将投诉分成物流延迟、商品破损、价格争议和蓄意抹黑四类，甚至精准提炼出了水军使用的高频恐吓词汇，并给出了每类问题的出现比例。
　　
　　顾屿看着屏幕上的分类结果，又随手多测试了几轮。
　　
　　模型并非每次都正确，有时会误解指令，也会在资料不足时自行补充内容。
　　
　　但它已经展现出了真真切切的可用价值，不再是实验室里只能用来展示曲线的技术样品。
　　
　　任少卿将最后一份测试报告通过专线传了过来。
　　
　　“验证了你的战略。‘预测下一个TOken’这条路，我们走通了。”
　　
　　“不过在正式进入下一阶段、冲击百亿参数之前，我们想听听你的意见。”他看着摄像头，神色严肃了几分，
　　
　　“模型幻觉和胡说八道的问题，单靠堆语料似乎无法根除，还要继续在这个方向死磕吗？”
　　
　　顾屿没有立刻回答。
　　
　　他盯着桌面上那份商城客服日志，又看了一眼大屏幕上跳动的水军提炼词汇，心中已然有了决断。
　　
　　“参数继续往上压，算力资源我来保证。”顾屿敲了敲桌面，
　　
　　“不过，既然模型已经具备了逻辑归纳的雏形，就不能只让它待在温室里。从今天开始，天问要同步开启应用部署和训练。”
　　
　　视频那头，几名核心研究员都坐直了身体。
　　
　　“我们现在手头就有最庞大、最现成的需求。”顾屿指着刚才的测试页面，
　　
　　“立刻把天问二号的一个分支端口接入回音商城的客服系统和集团舆情监控中心。既然并发上限只有两百，那就好钢用在刀刃上。作为COpilOt（副驾驶）后台接入客诉系统，不直接面向消费者，而是生成标准话术辅助我们的人工客服，把单人处理效率提高十倍。同时，抽出一百个并发额度接入舆情监控中心，让它去庞杂的数据流里排查那些雷同的抹黑话术和水军群控账号！”
　　
　　“至于解决幻觉的方法，既然我们手握三千多名最优秀的人工标注员，那就给大模型加上教鞭。”
　　
　　“我们要引入RLHF，也就是基于人类反馈的强化学习。不管是做智能客服还是查黑公关水军，我要让天问不仅会预测下一个词，还要在真实的实战中，彻底学会迎合人类的价值观与规则判断！”
　　
　　PS：感谢【孤苦伶仃(伶)】打赏的【大神认证】，加更一章