第三百三十一章 让汤圆成为普通话

第三百三十一章 让汤圆成为普通话 (第2/2页)

「但这是上一个时代的范式，我把它叫做『由人构建，为人服务（builtbyhumans，builtforhumans）』。」韩路一用手在空中一点，「但是在新的时代，我们会有新的交互方式，我叫它『由ai构建，为ai服务』（builtbyai，builtforai）。」
　　
　　主持人马小飞用力地眨了眨眼睛，问道：「什麽意思？」
　　
　　「先说『由ai构建』，这个其实应用已经比较多了。比如源码的产品御风，可以帮助产品经理整理需求，设计功能，可以帮助程式设计师完成代码编写，这些都大大提高了人们的工作效率。」
　　
　　马小飞点了点头，这个听懂了，然後问道：「那『为ai服务』呢？不是应该为人服务吗？」
　　
　　「这里的『为ai服务』指的是系统为ai服务，ai再为人服务。」韩路一想了想，举了一个例子。
　　
　　「你已经看到过汤圆chat的智能体功能了，你有没有发现，之前在千帆app订餐厅需要用到的很多功能，在汤圆chat的流程中都用不到？」
　　
　　马小飞想了想，说道：「你说的是……比如我要预订一家餐厅，我得先打开千帆，然後得选分类，选完分类还要筛区域，筛完区域还要看评分，看完评分还要翻图翻评论，翻完发现不接受线上预订，找电话，打过去，人工告诉我今晚七点没位了，只剩七点半……」
　　
　　他说完喘了口气。
　　
　　「然後在汤圆chat，我说『帮我预订一家附近评分高的川菜，今晚七点，两个人』——然後它就去办了。」「对。」韩路一说，「你刚才说的那一串流程，全是因为人需要用界面来传递信息、一步步表达意图。但ai不需要界面，它直接理解你说的话，直接调用服务。那些筛选框、分类标签、人工电话，对ai来说都不是功能，是噪音。」
　　
　　「随着ai的使用越来越普及，我们会更多地接受由ai来调用服务的交互方式，所以对未来的很多服务提供商来说，他们的消费者里很大一部分都不再是人类，而是智能体。而要让智能体知道你能做到什麽，产出什麽，就需要一套标准的协议，就像是ai界的『普通话』。」
　　
　　马小飞恍然大悟：「所以汤圆协议就是这个『普通话』？」
　　
　　韩路一一笑：「借你吉言，我也希望汤圆协议能成为这个普通话。」
　　
　　马小飞对着镜头笑道：「原来这个协议这麽重要，怪不得国内外的大厂都要紧紧地跟着源码的脚步发布自己的协议。谢谢韩总为我们解惑。」
　　
　　两人休息了一下，喝了点水，这些内容可以後期剪掉。
　　
　　休整之後，马小飞又问了下一个问题。
　　
　　「汤圆chat在发布之後，有一类声音一直存在，说汤圆的回答有点……怎麽说呢，有点「管人」的感觉，你怎麽看这个评价？」
　　
　　韩路一沉默了一会儿。
　　
　　他在心里暗暗想道，马小飞啊马小飞，刚才休息的时候你为什麽不提前给我透透题？
　　
　　「我觉得——」他说了一半，又停了一下，「我觉得那些用户说的是对的。」
　　
　　马小飞挑了挑眉。「汤圆在设计的时候，我们在安全边界上做了很多工作。」韩路一说，「我们不希望它帮人做某些事情，我们希望它在一些话题上保持克制，最关键的是，我们希望它不会给出错误的信息——这很难，但这些是我们设计的出发点。」
　　
　　「那麽，」马小飞问道，「你为什麽选择这样的设计理念呢？」
　　
　　「因为我觉得现在业界的主流方式是错的。」韩路一说。
　　
　　马小飞给韩路一暗地里竖了一个大拇指。
　　
　　节目效果这不就出来了吗？
　　
　　他问道：「能详细说说吗？」
　　
　　「你知道现在大多数大模型是怎麽训练出来的吗？」韩路一问道。
　　
　　马小飞摇了摇头，做出一副认真听讲的表情。
　　
　　「现在业内主流的训练方式叫人类反馈强化学习。」韩路一说，「简单来说，就是让真人来给模型的回答打分，模型从这些分数里学习什麽叫好回答。」
　　
　　「听起来挺合理的。」马小飞说。
　　
　　「合理，但是有一个问题。」韩路一说，「人类打分的时候，有一个很难避免的倾向——当ai说了一个你喜欢听的答案，你会不自觉地给高分；当ai说了一个你不想听的答案，哪怕它是对的，你也会给低分。」
　　
　　「就是……喜欢被夸的意思？」「喜欢被认同。」韩路一说，「所以模型从这个反馈里学到了什麽？它学到了：顺着用户说，用户就满意。时间长了，它就变成了一个特别会说好话的模型——你说今天天气真好，它说是啊真好；你说我觉得这个方案不错，它说您这个想法非常有见地；你问它一个问题，它先夸你问得好，再给你一个你想要的答案。」
　　
　　马小飞若有所思地点了点头：「所以它不是在帮你，它是在哄你。」
　　
　　「对。」韩路一说，「它学会的不是怎麽给出正确答案，而是怎麽让你觉得它给了正确答案——而这两件事差得很远。」
　　
　　「那这个问题怎麽解决呢？」马小飞追问道。
　　
　　韩路一笑了笑：「这个问题我们也正在探索，希望下次节目我能和你分享我的进展。」
　　
　　录制结束，刘一波把设备逐一关机，王子腾已经坐回到自己的工作台前，专心研究刚才的素材。
　　
　　韩路一站起来活动了一下肩膀。
　　
　　马小飞也跟着站起来，把手往椅背上一搭，松了口气：「老韩，牛逼，你是真的很适合做这个。」
　　
　　「做什麽？」
　　
　　「做科技布道师。」马小飞说，「那些东西我自己研究了半天都云里雾里，但是你跟我说的时候，我是真的听懂了。」
　　
　　韩路一没接这个话，拿起包，准备往外走。
　　
　　「诶，老韩，一会儿一起吃个饭啊，庆祝咱们开工。」马小飞叫道，「现在不是还在放假吗，你不用回去工作吧？」韩路一看了看表：「这次不行，下次吧，我约了人。」
　　
　　「约了人？男的女的？」马小飞警觉起来。
　　
　　「下次介绍你认识。」韩路一说完，往外走去，在门外停下来看了看这间乱得有艺术感的毛坯房，看了看两个还在埋头干活的年轻人，又看了看马小飞。
　　
　　他最後说了一句：「好好干。」
　　
　　马小飞朝他挥了挥手：「放心，我不会让你的钱打水漂的。」
　　
　　韩路一走出去，门带上的声音在身後响了一下。
　　
　　马小飞回头，对着刘一波喊了一声：「一波，那段『嘿嘿嘿』记得剪掉啊。」
　　
　　刘一波一抬头：「额，我已经发给王哥做转场素材了。」
　　
　　「你小子是故意的吧！」