江倾故意放慢了语速,确保即使是非专业人士也能跟上他的思路。
“简单说,我们不太关心它中间是怎么想的,是用了九九乘法表还是列了一堆方程式,我们只在乎最后答案对不对。答案对了,就给吃,答案错了,就没。”
他摊摊手,语气诙谐。
“就这么简单粗暴。”
台下许多技术专家露出了深思的表情。
这种只以最终结果为导向的强化学习方式,听起来简单,但实际操作起来难度极高,需要对奖励信号的设计与优化有极其深刻的理解。
“我们发现,当你只告诉它目标,而不限制路径时,这个学生为了吃到,反而会自己琢磨出各种各样,有时甚至我们都没想到的奇妙解题思路。”
江倾笑着指了指自己的脑袋。
“它自我演化出了更高级的推理能力。这叫……嗯,不管黑猫白猫,抓到老鼠就是好猫。”
一句接地气的俗语,引得全场爆发出大笑声。
无论是听懂的技术宅,还是没完全听懂的普通观众,都被这个巧妙的比喻逗乐,同时也理解了核心思想。
姚启智院士边笑边对旁边的黄铁軍低声感叹。
“化繁为简,大道至简啊!这个思路,妙!”
“没错,这个思路太惊艳了!”
黄铁軍满脸赞同,说话时眼睛也未曾从台上移开过,令姚启智不禁摇头失笑。
江倾等笑声稍歇,继续分享。
“当然,光有思路还不够,还得有个好身板。我们给万象设计了一个新的大脑结构,名为mla,即多维层级注意力机制。”
他点了点自己的太阳穴。
“这个新结构,效率更高,相当于用更小的脑容量,即参数,干更多的活儿,表现还更好。我们并没有一味地去堆砌参数,追求那个吓人的数字。”
李彦弘闻言,身体微微前倾,眼神认真。
参数规模一直是衡量大模型能力的关键指标之一,无问科技另辟蹊径,在算法与架构优化上取得突破,这意味着更低的训练推理成本,以及更广阔的应用前景。
他低声对身边的马化藤惊叹。
“如果这是真的,商业化的潜力太大了!”
马化藤面色凝重地点点头,手指无意识地在扶手上敲击,快速计算着这其中的影响。
“还有数据。”
江倾的分享并没有停下。
“大家都知道,训练ai需要海量的数据,但不是所有数据都是优质营养。我们的方法呢,更像是炼数据而不是堆数据。”
他做了一个提炼的动作。
“我们有一套技术,能自动从数据的海洋里,把那些最有价值、最精华的片段像淘金一样筛出来,专门喂给模型。这样训练效率自然就大大提升了。”
张一铭听到这里,忍不住深吸了一口气。
数据清洗与标注一直是ai训练中耗时耗力最大的环节之一,无问科技的方法如果真能高效自动化这个过程,价值不可估量。
“最后是工程实现。”
江倾的语气里透着自豪。