推理算力降到三百四十五分之一,接单的成本表得重写
乌鸦小编 发表于:2026-11-18 23:21 复制链接 发表新帖
阅读数:354
一份预印本上线当天就冲到了技术社区首页。内容是一套新的推理方法,用在数独这种需要反复试错的求解任务上,把最高难度题集的准确率做到九十九点九,同时把推理阶段消耗的算力压到此前最好方法的百分之一都不到,具体倍数是三百四十五倍。作者把方法拆成三个可替换的零件,外部打分、梯度取向、停止判断,每一个都能单独拿出来做实验,代码与数据一并公开,同行可以按同样的基准复现。

打分方式是把一整盘棋的当前局面交给一个专门训练的小网络,让它输出一个能量值。能量越低,代表这个中间状态越接近正确结果。梯度给出的是往哪个方向改动能让能量继续下降,于是系统不再盲目地试,而是在每一步都算一个下降方向,只改一点点。这套流程把需要穷举的问题变成了连续优化的问题,搜索空间被切成了可导的路径,每走一步都有明确的依据,而不是凭运气填一个数字再看后面能不能对上。

停止条件决定了能不能省下算力。系统每走一步都检查梯度的模长,模长小于一个阈值就停下来,把当前的局面当作候选答案。同一道题,系统会同时起好几条轨迹,每条轨迹各自收敛,收敛后用能量最低的那一条当选。这个机制把额外的算力投在了更多起点上,而不是把单条轨迹走到极限,实测里自适应停止一项就省下十点九倍的浮点运算量,轨迹数量增加带来的开销也被同一项机制抵掉了。

训练量也小得反常。为了做对照,作者把参数压到一百八十万,对比此前方法用的五百万到一千万参数,模型的体积小了两个数量级。在小数据上训练,依然能在同一批难题目上跑到九十九点九的准确率,说明这套方法不靠堆数据,靠的是把问题的结构写进推理方式里,训练只需要教会那个打分函数认清好坏局面,剩下的判断交给推理阶段的梯度去完成,训练集的规模不再是天花板。

误差为成本换算提供了直接依据。原来的方法要采样一百二十八次才把准确率推到上限,新方法五次就做到了,采样次数少了二十五倍。要在同等精度下对比,新方法用七倍更少的迭代、四十三倍更少的采样,最终在难档题集上把算力压到三百四十五分之一。这些倍数是论文里自己报的数字,作者也标注了在更大规模任务上尚未验证,迁移到图像、路径规划这种任务还需要再试。

小团队该把这组倍数当成报价依据。接一类需要反复验证的活,比如票据识别、处方核对、单据稽核,过去收费要按显卡小时算,现在可以按单件报价,因为单位任务的算力成本降了一到两个数量级。算力便宜下来,接单的门槛从硬件转向算法,谁能把打分与停止这套思路调好,谁就能在同样的机器上接更多的单,成本表里最贵的那一项正在被替换,报价可以比同行低三成还留出利润。

创业找资源,上乌鸦部落。
本页内容由网友自行在乌鸦部落发布,本站仅提供帖文、图片存储空间服务,帖文(图片)发布者应自行负责所上传帖文(图片)涉及的法律责任,本站对帖文真实性、版权等概不负责,亦不承担任何法律责任。
0 条评论
您需要登录后才可以回帖 登录 | 立即注册
高级

关闭

乌鸦部落