kylearn
大模型基础

推理

Inference

AI'学成之后真正干活、回答你问题'的那个过程,相当于学生毕业后上岗考试答题,而不是在学校念书。

先打个比方

想象一个医学生,寒窗十年啃完了所有教科书——这叫"训练"。但你真去看病时,他坐在诊室里听你说症状、当场给你开方子,这个"上岗干活"的过程,才叫推理

AI 也一样。它在工厂里被海量数据"喂"成型之后,剩下一辈子干的活几乎都是推理:你问一句,它当场调动学过的本事,一个字一个字把答案"算"给你。学习是一次性的,干活是天天的。

它到底是什么

说白了,推理就是 AI 不再学新东西、只用已有本事回答你的那一刻。

它的工作方式有点像接龙:根据你的问题和已经写出的内容,预测"下一个最该出现的字"是什么,写一个、再看一眼、再写下一个,循环到说完为止。所以你会看到 AI 的回答是一个字一个字"蹦"出来的——那不是装样子,是它真的在一边算一边吐。

为什么和你有关

这里藏着一个很多人没意识到的事:你每点一次"发送",机房里就有一堆芯片在为你这一句话飞速运算、实打实地烧电。

训练贵,但只花一次;推理便宜,却要乘以全世界几亿人每天的几十亿次提问。所以真正天文数字的成本,是推理。这也是为什么各大公司拼了命抢芯片、建机房——抢的不是"教 AI"的算力,是"让 AI 给你干活"的算力。

下次用 AI 时不妨记着:你按下回车的那一下,就是在亲手点燃一次推理。问得清楚点,这份算力就没白烧。 ⚡

本文为 AI 整理的科普解读,可能有误,仅供入门参考。

没看懂?让 AI 再讲一遍:

延伸阅读:可在公众号「数字生命卡兹克」「Datawhale」搜同名概念的科普文章。