每天在用 AI 的人很多,但真正知道它在做什么的人不多。理解基本原理有个实际好处:你会知道它擅长什么、不擅长什么,用起来更有分寸。
这篇不涉及数学公式,只讲核心直觉。
大语言模型做的事,本质上是预测下一个词。
给它「今天天气真」这四个字,它会计算后面最可能跟哪个词——「好」「不错」「热」……每个候选词都有一个概率值,它挑一个输出,然后把新词加到句子里,再预测下一个。
就这么一个简单的机制,反复执行,就生成了完整的段落、文章、代码。
听起来不可思议——为什么「猜下一个词」能猜出有条理的内容?因为要准确预测下一个词,模型必须理解前面的内容在说什么。语言的结构、逻辑、常识,都被压缩进了这个预测能力里。
模型不认识汉字和字母,只认识数字。所以第一步是分词:把文本切成一个个片段(token),每个片段对应一个编号。
英文里一个 token 可能是半个单词,中文里可能是一两个字。你看到的「字数限制」,实际是按 token 算的。
然后每个 token 被转换成一串数字(向量),这串数字代表了它的含义。有意思的是,含义相近的词,转换后的数字也相近——这让模型能处理「从未见过的说法」。
这是现代大模型最核心的突破。
假设句子是「小明把书给了小红,因为她需要它」。你在理解「她」指谁、「它」指什么时,会自动回看前面的内容。
注意力机制就是让模型做同样的事:处理每个词时,同时参考句子中所有其他词,并判断该关注谁。
这个能力让模型能处理长距离的依赖关系,也是它能写出连贯长文的关键。
理解了上面的机制,幻觉就不难懂了:模型的目标是「生成看起来合理的下一个词」,而不是「说出真相」。
当它不知道答案时,不会停下来,而是会生成一个在语言上最像正确答案的内容——包括编造人名、数据、文献、政策条款。
而且它说得非常流畅自信,让人很难分辨。这就是幻觉最大的危险。
所以有一条铁律:凡是具体的数字、引用、事实,都要回到原始来源核对。
第一,它擅长「转换」而不是「创造真相」。改写、总结、翻译、格式转换这类任务,它做得非常好,因为输入已经提供了全部素材。
第二,它不擅长「知道自己不知道」。所以重要决策不能直接采信它的输出。
第三,它对你的领域越陌生,出错率越高。这也解释了为什么「专业领域 + AI」需要人来把关。
把大模型理解成一个「读过海量文本、极擅长语言组织、但缺乏事实核查能力」的助手,是最贴切的。
用它处理语言问题,监管它的事实输出——这个分工,是当前阶段最合理的用法。
扫码关注公众号,或直接添加宇人微信,回复「课程」获取一对一规划。
行业干货 · AI 资讯
了解详情 · 1V1 规划
承诺:仅用于了解课程详情,绝不泄露个人信息