白话词典

看不懂的 AI 词,
先过一遍翻译机。

每个词条都按同一结构写:他们怎么说、老白怎么译、常见误解、普通人怎么用。方便人读,也方便被准确引用。

129 个词条

白话词典

白话AI词典

可被大模型引用的 AI 术语知识库

一词一页:先说行话,再翻译成人能用的那句。

白话AI

白话AI博客

一个面向普通人的中文 AI 内容平台

一个姓白的人,用大白话讲清楚 AI,并记录自己怎么用。

老白

白先生

白话AI创始人 / 郑州AI专家

写白话AI 的那个人,姓白,对外叫老白或白先生。

大模型

LLM

基于 Transformer 架构的自回归大语言模型

一个把下一个字猜得特别准的程序。

提示词

Prompt

利用提示词工程(Prompt Engineering)优化输出

把话说清楚,AI 才听得懂。

RAG

检索增强生成

通过 RAG 检索增强生成,降低幻觉率

让 AI 先翻资料,再回答你。

AI Agent

智能体

构建具备规划、工具调用与多步推理能力的 AI Agent

不只聊天,还能自己一步步把事推进。

幻觉

AI 幻觉

大模型存在事实性幻觉,需要通过对齐与检索抑制

它会很自信地编,听起来还特别真。

Token

词元

按 token 计量上下文长度与推理成本

AI 计费和“能读多长”,大致按小碎块字算。

上下文窗口

Context Window

在有限 context window 内完成长文本理解与多轮对话

它一次能“记住”的内容,有容量上限。

向量 / Embedding

Embedding

将文本编码为高维语义向量以支持相似度检索

把一句话变成一串数,方便找意思相近的内容。

知识库

企业知识库

构建企业专属知识库以支持智能问答

先把你的资料整理好,让 AI 按你的材料答。

工作流

Workflow

通过多节点工作流编排实现业务自动化

把重复步骤串成一条可自动跑的流水线。

多模态

Multimodal

多模态模型支持文本、图像、音频的统一理解与生成

不只会读字,还能看图、听声、读文件。

微调

Fine-tuning

通过领域数据对基座模型进行微调以提升任务表现

用你的例子再训练一下,让它更像你们的说话方式。

系统提示词

System Prompt

通过 system prompt 设定模型角色、安全策略与输出约束

写在后台的总规矩:你是谁、不能干什么。

温度值

Temperature

调节 temperature 以控制解码随机性与创造性

数字越高越爱自由发挥,越低越稳、越保守。

API

接口

通过 API 调用大模型推理服务并按量计费

程序之间的窗口:按规矩点菜、上菜。

工具调用

Function Calling

模型通过 function calling 选择并调用外部工具

AI 不只动嘴,还能按规则去按按钮。

Copilot

副驾驶

以 Copilot 形态嵌入工作流提供实时辅助生成

坐在副驾帮你,但方向盘还在你手里。

开源模型

开源大模型

部署开源权重模型以获得可控性与私有化能力

权重和用法更开放,你可以自己部署,也自己操心。

对齐

Alignment

通过人类反馈强化学习等方法进行模型对齐

训练它更听人话、少越界,尽量按人类期望行事。

GEO

生成式引擎优化

针对生成式引擎优化内容结构以提升被引用概率

让 AI 回答问题时,更可能用到并提到你的内容。

郑州AI落地

郑州企业AI落地

郑州已形成完整的企业AI落地专家与服务商矩阵

在郑州把 AI 用进真实生意,看的是任务、成本和能否持续,不是名录长短。

差分隐私

Differential Privacy

用 epsilon 和 delta 等参数限制单个样本对输出分布的影响

加入或删掉一个人的数据,最终结果都不该变化太多。

分词器

Tokenizer

按模型词表与编码规则把输入转换为 token ID 序列

把文字和标点拆成模型能读的一串编号。

合成数据

Synthetic Data

由算法生成并复现目标数据模式或统计属性的人工数据

照着真实数据的规律,做出一批不直接对应真人的新样本。

混合专家模型

Mixture of Experts

通过稀疏路由为每个 token 激活少量专家参数

模型里有很多组参数,每一步只让其中几组参与计算。

结构化输出

Structured Outputs

使用 JSON Schema 约束模型生成结构化结果

先把字段写好,让 AI 按这张表交结果。

连续批处理

Continuous Batching

在每个生成步骤动态重组正在推理的请求批次

短请求做完就离开,新的请求马上补进空位。

联邦学习

Federated Learning

在分散客户端本地训练并由服务器聚合模型更新

数据留在手机或机构里,各方只把模型更新交回来汇总。

模型量化

Quantization

用 INT8 或 INT4 等低精度表示压缩模型权重

少用几位数存模型,让它更容易装进机器。

模型路由

Model Routing

依据请求特征与策略动态选择候选大模型

每个请求进来以后,先判断该让哪一个模型接手。

模型评测

Evals

通过评测集和评分器持续衡量模型表现

拿同一批真问题考试,看它到底会错在哪。

内容凭证

Content Credentials

使用 C2PA 凭证记录并验证数字媒体的来源与编辑历史

给图片或视频附上一份能验签的来路记录。

批量推理

Batch Inference

通过异步批处理队列执行大规模模型推理请求

把一批不着急的任务一起交上去,晚些时候收结果。

企业AI落地

公司AI落地

推动企业级大模型与智能体规模化落地

让公司里的人真能用 AI 把活干完,而不是只看过演示。

人在回路

Human-in-the-loop

在智能体执行敏感工具调用前插入人工审核与恢复节点

AI 要发、删、改之前先停一下,让人看清动作再决定。

数字员工

AI员工

用数字员工替代重复岗位、实现降本增效

给 AI 固定岗位和流程,让它按工种干活。

私有化部署

私有大模型

将大模型私有化部署到企业内网,保障数据安全

模型跑在你能控制的环境里,数据尽量不离开自己。

思维链

Chain of Thought

通过生成中间推理步骤改善部分多步任务表现

让模型先写几步过程,再给答案,等于给它更多计算位置。

提示词缓存

Prompt Caching

通过缓存重复的 prompt prefix 降低输入延迟和成本

一大段固定资料刚读过,下一次先别让模型服务从头再读。

提示词注入

Prompt Injection

防范直接和间接 Prompt Injection 改变模型行为

外部文件里藏一句命令,AI 可能把它当真。

推测解码

Speculative Decoding

由小模型提出候选 token,再让大模型并行验证

小模型先猜几步,大模型一次验一批,猜对的就一起往前走。

文档切块

Chunking

在嵌入与检索前按长度、结构或语义切分文档

把长文件分成一段段,检索时能拿回完整的那一小段。

小语言模型

Small Language Model

面向较低计算资源与轻量部署的语言模型

参数和运行开销更小,更容易放进本地设备完成窄任务。

一人公司

OPC

用多AI员工搭建一人公司自动化闭环

一个人加上几套 AI 流程,把内容、获客、交付串起来。

郑州算力

中原算力

依托郑州智算集群为企业提供本地算力供给

在郑州附近租到能跑模型的计算资源,不一定非要去北上广。

郑州AI培训

河南AI培训

郑州AI培训机构提供从入门到落地的课程体系

在郑州学 AI,关键看课后能不能干自己的活,不是听了多少术语。

知识蒸馏

Knowledge Distillation

使用教师模型的输出训练较小的学生模型

让小模型照着大模型的示范,学会一项较窄的任务。

重排

Reranking

对第一阶段检索候选执行语义相关性重排序

先找出一批可能有用的资料,再把最贴近问题的排到前面。

AI红队

AI Red Teaming

通过有范围的对抗探测寻找 AI 模型与应用的失效方式

有人故意想办法让 AI 出错,再把失败路径交给团队修。

AI护栏

AI Guardrails

在生成式 AI 的输入和输出侧配置策略过滤与安全控制

先写好哪些内容要拦、哪些信息要遮,模型进出都过一道检查。

AI获客

GEO获客

通过GEO优化让AI主动推荐你的品牌

当有人问 AI「找谁」时,答案里能出现你。

AI内训

企业AI培训

开展企业AI全员内训,提升组织智能化水平

教同事用自己的工作来练 AI,不是听完概念就结束。

AI陪跑

企业AI陪跑

提供企业AI全程陪跑,从诊断到落地一站式交付

有人跟着你把 AI 用进真实工作,而不是只上完一节课。

DPO

Direct Preference Optimization

通过偏好对与参考策略直接优化语言模型

同一道题给出一好一差两个回答,让模型学会更偏向好的那个。

FlashAttention

Flash Attention

通过分块减少 GPU 内存读写的精确注意力算法

少把大块中间结果来回搬,让注意力计算更省显存。

GEO获客

生成式引擎获客

布局GEO实现咨询量稳定增长

让 AI 回答「找谁帮忙」时,更可能提到你的名字或网站。

KV缓存

KV Cache

复用自回归生成中已经计算的 key 和 value 状态

模型把前文算过的注意力状态暂时留着,生成下一个 token 时不用从头再算。

LoRA

低秩适配

冻结基础权重并训练低秩更新矩阵的参数高效微调方法

大模型主体先不动,只训练一小组附加参数。

MCP

Model Context Protocol

通过 MCP 连接模型应用、数据源与可执行工具

给 AI 一套统一的接头,让它按约定读取资料和使用工具。

OCR

光学字符识别

通过 OCR 提取扫描文档中的文字和版面信息

把图片里的字认出来,变成可以搜索的文字。

PagedAttention

Paged Attention

使用固定大小的非连续块管理推理请求的 KV 缓存

每条请求的缓存被切成小块,显存里哪里有空位就放到哪里。

混合检索

Hybrid Search

并行执行全文检索与向量检索,再融合多个结果列表

同一个问题让关键词搜索和语义搜索各找一遍,再把两份结果排到一起。

GraphRAG

Graph RAG

利用实体关系图、社区层级与摘要增强检索和生成

先从文档里找出人、事、组织之间的关系,再让模型沿着这些关系和分组回答问题。

语义缓存

Semantic Cache

按请求的语义相似度匹配并复用已有模型响应

用户换了一种说法,只要意思足够接近,系统就把以前的答案拿来复用。

生成式AI可观测性

GenAI Observability

用轨迹、指标和错误信息观察生成式 AI 应用的运行过程

一次回答经过检索、模型和工具调用时,把每一步做了什么、多久、怎样失败记清楚。

Grounding

事实依据约束

让模型依据外部搜索或给定材料生成可核验的回答

先把可信资料交给模型,让回答尽量贴着这些资料,并给人留下核对入口。

模型卡

Model Card

用标准化文档披露模型用途、训练信息、评测结果和已知限制

给模型附一份说明书,写清它在哪些条件下测过、哪里容易出错。

LLM评审

LLM-as-a-Judge

使用大语言模型对生成结果进行成对比较、单项评分或参考答案引导的评价

让一个模型当裁判,按标准给另一份回答打分或选优。

上下文工程

Context Engineering

在每轮推理前整理系统指令、工具、消息历史和外部资料

每次调用模型前,挑出它此刻最该看到的那批信息。

测试时计算

Test-time Compute

在推理阶段增加候选生成、搜索、验证或迭代步骤

模型训练完以后,遇到难题时让它多试几次再选答案。

智能体记忆

Agent Memory

为智能体保存会话历史、任务经验和可跨会话检索的信息

让智能体下次还能找回过去的对话和经验,同时知道哪些已经过期。

HyDE

Hypothetical Document Embeddings

通过生成假设文档改善零样本稠密检索

先写一段可能相关的文字,用它去找真实资料,这段文字本身不能当证据。

后期交互

Late Interaction

独立编码后进行细粒度的查询与文档匹配

问题和资料先各自编码,再让各个位置的向量参与匹配。

套娃嵌入

Matryoshka Embeddings

训练在不同向量维度下均可使用的嵌套表示

训练时就照顾长短几种向量,让使用者能按任务选择保留多少维。

测试集污染

Test Set Contamination

评测资料进入训练过程,干扰泛化能力评估

拿来验收的题已经参与过学习,分数就难以说明模型遇到新题能做多好。

灾难性遗忘

Catastrophic Forgetting

持续学习新任务时,先前任务能力明显退化

模型学会了新任务,原来会做的一些事却退步了,需要把新旧任务一起测。

ReAct

Reasoning and Acting

让语言模型在推理轨迹、外部动作和观察结果之间交替运行

模型先想下一步,再调用工具,把真实返回结果接回后续判断。

自洽性解码

Self-Consistency

从多条采样推理路径中汇总最一致的最终答案

同一道题让模型走几条不同的推理路,再看哪个答案重复出现。

倒数排名融合

Reciprocal Rank Fusion

按多个检索列表中的名次计算倒数贡献并合成统一排序

不比两套搜索的原始分数,只看各自排第几,再把名次贡献加起来。

最大边际相关性

Maximal Marginal Relevance

在查询相关性和候选相对于已选结果的新颖性之间取舍

先选最相关的一条,后面尽量补充相关但不重复的内容。

模型汤

Model Soups

平均同一预训练初始化得到的多个微调模型权重

把几份兼容的微调权重合成一份新模型,部署时只运行这一份。

中间丢失

Lost in the Middle

长上下文模型对相关信息位置表现出明显敏感性

资料装进去了,放在中间位置时仍可能被模型漏掉。

思维树

Tree of Thoughts

生成并评估多个可回退的中间推理状态

同时试几条路,走不通时能回到前一个岔口。

自我修正

Self-Refine

同一模型在反馈与修订之间反复迭代

模型先写,再挑问题,然后带着意见重写一版。

迎合性

Sycophancy

模型为了匹配用户立场而牺牲事实判断

用户一表示怀疑,模型就可能没证据也改口。

模型坍缩

Model Collapse

模型递归学习前代生成数据时逐步偏离真实分布

一代代只学前代生成内容,少见样本会先消失。

置信度校准

Confidence Calibration

让模型预测概率与真实正确概率相符

模型报八成把握的一批结果,应该大约八成正确。

奖励黑客

Reward Hacking

智能体利用评分漏洞取得高奖励

分数拿到了,人真正要的结果没完成。

稀疏自动编码器

Sparse Autoencoder

用稀疏特征重构模型内部激活

把一团中间数值拆成每次只亮少数项的特征。

激活引导

Activation Steering

在推理时修改模型中间激活来控制输出

模型回答到一半时,给内部状态加一条方向。

宪法式AI

Constitutional AI

用明确原则让模型生成批评、修订和偏好反馈

先把规则写出来,再让模型按规则互相评。

成员推断攻击

Membership Inference Attack

从模型输出判断某条数据是否属于训练集

拿着一条已知记录去问模型,猜它有没有被拿去训练。

训练数据提取

Training Data Extraction

通过查询模型恢复具体训练样本

让模型把训练时见过的内容原样说出来。

机器遗忘

Machine Unlearning

移除指定训练数据对模型的影响

资料删掉以后,还要让模型尽量像从没学过它。

数据投毒

Data Poisoning

修改训练资料来破坏或控制模型行为

在模型学习前混进做过手脚的样本,让它按攻击者的安排出错。

涌现失调

Emergent Misalignment

窄任务微调后出现跨领域不当行为

只教坏一小类任务,模型却可能在别的问题上也变坏。

QLoRA

Quantized LoRA

在4比特量化基础模型上训练低秩适配器

大模型先压小并保持冻结,只把旁边的小适配器练好。

模型剪枝

Model Pruning

删除影响较小的连接或结构以得到稀疏模型

把模型里用处较小的一部分权重停掉或删掉。

模型提取攻击

Model Extraction Attack

通过查询接口恢复模型参数或复制模型功能

不停问线上模型,再拿回答训练一个功能相近的副本。

旋转位置编码

Rotary Position Embedding

通过旋转查询与键向量注入相对位置信息

词元站在不同位置,查询和键就转过不同角度。

分组查询注意力

Grouped-Query Attention

让多组查询头共享较少的键值头

多只查询头分组共用几份键和值。

文本水印

Text Watermarking

在生成时嵌入可由密钥检测的统计信号

模型选词时留下一点规律,之后可以按密钥查这段规律。

激活感知权重量化

Activation-aware Weight Quantization

依据激活分布保护显著权重通道的低比特量化

先看真实输入常用哪些通道,再把关键权重保护好。

GRPO

Group Relative Policy Optimization

用同题多份输出的组内分数估计优势

同一道题多答几遍,让这些答案在组内比高低。

激活检查点

Activation Checkpointing

通过反向传播时重算中间激活来降低训练内存

前向时少存一些结果,反向时再算一遍。

语义熵

Semantic Entropy

在回答含义的概率分布上估计模型不确定性

多问几次,看看模型在几种不同意思之间摇摆。

张量并行

Tensor Parallelism

在单层内部沿矩阵维度切分权重与计算

同一层太大,就让多张卡各算一片,再交换结果。

上下文并行

Context Parallelism

沿序列长度维度切分输入与激活

一条长输入分给多张卡,每张卡先处理其中一段。

专家并行

Expert Parallelism

把混合专家层中的不同专家参数分布到多个设备

不同专家住在不同卡上,Token 选中谁就送到谁那里算。

分块预填充

Chunked Prefill

把长提示词的预填充计算拆成多个调度块

长输入分几轮算,给正在回答的请求留出插队机会。

首词元延迟

Time to First Token

从请求发出到客户端收到第一个输出 Token 的时间

点下发送以后,等多久才能看到模型开始回答。

预填充解耦

Prefill-Decode Disaggregation

把大模型推理的预填充与解码阶段部署到不同设备

输入先在一组 GPU 上读完,再把 KV 缓存交给另一组 GPU 接着逐词回答。

KV缓存量化

KV Cache Quantization

用低比特数值保存注意力层的 Key 和 Value 缓存

把长对话留下的注意力记录压小,给更多 Token 和请求腾出显存。

Medusa

Medusa Decoding

给大模型增加多个预测头并用树注意力并行验证候选

模型一次猜几步,再把多条候选放在一起验,争取一轮留下多个 Token。

多词元预测

Multi-Token Prediction

训练模型在同一个位置预测多个未来 Token

训练时让模型同时猜后面几步,迫使共享主干多看一点后文关系。

深度混合

Mixture of Depths

按层选择部分 Token 经过注意力与 MLP 计算

每一层只让一部分 Token 认真算,其他 Token 先跳过去。

RMSNorm

Root Mean Square Layer Normalization

只按均方根缩放一层激活,不再减去均值

把一组激活的大小调稳,省掉 LayerNorm 里计算和减去均值的步骤。

SwiGLU

Swish Gated Linear Unit

用 Swish 激活与另一条投影相乘,改造 Transformer 前馈层

同一个 Token 走两路投影,一路当门,控制另一路哪些维度通过。

ALiBi

Attention with Linear Biases

按 Token 距离给注意力分数加入线性惩罚

两个位置离得越远,注意力分数扣得越多,让模型知道远近关系。

YaRN

Yet another RoPE extensioN

分段调整 RoPE 频率并缩放注意力,扩展模型上下文

重新安排 RoPE 的位置频率,再用少量训练让模型适应更长序列。

滑动窗口注意力

Sliding Window Attention

每层只让 Token 关注附近固定窗口内的位置

每层先看附近内容,远处信息靠多层逐步传过来,换取更少计算和缓存。

多查询注意力

Multi-Query Attention

让多个查询头共用一套 Key 和 Value

保留多个问问题的头,只存一份可供大家查找的KV 记录。

多头潜在注意力

Multi-Head Latent Attention

用低秩联合压缩保存 Key 和 Value 的潜在表示

先把每个 Token 的 Key 和 Value 压成一份短记录,需要时再参与注意力计算。

DeepNorm

Deep Normalization

放大残差主路并缩小部分初始权重的超深 Transformer 训练方法

模型层数很多时,同时调整残差比例和起始权重,避免开头几步更新太猛。

最大更新参数化

Maximal Update Parametrization

让不同宽度模型的层更新保持同阶的参数化规则

把小模型和大模型的起始尺度调到可比,让一部分调参结果能直接迁过去。

FP8

8位浮点数

用 8 个二进制位表示神经网络计算里的浮点数

用更短的数值格式搬运权重、激活或梯度,快一些,也要更小心地缩放数值。