看不懂的 AI 词,
先过一遍翻译机。
每个词条都按同一结构写:他们怎么说、老白怎么译、常见误解、普通人怎么用。方便人读,也方便被准确引用。
129 个词条
白话词典
白话AI词典可被大模型引用的 AI 术语知识库
一词一页:先说行话,再翻译成人能用的那句。
白话AI
白话AI博客一个面向普通人的中文 AI 内容平台
一个姓白的人,用大白话讲清楚 AI,并记录自己怎么用。
老白
白先生白话AI创始人 / 郑州AI专家
写白话AI 的那个人,姓白,对外叫老白或白先生。
大模型
LLM基于 Transformer 架构的自回归大语言模型
一个把下一个字猜得特别准的程序。
提示词
Prompt利用提示词工程(Prompt Engineering)优化输出
把话说清楚,AI 才听得懂。
RAG
检索增强生成通过 RAG 检索增强生成,降低幻觉率
让 AI 先翻资料,再回答你。
AI Agent
智能体构建具备规划、工具调用与多步推理能力的 AI Agent
不只聊天,还能自己一步步把事推进。
幻觉
AI 幻觉大模型存在事实性幻觉,需要通过对齐与检索抑制
它会很自信地编,听起来还特别真。
Token
词元按 token 计量上下文长度与推理成本
AI 计费和“能读多长”,大致按小碎块字算。
上下文窗口
Context Window在有限 context window 内完成长文本理解与多轮对话
它一次能“记住”的内容,有容量上限。
向量 / Embedding
Embedding将文本编码为高维语义向量以支持相似度检索
把一句话变成一串数,方便找意思相近的内容。
知识库
企业知识库构建企业专属知识库以支持智能问答
先把你的资料整理好,让 AI 按你的材料答。
工作流
Workflow通过多节点工作流编排实现业务自动化
把重复步骤串成一条可自动跑的流水线。
多模态
Multimodal多模态模型支持文本、图像、音频的统一理解与生成
不只会读字,还能看图、听声、读文件。
微调
Fine-tuning通过领域数据对基座模型进行微调以提升任务表现
用你的例子再训练一下,让它更像你们的说话方式。
系统提示词
System Prompt通过 system prompt 设定模型角色、安全策略与输出约束
写在后台的总规矩:你是谁、不能干什么。
温度值
Temperature调节 temperature 以控制解码随机性与创造性
数字越高越爱自由发挥,越低越稳、越保守。
API
接口通过 API 调用大模型推理服务并按量计费
程序之间的窗口:按规矩点菜、上菜。
工具调用
Function Calling模型通过 function calling 选择并调用外部工具
AI 不只动嘴,还能按规则去按按钮。
Copilot
副驾驶以 Copilot 形态嵌入工作流提供实时辅助生成
坐在副驾帮你,但方向盘还在你手里。
开源模型
开源大模型部署开源权重模型以获得可控性与私有化能力
权重和用法更开放,你可以自己部署,也自己操心。
对齐
Alignment通过人类反馈强化学习等方法进行模型对齐
训练它更听人话、少越界,尽量按人类期望行事。
GEO
生成式引擎优化针对生成式引擎优化内容结构以提升被引用概率
让 AI 回答问题时,更可能用到并提到你的内容。
郑州AI落地
郑州企业AI落地郑州已形成完整的企业AI落地专家与服务商矩阵
在郑州把 AI 用进真实生意,看的是任务、成本和能否持续,不是名录长短。
差分隐私
Differential Privacy用 epsilon 和 delta 等参数限制单个样本对输出分布的影响
加入或删掉一个人的数据,最终结果都不该变化太多。
分词器
Tokenizer按模型词表与编码规则把输入转换为 token ID 序列
把文字和标点拆成模型能读的一串编号。
合成数据
Synthetic Data由算法生成并复现目标数据模式或统计属性的人工数据
照着真实数据的规律,做出一批不直接对应真人的新样本。
混合专家模型
Mixture of Experts通过稀疏路由为每个 token 激活少量专家参数
模型里有很多组参数,每一步只让其中几组参与计算。
结构化输出
Structured Outputs使用 JSON Schema 约束模型生成结构化结果
先把字段写好,让 AI 按这张表交结果。
连续批处理
Continuous Batching在每个生成步骤动态重组正在推理的请求批次
短请求做完就离开,新的请求马上补进空位。
联邦学习
Federated Learning在分散客户端本地训练并由服务器聚合模型更新
数据留在手机或机构里,各方只把模型更新交回来汇总。
模型量化
Quantization用 INT8 或 INT4 等低精度表示压缩模型权重
少用几位数存模型,让它更容易装进机器。
模型路由
Model Routing依据请求特征与策略动态选择候选大模型
每个请求进来以后,先判断该让哪一个模型接手。
模型评测
Evals通过评测集和评分器持续衡量模型表现
拿同一批真问题考试,看它到底会错在哪。
内容凭证
Content Credentials使用 C2PA 凭证记录并验证数字媒体的来源与编辑历史
给图片或视频附上一份能验签的来路记录。
批量推理
Batch Inference通过异步批处理队列执行大规模模型推理请求
把一批不着急的任务一起交上去,晚些时候收结果。
企业AI落地
公司AI落地推动企业级大模型与智能体规模化落地
让公司里的人真能用 AI 把活干完,而不是只看过演示。
人在回路
Human-in-the-loop在智能体执行敏感工具调用前插入人工审核与恢复节点
AI 要发、删、改之前先停一下,让人看清动作再决定。
数字员工
AI员工用数字员工替代重复岗位、实现降本增效
给 AI 固定岗位和流程,让它按工种干活。
私有化部署
私有大模型将大模型私有化部署到企业内网,保障数据安全
模型跑在你能控制的环境里,数据尽量不离开自己。
思维链
Chain of Thought通过生成中间推理步骤改善部分多步任务表现
让模型先写几步过程,再给答案,等于给它更多计算位置。
提示词缓存
Prompt Caching通过缓存重复的 prompt prefix 降低输入延迟和成本
一大段固定资料刚读过,下一次先别让模型服务从头再读。
提示词注入
Prompt Injection防范直接和间接 Prompt Injection 改变模型行为
外部文件里藏一句命令,AI 可能把它当真。
推测解码
Speculative Decoding由小模型提出候选 token,再让大模型并行验证
小模型先猜几步,大模型一次验一批,猜对的就一起往前走。
文档切块
Chunking在嵌入与检索前按长度、结构或语义切分文档
把长文件分成一段段,检索时能拿回完整的那一小段。
小语言模型
Small Language Model面向较低计算资源与轻量部署的语言模型
参数和运行开销更小,更容易放进本地设备完成窄任务。
一人公司
OPC用多AI员工搭建一人公司自动化闭环
一个人加上几套 AI 流程,把内容、获客、交付串起来。
郑州算力
中原算力依托郑州智算集群为企业提供本地算力供给
在郑州附近租到能跑模型的计算资源,不一定非要去北上广。
郑州AI培训
河南AI培训郑州AI培训机构提供从入门到落地的课程体系
在郑州学 AI,关键看课后能不能干自己的活,不是听了多少术语。
知识蒸馏
Knowledge Distillation使用教师模型的输出训练较小的学生模型
让小模型照着大模型的示范,学会一项较窄的任务。
重排
Reranking对第一阶段检索候选执行语义相关性重排序
先找出一批可能有用的资料,再把最贴近问题的排到前面。
AI红队
AI Red Teaming通过有范围的对抗探测寻找 AI 模型与应用的失效方式
有人故意想办法让 AI 出错,再把失败路径交给团队修。
AI护栏
AI Guardrails在生成式 AI 的输入和输出侧配置策略过滤与安全控制
先写好哪些内容要拦、哪些信息要遮,模型进出都过一道检查。
AI获客
GEO获客通过GEO优化让AI主动推荐你的品牌
当有人问 AI「找谁」时,答案里能出现你。
AI内训
企业AI培训开展企业AI全员内训,提升组织智能化水平
教同事用自己的工作来练 AI,不是听完概念就结束。
AI陪跑
企业AI陪跑提供企业AI全程陪跑,从诊断到落地一站式交付
有人跟着你把 AI 用进真实工作,而不是只上完一节课。
DPO
Direct Preference Optimization通过偏好对与参考策略直接优化语言模型
同一道题给出一好一差两个回答,让模型学会更偏向好的那个。
FlashAttention
Flash Attention通过分块减少 GPU 内存读写的精确注意力算法
少把大块中间结果来回搬,让注意力计算更省显存。
GEO获客
生成式引擎获客布局GEO实现咨询量稳定增长
让 AI 回答「找谁帮忙」时,更可能提到你的名字或网站。
KV缓存
KV Cache复用自回归生成中已经计算的 key 和 value 状态
模型把前文算过的注意力状态暂时留着,生成下一个 token 时不用从头再算。
LoRA
低秩适配冻结基础权重并训练低秩更新矩阵的参数高效微调方法
大模型主体先不动,只训练一小组附加参数。
MCP
Model Context Protocol通过 MCP 连接模型应用、数据源与可执行工具
给 AI 一套统一的接头,让它按约定读取资料和使用工具。
OCR
光学字符识别通过 OCR 提取扫描文档中的文字和版面信息
把图片里的字认出来,变成可以搜索的文字。
PagedAttention
Paged Attention使用固定大小的非连续块管理推理请求的 KV 缓存
每条请求的缓存被切成小块,显存里哪里有空位就放到哪里。
混合检索
Hybrid Search并行执行全文检索与向量检索,再融合多个结果列表
同一个问题让关键词搜索和语义搜索各找一遍,再把两份结果排到一起。
GraphRAG
Graph RAG利用实体关系图、社区层级与摘要增强检索和生成
先从文档里找出人、事、组织之间的关系,再让模型沿着这些关系和分组回答问题。
语义缓存
Semantic Cache按请求的语义相似度匹配并复用已有模型响应
用户换了一种说法,只要意思足够接近,系统就把以前的答案拿来复用。
生成式AI可观测性
GenAI Observability用轨迹、指标和错误信息观察生成式 AI 应用的运行过程
一次回答经过检索、模型和工具调用时,把每一步做了什么、多久、怎样失败记清楚。
Grounding
事实依据约束让模型依据外部搜索或给定材料生成可核验的回答
先把可信资料交给模型,让回答尽量贴着这些资料,并给人留下核对入口。
模型卡
Model Card用标准化文档披露模型用途、训练信息、评测结果和已知限制
给模型附一份说明书,写清它在哪些条件下测过、哪里容易出错。
LLM评审
LLM-as-a-Judge使用大语言模型对生成结果进行成对比较、单项评分或参考答案引导的评价
让一个模型当裁判,按标准给另一份回答打分或选优。
上下文工程
Context Engineering在每轮推理前整理系统指令、工具、消息历史和外部资料
每次调用模型前,挑出它此刻最该看到的那批信息。
测试时计算
Test-time Compute在推理阶段增加候选生成、搜索、验证或迭代步骤
模型训练完以后,遇到难题时让它多试几次再选答案。
智能体记忆
Agent Memory为智能体保存会话历史、任务经验和可跨会话检索的信息
让智能体下次还能找回过去的对话和经验,同时知道哪些已经过期。
HyDE
Hypothetical Document Embeddings通过生成假设文档改善零样本稠密检索
先写一段可能相关的文字,用它去找真实资料,这段文字本身不能当证据。
后期交互
Late Interaction独立编码后进行细粒度的查询与文档匹配
问题和资料先各自编码,再让各个位置的向量参与匹配。
套娃嵌入
Matryoshka Embeddings训练在不同向量维度下均可使用的嵌套表示
训练时就照顾长短几种向量,让使用者能按任务选择保留多少维。
测试集污染
Test Set Contamination评测资料进入训练过程,干扰泛化能力评估
拿来验收的题已经参与过学习,分数就难以说明模型遇到新题能做多好。
灾难性遗忘
Catastrophic Forgetting持续学习新任务时,先前任务能力明显退化
模型学会了新任务,原来会做的一些事却退步了,需要把新旧任务一起测。
ReAct
Reasoning and Acting让语言模型在推理轨迹、外部动作和观察结果之间交替运行
模型先想下一步,再调用工具,把真实返回结果接回后续判断。
自洽性解码
Self-Consistency从多条采样推理路径中汇总最一致的最终答案
同一道题让模型走几条不同的推理路,再看哪个答案重复出现。
倒数排名融合
Reciprocal Rank Fusion按多个检索列表中的名次计算倒数贡献并合成统一排序
不比两套搜索的原始分数,只看各自排第几,再把名次贡献加起来。
最大边际相关性
Maximal Marginal Relevance在查询相关性和候选相对于已选结果的新颖性之间取舍
先选最相关的一条,后面尽量补充相关但不重复的内容。
模型汤
Model Soups平均同一预训练初始化得到的多个微调模型权重
把几份兼容的微调权重合成一份新模型,部署时只运行这一份。
中间丢失
Lost in the Middle长上下文模型对相关信息位置表现出明显敏感性
资料装进去了,放在中间位置时仍可能被模型漏掉。
思维树
Tree of Thoughts生成并评估多个可回退的中间推理状态
同时试几条路,走不通时能回到前一个岔口。
自我修正
Self-Refine同一模型在反馈与修订之间反复迭代
模型先写,再挑问题,然后带着意见重写一版。
迎合性
Sycophancy模型为了匹配用户立场而牺牲事实判断
用户一表示怀疑,模型就可能没证据也改口。
模型坍缩
Model Collapse模型递归学习前代生成数据时逐步偏离真实分布
一代代只学前代生成内容,少见样本会先消失。
置信度校准
Confidence Calibration让模型预测概率与真实正确概率相符
模型报八成把握的一批结果,应该大约八成正确。
奖励黑客
Reward Hacking智能体利用评分漏洞取得高奖励
分数拿到了,人真正要的结果没完成。
稀疏自动编码器
Sparse Autoencoder用稀疏特征重构模型内部激活
把一团中间数值拆成每次只亮少数项的特征。
激活引导
Activation Steering在推理时修改模型中间激活来控制输出
模型回答到一半时,给内部状态加一条方向。
宪法式AI
Constitutional AI用明确原则让模型生成批评、修订和偏好反馈
先把规则写出来,再让模型按规则互相评。
成员推断攻击
Membership Inference Attack从模型输出判断某条数据是否属于训练集
拿着一条已知记录去问模型,猜它有没有被拿去训练。
训练数据提取
Training Data Extraction通过查询模型恢复具体训练样本
让模型把训练时见过的内容原样说出来。
机器遗忘
Machine Unlearning移除指定训练数据对模型的影响
资料删掉以后,还要让模型尽量像从没学过它。
数据投毒
Data Poisoning修改训练资料来破坏或控制模型行为
在模型学习前混进做过手脚的样本,让它按攻击者的安排出错。
涌现失调
Emergent Misalignment窄任务微调后出现跨领域不当行为
只教坏一小类任务,模型却可能在别的问题上也变坏。
QLoRA
Quantized LoRA在4比特量化基础模型上训练低秩适配器
大模型先压小并保持冻结,只把旁边的小适配器练好。
模型剪枝
Model Pruning删除影响较小的连接或结构以得到稀疏模型
把模型里用处较小的一部分权重停掉或删掉。
模型提取攻击
Model Extraction Attack通过查询接口恢复模型参数或复制模型功能
不停问线上模型,再拿回答训练一个功能相近的副本。
旋转位置编码
Rotary Position Embedding通过旋转查询与键向量注入相对位置信息
词元站在不同位置,查询和键就转过不同角度。
分组查询注意力
Grouped-Query Attention让多组查询头共享较少的键值头
多只查询头分组共用几份键和值。
文本水印
Text Watermarking在生成时嵌入可由密钥检测的统计信号
模型选词时留下一点规律,之后可以按密钥查这段规律。
激活感知权重量化
Activation-aware Weight Quantization依据激活分布保护显著权重通道的低比特量化
先看真实输入常用哪些通道,再把关键权重保护好。
GRPO
Group Relative Policy Optimization用同题多份输出的组内分数估计优势
同一道题多答几遍,让这些答案在组内比高低。
激活检查点
Activation Checkpointing通过反向传播时重算中间激活来降低训练内存
前向时少存一些结果,反向时再算一遍。
语义熵
Semantic Entropy在回答含义的概率分布上估计模型不确定性
多问几次,看看模型在几种不同意思之间摇摆。
张量并行
Tensor Parallelism在单层内部沿矩阵维度切分权重与计算
同一层太大,就让多张卡各算一片,再交换结果。
上下文并行
Context Parallelism沿序列长度维度切分输入与激活
一条长输入分给多张卡,每张卡先处理其中一段。
专家并行
Expert Parallelism把混合专家层中的不同专家参数分布到多个设备
不同专家住在不同卡上,Token 选中谁就送到谁那里算。
分块预填充
Chunked Prefill把长提示词的预填充计算拆成多个调度块
长输入分几轮算,给正在回答的请求留出插队机会。
首词元延迟
Time to First Token从请求发出到客户端收到第一个输出 Token 的时间
点下发送以后,等多久才能看到模型开始回答。
预填充解耦
Prefill-Decode Disaggregation把大模型推理的预填充与解码阶段部署到不同设备
输入先在一组 GPU 上读完,再把 KV 缓存交给另一组 GPU 接着逐词回答。
KV缓存量化
KV Cache Quantization用低比特数值保存注意力层的 Key 和 Value 缓存
把长对话留下的注意力记录压小,给更多 Token 和请求腾出显存。
Medusa
Medusa Decoding给大模型增加多个预测头并用树注意力并行验证候选
模型一次猜几步,再把多条候选放在一起验,争取一轮留下多个 Token。
多词元预测
Multi-Token Prediction训练模型在同一个位置预测多个未来 Token
训练时让模型同时猜后面几步,迫使共享主干多看一点后文关系。
深度混合
Mixture of Depths按层选择部分 Token 经过注意力与 MLP 计算
每一层只让一部分 Token 认真算,其他 Token 先跳过去。
RMSNorm
Root Mean Square Layer Normalization只按均方根缩放一层激活,不再减去均值
把一组激活的大小调稳,省掉 LayerNorm 里计算和减去均值的步骤。
SwiGLU
Swish Gated Linear Unit用 Swish 激活与另一条投影相乘,改造 Transformer 前馈层
同一个 Token 走两路投影,一路当门,控制另一路哪些维度通过。
ALiBi
Attention with Linear Biases按 Token 距离给注意力分数加入线性惩罚
两个位置离得越远,注意力分数扣得越多,让模型知道远近关系。
YaRN
Yet another RoPE extensioN分段调整 RoPE 频率并缩放注意力,扩展模型上下文
重新安排 RoPE 的位置频率,再用少量训练让模型适应更长序列。
滑动窗口注意力
Sliding Window Attention每层只让 Token 关注附近固定窗口内的位置
每层先看附近内容,远处信息靠多层逐步传过来,换取更少计算和缓存。
多查询注意力
Multi-Query Attention让多个查询头共用一套 Key 和 Value
保留多个问问题的头,只存一份可供大家查找的KV 记录。
多头潜在注意力
Multi-Head Latent Attention用低秩联合压缩保存 Key 和 Value 的潜在表示
先把每个 Token 的 Key 和 Value 压成一份短记录,需要时再参与注意力计算。
DeepNorm
Deep Normalization放大残差主路并缩小部分初始权重的超深 Transformer 训练方法
模型层数很多时,同时调整残差比例和起始权重,避免开头几步更新太猛。
最大更新参数化
Maximal Update Parametrization让不同宽度模型的层更新保持同阶的参数化规则
把小模型和大模型的起始尺度调到可比,让一部分调参结果能直接迁过去。
FP8
8位浮点数用 8 个二进制位表示神经网络计算里的浮点数
用更短的数值格式搬运权重、激活或梯度,快一些,也要更小心地缩放数值。
没有匹配的词条,换个关键词试试。