26SEP
从零理解 Transformer：自注意力到底在计算什么
抛开公式推导，用矩阵乘法的维度变化讲清 Q / K / V 的来源，为什么要点积缩放，多头注意力又各自看到了什么。配一份可直接运行的 NumPy 最小实现。
最新文章
查看归档22SEP
LoRA 与 QLoRA 微调实战：一张 24G 显卡能走多远
对比全参数微调、LoRA、QLoRA 三种方案在 7B 模型上的显存占用与收敛速度，给出 rank、alpha、target modules 的调参经验与常见坑位清单。
18SEP
RAG 不是万能药：检索质量才是效果的天花板
一次真实的问答系统调优记录：从分块策略、嵌入模型选型到重排序与混合检索，逐项拆解召回率对最终效果的决定性影响，并给出评测方法。
14SEP
量化入门：从 FP16 到 INT4，显存与精度的取舍
梳理 GPTQ、AWQ、GGUF 等主流量化方案的适用场景，实测不同位宽下模型的困惑度变化与推理吞吐差异，附本地部署的最小可行配置。
09SEP
vLLM 与 llama.cpp：推理框架到底该怎么选
从 PagedAttention、批处理调度、KV Cache 管理讲到硬件适配，对比服务端高并发场景与本地单机场景下的选型逻辑，给出吞吐量实测数据。
03SEP
Prompt 工程的共识与误解：三年实践后的复盘
哪些技巧确实稳定有效，哪些只是模型版本带来的错觉。讨论结构化输出、少样本示例、思维链提示的适用边界，以及如何建立可回归的提示词测试集。
28AUG
Agent 落地难在哪：从演示 Demo 到生产可用
工具调用、状态管理、错误恢复与成本控制，是 Agent 项目最容易翻车的四个环节。以一个文档处理助手为例，拆解从原型到稳定服务的改造过程。
21AUG
模型评测该看什么：如何理性地阅读各类榜单
基准数据集的构成、污染问题、评分口径差异，都会让榜单产生误导。介绍构建自有评测集的思路，以及如何设计贴合业务场景的主观评测流程。
没有匹配的文章，换个关键词或分类看看。
大模型学习路线
- 基础层：线性代数与概率基础，理解张量运算与梯度下降，能读懂模型结构图。
- 原理层：注意力机制、位置编码、归一化与残差连接，动手实现一个迷你 Transformer。
- 应用层：熟悉主流模型 API 与开源模型，掌握 Prompt 设计、结构化输出与上下文管理。
- 进阶层：检索增强生成、参数高效微调、量化压缩与推理加速，能独立完成一次完整部署。
- 工程层：可观测性、评测体系、成本控制与安全合规，把模型能力接进真实业务。