//最新文章 45 POSTS
【内存】 - 内存知识
基础概念与内存分区 理解内存的基本分区 : 静态区(全局/静态变量) :编译时确定大小,存储全局变量和静态变量。 栈(Stack) :自动分配和释放,存储局部变量、函数参数和返回地址。 堆(Heap) :手动分配和释放(如 malloc…
【AI 学习】- 从零学 AI 工程:503 课课程地图
一张地图,从线性代数一路走到自主集群。503 课、20 阶段、完全免费、开源(MIT)。 AI Engineering from Scratch (作者 Rohit Ghumare)是一份免费开源的全栈 AI 课程: 503 门课、20…
【AI 误解】- 上篇:模型、语言与智能
关于 AI、ML 和深度学习的常见误解,每条都给出 现实 与 为什么重要 。 “AI 理解语言” 现实: LLM 基于训练数据中的统计模式预测下一个…
【AI 误解】- 下篇:对齐、训练与工程
关于 AI、ML 和深度学习的常见误解,每条都给出 现实 与 为什么重要 。 “Transformer 通过位置编码理解顺序” 现实: Transformer…
【AI 术语表】- 上篇(A–F)
31 个高频术语,从 Agent 到 Fine-tuning——先搞清它们说的”原来如此”。 A Agent 人们怎么说: “一个能自己思考和行动的自主 AI” 实际什么意思: 一个 while 循环,LLM…
【AI 术语表】- 中篇(G–N)
从 Gradient Descent 到 Neural Network——训练与网络的 21 个核心词。 G Guardrails 人们怎么说: “AI 的安全过滤器” 实际什么意思: LLM…
【AI 术语表】- 下篇(O–Z)
从 Overfitting 到 Zero-shot——评估与应用的 31 个术语收尾。 O Overfitting 人们怎么说: “模型记住了数据” 实际什么意思:…
【大模型】- 梯度检查点
梯度检查点 用计算换内存,训练更大模型 类型: 学习 | 语言: Python | 🏷 前置:《扩展和分布式训练》(本系列第 4 篇) 学习目标 理解梯度检查点的原理 实现梯度检查点 优化内存使用 平衡计算和内存开销 应用于大模型训练…