大模型(LLM)支持的“上下文长度(Context Length / Context Window)”本质上是模型一次能够“看到”和“记住”的 token 数量
强化学习已经在各个领域大放光彩,游戏、机器人,在LLM领域更是后训练的强力手段。所以,有必要添加进个人技能库。 强化学习发展
这篇文章目的是方便更通俗、更简单的理解KL散度,所以会尽可能减少公式推导,更多的阐述KL的理论知识和应用。 介绍 KL散度(Kullback–Lei
前言 某一天,和正常一样访问博客后台面板,打算写点东西,然后出现了以下画面: 我十分肯定前一天还可以正常访问,且在这
Google 的 TurboQuant 算法还存在较大争议,具体看华人大佬发表的声明 对于Google的 ICLR 2026 TurboQuant 论文,我们
实践 以下只是一个最简单的skill使用,还有一些额外功能比如script、reference等未进行扩展,有兴趣可以自行搜索 第一步:在正确的目录创建Sk
Function Calling ok啊,直接步入正题,先来了解下什么是Function Calling Function Calling由OpenAI等
一、模型微调的本质 在深入探讨具体方法之前,我们首先需要理解模型微调的本质。 当我们发现一个预训练大模型在某一特定领域(如医疗、法律、代码生成)的能
算法说明 BM25(Best Matching 25)是一种信息检索领域的排名算法,用于计算查询(Query)与文档(Document)之间的相关性得分。它
传统 Attention 的瓶颈 要理解 Flash Attention,首先要明白标准 Transformer 中 Self-Attention 的计算和