跳到正文

#教程/实践

今日 2 条
4月27日周一
4月23日周四
4月18日周六
  1. Ahead of AI · Sebastian Raschka40

    我理解 LLM 架构的工作流:从技术报告到配置文件与参考实现

    Sebastian Raschka 分享了他绘制 LLM 架构图的工作流:先从官方技术报告入手,但如今论文细节常不如以往,尤其工业实验室的开源权重模型。若模型权重发布在 Hugging Face Model Hub 且被 Python transformers 库支持,可直接查看 config 文件与参考实现,"能跑通的"代码不会说谎。

4月16日周四
4月9日周四
4月4日周六
  1. Ahead of AI · Sebastian Raschka50

    编码智能体的六大组件:Claude Code、Codex CLI 等 Agent 框架如何运作

    编码智能体的能力差异更多来自模型外围的 agentic harness,而非模型本身。Claude Code、Codex CLI 等编码工具本质是把 LLM 包在应用层里的编码 harness,负责仓库上下文、工具设计、提示词缓存稳定性、记忆与长会话连续性。文章将其拆解为模型家族、agent 循环与运行时支持三层,循环内含 observe、inspect、choose、act 四步。

3月27日周五
3月22日周日
  1. Ahead of AI · Sebastian Raschka33

    现代 LLM 注意力机制变体图解指南

    Sebastian Raschka 发布 LLM 架构图库(含 45 个条目),每个条目配有可视化模型卡,并推出 Redbubble 海报版。文章同时系统梳理现代开源权重模型中采用的各类注意力变体,从标准多头注意力(MHA)讲起,覆盖分组查询注意力、滑动窗口注意力等,示例架构包括 GPT-2、OLMo 2 7B 和 OLMo 3 7B。

3月21日周六
  1. Hugging Face Blog63

    如何在一天内构建领域专用嵌入模型

    NVIDIA 发布一套在单张 GPU 上不到一天完成领域嵌入模型微调的流程,基于 Llama-Nemotron-Embed-1B-v2,无需人工标注。流程用 nemotron-3-nano-30b-a3b 从领域文档生成合成问答数据、挖掘难负样本并做多跳展开,再用对比学习微调,实测 nDCG@10 与 Recall@10 均提升约 10%。

    推荐理由:NVIDIA 给出了从合成数据、难负样本挖掘到 ONNX/TensorRT 部署的完整嵌入模型微调配方,附真实评测数字。

3月10日周二
3月9日周一
3月5日周四
3月4日周三
2月26日周四
2月20日周五
2月13日周五
  1. Hugging Face Blog69

    Hugging Face 发布 CUDA 内核 Agent 技能,让 Codex 与 Claude 自动生成生产级 kernel

    Hugging Face 构建了一个 agent skill,教编码智能体编写生产级 CUDA kernel,并让 Claude 和 Codex 针对 diffusers 的 LTX-Video 与 transformers 的 Qwen3-8B 两个真实目标端到端生成了可运行的 kernel,包含正确的 PyTorch 绑定与基准脚本。

    推荐理由:Hugging Face 把 CUDA kernel 开发知识封装成可安装的 Agent 技能,并给出两组真实基准,读者可据此判断它在自有项目中的复用价值。

2月3日周二
1月28日周三
1月27日周二
1月24日周六
  1. Ahead of AI · Sebastian Raschka30

    LLM 推理如何做推理时扩展:六大方法分类与最新进展

    LLM 推理时扩展(inference-time scaling)通过投入更多推理算力提升答案质量,已成为各大模型厂商的常规手段。Sebastian Raschka 将现有方法归为六大类:思维链提示、自一致性、Best-of-N 排序、带验证器的拒绝采样、自 refinement 与解路径搜索,并介绍了近几个月的新工作。

1月23日周五
1月15日周四
1月5日周一
12月18日周四
12月11日周四
12月4日周四
  1. Hugging Face Blog69

    Hugging Face 发布 HF Skills,让 Claude Code 直接微调开源 LLM

    Hugging Face 发布 HF Skills,通过 hf-llm-trainer 等技能让 Claude Code、Codex、Gemini CLI 直接提交云端 GPU 微调任务并推送到 Hub。技能支持 SFT、DPO 和 GRPO,可训练 0.5B 到 70B 参数模型并转换为 GGUF 本地部署,官方示例微调 Qwen3-0.6B 约需 20 分钟、0.30 美元。

    推荐理由:官方给出从数据校验、选卡到提交训练和转 GGUF 的完整流程与成本区间,可直接照做。

12月3日周三
11月25日周二
11月21日周五
11月17日周一
11月4日周二
  1. Ahead of AI · Sebastian Raschka36

    超越标准 LLM:Sebastian Raschka 详解线性注意力混合架构等替代方案

    Sebastian Raschka 撰文梳理标准 Transformer 之外的 LLM 替代架构,覆盖文本扩散模型、线性注意力混合架构和代码世界模型等方向。部分方案主打更高效率,另一些如代码世界模型意在提升建模性能。他此前发布的 Big LLM Architecture Comparison 聚焦主流 Transformer 架构,本次文章回应了读者对替代路线的疑问。

10月30日周四
10月29日周三
10月28日周二
  1. Hugging Face Blog40

    Hugging Face 提出「语音同意门」:让语音克隆必须先获得本人同意

    Hugging Face 发布博客提出「voice consent gate」(语音同意门)方案,让语音克隆模型只有在说话人明确说出同意语句并被 ASR 识别后才启动。该方案由三部分组成:生成约 20 词、含同意短语和模型名的随机英文句子,用 ASR 识别同意语句,再由 TTS 语音克隆系统合成语音。团队同时放出示例 Space 和配套代码,并建议同意录音直接来自麦克风而非上传文件。