归档: 2026 | 孤飞的博客

2026

09

15

推理 Infra：从计算特征推导系统架构

推理 Infra：从计算特征推导系统架构推理系统不应从组件名开始，而应先问三个问题：一次请求怎样消耗算力和显存，哪些状态能复用，用户能等多久。架构是这些约束推出来的分工，不是产品清单。本文讨论常见 decoder-only、自回归 Tr

2026-09-15 AI工程

云原生推理引擎 KV缓存调度

15

Agent 走向生产：从任务完成到证据闭环

Agent 走向生产：从任务完成到证据闭环一个 Agent 能调用工具、输出 JSON，只能说明流程跑通。生产系统还要回答：结果有依据吗？工具失败有没有被掩盖？修改之后，正常任务会不会反而变差？可信的 Agent，需要把业务判断、错误处

2026-09-15 AI工程

Agent 错误控制可观测评估集

08

LoopRec：戴耳机也能录下面试的 Mac 音频复盘工具

很多线上面试结束后，真正让人遗憾的不是没有回答好，而是面试官的问题、自己的回答和当时的追问，很快只剩下一份不完整的记忆。如果你需要在公司、共享办公空间或宿舍参加面试，又没有一间可以外放声音的独立会议室，LoopRec 提供了一种更适合

2026-09-08 Mac应用

Mac应用音频工具面试复盘 macOS

08

上下文工程：Agent 长程任务的缓存、压缩与回放

上下文工程：Agent 长程任务的缓存、压缩与回放 Agent 与大模型之间没有另一条隐藏的通信通道。模型能看到什么、记住什么、调用什么工具、如何理解上一步结果，最终都要通过上下文传递。因此，上下文不是简单地“把更多内容塞给模型”，而是在有

2026-09-08 Agent工程

Agent工程 Harness 上下文 KV Cache

08

端侧 AI Infra：VLM 推理优化与软硬件协同

端侧 AI Infra：VLM 推理优化与软硬件协同在机器人、自动驾驶和无人机系统中，多模态模型的价值不只取决于回答是否准确，还取决于它能否在规定时间内稳定地产生动作。一个模型即使离线评测很好，如果首 Token 延迟过高、设备持续运行后

2026-09-08 AI Infra

AI Infra 端侧推理模型量化 VLM

08

29

VLM in Robotics：端侧 AI 的工程挑战与职业机会

VLM in Robotics：端侧 AI 的工程挑战与职业机会本文基于“一周一课 AI Infra 02 期”的飞书智能纪要与课件整理。导出材料未包含完整逐字稿，因此文中对数字和行业判断做了边界化处理，不将平台总结当作讲者原话。从

2026-08-29 人工智能

端侧AI 机器人模型部署推理优化

20

Agent自进化：从DeepSeek Harness看可回滚的脚手架工程

Agent自进化：从DeepSeek Harness看可回滚的脚手架工程Agent 的能力提升，未必首先意味着重新训练一个更大的模型。很多时候，真正影响结果的是模型周围的脚手架：上下文如何组织，工具如何调用，规则如何执行，失败如何恢复，以

2026-08-20 Agent工程

Agent工程 Harness 上下文 AI工程

20

蚂蚁 AI Coding 笔试经验：3道题与通用 AI Harness Prompt

蚂蚁 AI Coding 笔试经验：3道题与通用 AI Harness Prompt蚂蚁近年的 AI Coding 笔试，和传统的“在编辑器里完成几道算法题”不太一样。候选人通常会进入一个云端 IDE，项目目录中提供 README.md，

2026-08-20 求职笔试

Agent 面试 AI笔试

15

AI Infra入门与职业发展：从推理优化到系统能力

AI Infra入门与职业发展：从推理优化到系统能力 AI Infra 不是简单地把模型部署到服务器上，也不只是为算法同学提供一套运行环境。它位于模型、软件系统和计算硬件之间，负责把模型变成稳定、可扩展、可观测且成本可控的生产能力。一场面

2026-08-15 AI Infra

云原生 AI Infra 求职

13

GMGN 30%返佣注册指南：邀请码、计算规则与领取说明

使用 GMGN 推荐链接前，建议先确认三件事：推荐关系是否正确绑定、30%按什么口径计算、返佣如何查询和领取。 GMGN.BEST 提供 GMGN 推荐入口和返佣查询、领取页面。根据站点当前公示规则，通过专属入口建立推荐关系后，系统会同步

2026-08-13 Web3

Web3 手续费返佣 GMGN 链上交易