AI 日刊2026年10月21日6分钟阅读
AI 学习日刊 · 2026-10-21
今日聚焦:OpenAI API 支持 12 小时 prompt 缓存,Codex 与 Work 用户缓存永久保留;Perplexity Computer 现可在 Mac 上完全本地运行,无需云端推理。
产品与工具
OpenAI API 支持 12 小时 prompt 缓存,Codex 与 Work 用户缓存永久保留
- 来源:X:Tibo (@thsottiaux)
- 发布:10-21 09:10(北京时间)
- 摘要:OpenAI 开发者账号宣布 API 现已可选 12 小时 prompt 缓存,持续运行的智能体可在请求间隔数小时的情况下继续以更低的缓存输入费率复用指令、工具和上下文。Tibo 补充称,Codex 与 Work 中已登录用户的缓存会永久保留,返回旧对话或数小时后恢复会话保证命中缓存,且无额外惩罚。
- 推荐理由:作者亲述 API 12 小时缓存与 Codex、Work 侧持久缓存策略,可直接判断对长时间运行 Agent 成本和体验的影响。
- 收录:AIHOT 条目
Perplexity Computer 现可在 Mac 上完全本地运行,无需云端推理
- 来源:X:Aravind Srinivas(Perplexity CEO) (@AravSrinivas)
- 发布:10-21 00:34(北京时间)
- 摘要:Perplexity CEO Aravind Srinivas 宣布,Perplexity Computer 现可在 Mac 上完全本地运行,无需云端推理,也不用 WiFi。模型和智能体都在本机运行,可操作 Mac 原生应用和本地文件,敏感数据不必发送到云端,现已在 Perplexity Mac 应用中可用。
- 推荐理由:Perplexity CEO 亲自宣布,Perplexity Computer 可完全本地运行,敏感数据无需上云,对关注隐私和离线使用的人有参考价值。
- 收录:AIHOT 条目
Google 与 Meta 发布 TorchTPU:PyTorch 原生 TPU 后端
- 来源:PyTorch:Blog(RSS)
- 发布:10-21 00:00(北京时间)
- 摘要:Google 与 Meta 发布开源项目 TorchTPU,为 Google TPU 提供原生 PyTorch 后端,模型迁移只需把 .to("cuda") 改为 .to("tpu")。
- 推荐理由:Google 与 Meta 官方详解 TorchTPU 的架构设计、精度策略和分布式支持,读者可据此评估把现有 PyTorch 工作流迁到 TPU 的改动成本。
- 收录:AIHOT 条目
llm-d 1.0 发布:Kubernetes 原生分布式推理服务走向生产就绪
- 来源:IBM Research:AI
- 发布:10-20 20:00(北京时间)
- 摘要:IBM、Red Hat 和 Google 等主导的开源推理项目 llm-d 在 PyTorch Conference North America 上发布 llm-d 1.0,这是一个 Kubernetes 原生的分布式推理服务框架,支持任意模型、任意加速器和任意云。
- 推荐理由:原文给出 llm-d 1.0 的具体能力变化和实测成本数据,读者可据此评估自建推理基础设施是否划算。
- 收录:AIHOT 条目
DeepSeek 全面开源内部推理框架 DeepInfer
- 来源:公众号:DeepSeek(深度求索)
- 发布:10-20 16:54(北京时间)
- 摘要:DeepSeek 宣布将内部推理框架 DeepInfer 全面开源,并同步开源生产级 Token 编解码组件 deepseek-recipe。
- 推荐理由:DeepSeek 将内部推理框架全面开源,给出仓库地址和兼容平台,开发者可据此优化大规模推理的成本。
- 收录:AIHOT 条目
Databricks 发布 MemCurrent 生产级 Agent 持久记忆架构
- 来源:Databricks:Blog(RSS)
- 发布:10-20 08:00(北京时间)
- 摘要:Databricks 介绍 MemCurrent,一种面向生产 Agent 的持久记忆架构,结合情景记忆与派生记忆,通过插件、工具调用和离线 dreaming 管线三种访问模式读写与整合记忆,已用于 Agent Bricks Memory 和 Genie。
- 推荐理由:原文给出完整设计、消融和成本数据,读者可以据此评估生产级 Agent 记忆架构的选型与收益。
- 收录:AIHOT 条目
研究进展
Ai2 发布 FairStress 基准:测量 LLM 决策中被隐藏的公平性不对称
- 来源:Ai2 / Allen Institute for AI(RSS)
- 发布:10-20 16:00(北京时间)
- 摘要:Ai2 发布 FairStress 基准,通过 300 个两候选决策场景和对抗前缀,测量 LLM 在面对说服性论据时改变决策的难易是否因候选人所属人口群体而不同,全部组合超过 1300 万测试用例,并已开放下载、集成进 Olmo-eval。
- 推荐理由:Ai2 用对抗前缀测出模型在人口群体之间的决策不对称,并发现多数去偏方法不可靠,提供了诊断与改进思路。
- 收录:AIHOT 条目
METR 评测 Anthropic 2026 年 8 月风险报告对齐章节,认可低风险结论但质疑评估方法
- 来源:METR:Blog(网页)
- 发布:10-20 00:00(北京时间)
- 摘要:METR 发布对 Anthropic 2026 年 8 月风险报告“高风险场景中的错位”章节的独立外部审查,基本同意截至 2026 年 7 月 15 日 Mythos 5 和内部模型 Model 2 的灾难性错位风险为低,但认为这主要源于模型能力有限而非安全防护。
- 推荐理由:METR 独立审查了 Anthropic 风险报告的对齐章节,指出隐藏 CoT 评估无法覆盖 CoT 合理化攻击面,并给出监测系统红队测试建议。
- 收录:AIHOT 条目
Anthropic 用 Claude 设计出针对蝎子神经毒素的蛋白质迷你结合剂
- 来源:Anthropic:Research(发表成果 · 网页)
- 发布:10-20 00:00(北京时间)
- 摘要:Anthropic 让内部研究模型在 Claude Science 中主要自主运行 64 小时,设计针对五种蝎子神经毒素的蛋白质迷你结合剂,共生成 318,484 个设计、筛选出 180 个。
- 推荐理由:原文完整披露设计流程、筛选标准和实验数据,读者可以了解 AI 驱动蛋白质设计在被忽视疾病上的真实进展与局限。
- 收录:AIHOT 条目
实用技巧
面壁智能解析前瞻专家调度 LES 如何让 35B MoE 在手机端侧实时无损运行
- 来源:公众号:面壁智能(MiniCPM)
- 发布:10-20 14:22(北京时间)
- 摘要:面壁智能 MiniCPM-V 团队介绍支撑 MiniCPM-V 4.7 端侧运行的前瞻专家调度(LES)技术,称首次实现 35B-A3B 规模 MoE 在端侧实时无损运行,iPhone 18 Pro Max 实测解码超 20 token/s。
- 推荐理由:原文拆解了 LES 在调度、存储、计算三层的具体设计,并给出消融数据,方法可迁移到其他 MoE 模型的端侧部署。
- 收录:AIHOT 条目
Tessl 团队分享:不再逐行审查 AI 生成代码,改为验证意图
- 来源:Tessl:产品与工程博客
- 发布:10-20 00:00(北京时间)
- 摘要:Tessl 工程师 Ankit Jain 分享团队 PR 量翻四倍、代码几乎全部由 AI 生成后,放弃逐行 diff 审查、改为在代码生成前审查意图并逐条验证验收标准的做法。关键实践包括维护 offer-skill 技能理解代码变更,以及把重复出现最多的审查评论固化成机器自动执行的不变量规则,作者预计第二个月起审查负担明显缩小。
- 推荐理由:作者团队 PR 量翻四倍后放弃逐行审代码,改为事前审意图加可验证准则,给出了可直接照搬的做法和时间预期。
- 收录:AIHOT 条目
Google 发布 TorchTitan TPU 分叉并给出模型优化 Playbook
- 来源:Google Developers Blog(RSS)
- 发布:10-20 00:00(北京时间)
- 摘要:Google 推出 TorchTitan TPU 分叉(github.com/google-pytorch/torchtitan),配合 TorchTPU 原生后端在 Cloud TPU 上训练 PyTorch 模型,提供 SimpleFSDP、Graph Trainer、Pallas 内核和优化 Playbook。
- 推荐理由:原文给出从基准到编译、内核、内存的完整 TPU 优化顺序,以及 FLUX.1、Qwen3 235B 等实测数字,可迁移到自己的训练工作流。
- 收录:AIHOT 条目
📌 关于 AI 学习日刊
AI 学习日刊每天从公开信息中筛选 AI 技术与产品动态,按主题整理,帮助你用最短时间了解行业前沿。
数据来源:AIHOT 公开 API(匿名只读),本期收录 12 条。标题与摘要来自第三方信源,请以原文为准。
- 🌐 网站:https://mind-keeper.com/daily
- 📡 RSS:https://mind-keeper.com/feed.xml
本文由脚本自动抓取整理,如有疏漏欢迎指正。