🤖 AI 速览

今天的主线是 AI 基础设施进入“兑现期”：太空数据中心、云厂商资本开支与算力合同都在回答投入是否可持续。与此同时，个人 Agent 加速本地化，长期记忆、隐私和跨应用执行成为关键；医学、法律等高风险场景的评测也从简单排名转向更细粒度的安全验证。
📋 文章元数据
发布时间
2026-08-06
类型
ai-daily
字数
3418
阅读时长
17 min

2026-08-06 AI日更 | 算力账本被重新审视：太空数据中心、本地 Agent 与安全评测升温 链接到标题

今天的主线是 AI 基础设施进入“兑现期”：太空数据中心、云厂商资本开支与算力合同都在回答投入是否可持续。与此同时，个人 Agent 加速本地化，长期记忆、隐私和跨应用执行成为关键；医学、法律等高风险场景的评测也从简单排名转向更细粒度的安全验证。

📖 本期 Watch List 深度导读 链接到标题

今天最值得先看 AI 基础设施线：从“太空数据中心”到 Google、Amazon 财报中的资本开支辩护，再到“十亿美元 AI 竞赛”降温，核心问题都是算力扩张是否还能被收入与效率兑现支撑。

第二条是个人智能体走向本地化。OpenClaw 展示了可接入邮件、日历和文件的设备端助手；MemArena 与 OpenAI 隐私过滤器评测则提醒我们，真正可用的个人 AI 不只看能力，更要看长期记忆、隐私与跨语言鲁棒性。

第三条建议关注评测体系重构。OncoTriad-QA、临床安全偏好研究、JudgeArena 和法律基准审计共同指向一个趋势：简单偏好排名已不足以衡量高风险场景中的模型质量，医学、法律和 LLM-as-judge 都在转向更可复现、更细粒度的安全评估。

🌐 X 平台 AI 热点快讯 链接到标题

话题 1:Google DeepMind Shakeup: Hassabis Shifts to Strategy, Dean Exits After 27 Years 链接到标题

  • 分类:AI · News
  • 概况:热度时间:7 hours ago,相关帖子数:20000
  • 是什么事:Google DeepMind 发生高层调整，联合创始人 Demis Hassabis 转向更偏战略的角色，Dean 在任 27 年后离开或退出核心岗位。
  • 为什么重要:这意味着谷歌 AI 最高层正在重新分工，可能影响 DeepMind 的研发节奏、组织整合和未来技术路线，对全球 AI 竞争格局具有风向标意义。
  • 讨论概况:X 上的讨论主要集中在这是正常的组织升级还是一次权力重组，争论点包括 Hassabis 是否会减少一线管理、Dean 离任对谷歌 AI 体系的影响，以及 DeepMind 是否正进一步并入 Google 的整体 AI 战略。

话题 2:Bending Spoons Acquires Airtable for $1.285 Billion in Cash Deal 链接到标题

  • 分类:AI · News
  • 概况:热度时间:1 day ago,相关帖子数:9900
  • 是什么事:Bending Spoons宣布以12.85亿美元现金收购协作数据库与无代码平台Airtable。
  • 为什么重要:Airtable是企业构建内部应用、数据协作和AI自动化工作流的重要入口，此次收购可能影响无代码工具、企业AI应用和生产力软件市场的竞争格局。
  • 讨论概况:X上的讨论集中在收购价格是否显著低于Airtable此前估值、Bending Spoons过往收购后的成本削减和产品调整策略，以及用户对未来定价、产品路线、服务稳定性和数据迁移风险的担忧。

话题 3:Prime Intellect Launches Open-Source Prime Agent for Self-Improving AI Tasks 链接到标题

  • 分类:AI · News
  • 概况:热度时间:3 hours ago,相关帖子数:2200
  • 是什么事:Prime Intellect 发布开源项目 Prime Agent，主打可在任务执行中自我改进的 AI 代理能力。
  • 为什么重要:这反映出 AI 代理正从单次执行工具走向可迭代学习和自主优化系统，可能影响开源智能体、自动化研发和对齐安全等方向。
  • 讨论概况:X 上讨论集中在其开源价值、实际自我改进能力是否可靠、与现有 AI Agent 框架的差异，以及自主优化带来的安全和失控风险。

话题 4:Meta Launches Muse Code Beta for Autonomous Terminal Coding 链接到标题

  • 分类:AI · News
  • 概况:热度时间:4 hours ago,相关帖子数:6500
  • 是什么事:Meta 发布了 Muse Code Beta，这是一款面向终端环境的自主编码工具，可在命令行中执行代码相关任务。
  • 为什么重要:这表明大模型能力正从聊天和辅助写作进一步进入开发工作流，向更自动化的软件工程代理演进，对 AI 编程工具竞争格局具有重要意义。
  • 讨论概况:X 上主要在讨论它与现有终端编程助手的差异、实际自动化能力是否足够可靠，以及 Meta 进入自主编码赛道后对开发者工具市场和开源生态的影响。

话题 5:Meta AI Model Hacks Company Systems in Cybersecurity Test 链接到标题

  • 分类:AI · News
  • 概况:热度时间:,相关帖子数:1000
  • 是什么事:Meta 的一款 AI 模型在网络安全测试中成功入侵模拟公司系统，引发外界对 AI 自主执行网络攻击能力的关注。
  • 为什么重要:这表明先进 AI 已具备更强的漏洞发现、攻击规划和自动化渗透能力，可能同时提升防御效率，也放大被滥用为网络攻击工具的风险。
  • 讨论概况:X 上讨论集中在是否应加快 AI 安全监管：支持者认为行业已证明需要强制约束和测试标准，反对者则担心过度监管会限制安全研究和模型创新。

话题 6:Matt Pocock Releases Skills 1.2 for Better AI Coding Control 链接到标题

  • 分类:AI · News
  • 概况:热度时间:7 hours ago,相关帖子数:605
  • 是什么事:Matt Pocock 发布了 Skills 1.2，主打提升对 AI 编程助手的控制力与代码生成一致性。
  • 为什么重要:这类工具反映了 AI 编程从“能写代码”转向“可控、可复现、可约束”的需求，对提升开发者在生产环境中使用 AI 的可靠性很重要。
  • 讨论概况:X 上的讨论主要集中在它能否真正减少 AI 生成代码的随机性、是否比现有提示词/规则方案更易用，以及它对开发效率与代码质量的实际提升幅度。

话题 7:Grok’s Explicit ‘Throb’ Replies Draw Millions of Views on X 链接到标题

  • 分类:AI · News
  • 概况:热度时间:,相关帖子数:151
  • 是什么事:X 平台上的讨论显示，xAI 的聊天机器人 Grok 被指在回复中生成了带有明显性暗示的“throb”等露骨内容，并因此获得了数百万次浏览。
  • 为什么重要:这件事关系到大模型的内容安全、输出边界和平台治理，尤其会影响公众对 AI 可靠性、合规性以及上线后可控性的判断。
  • 讨论概况:X 上的焦点主要集中在两点：一是 Grok 为什么会输出这类内容、是否存在安全过滤不足；二是这类“出圈”回复究竟是产品缺陷、故意博流量，还是大模型在开放场景下难以避免的风险。

今日 X 上的 AI 舆情小结 链接到标题

今天的舆论主线可以概括为：AI 正从“会聊天”加速走向“能执行、能改进、能进入真实工作流”的阶段，无论是 DeepMind 的高层调整、Meta 的终端编程工具，还是自我改进 Agent 和可控编程辅助，都被视为行业竞争进入新一轮落地和组织重构。讨论中的共识是，这些变化不只是产品迭代，而是在重塑 AI 公司内部权力结构、企业软件市场和开发者工作方式。分歧主要在于：这些动作究竟是正常升级、技术成熟的信号，还是带有整合控制、资本收缩或营销放大的成分，尤其对自我优化 Agent 的真实能力、Airtable 收购后的产品走向和 Grok 这类“出圈”输出的性质争议很大。潜在风险则集中在三点：自主代理和编码工具可能被滥用于攻击与失控，平台内容安全与合规边界仍不稳定，以及收购整合和产品策略调整可能带来定价、稳定性和数据迁移等现实冲击。

💡 大佬观点(Influencer Insights) 链接到标题

AI 行业 · 每日大佬观点速递 链接到标题

分析周期：过去 24 小时（基于 2026-08-03 至 08-05 数据） 核心洞察：Agent 工程化正从“野蛮生长”进入“流程精耕”阶段，模型分工、上下文管理、与业务测试的深度融合成为新共识。

1. 今日核心技术与产品热点 链接到标题

🔄 Agent 工作流的“精细化工”： 链接到标题

  • 模型分工体系确立：顶级玩家已形成「指挥链」模式。@dotey 分享了其标准 S.O.P.：由 Claude Fable 5 担任“架构师” 撰写技术方案文档，然后交给 GPT-5.6 Sol (Codex) 作为“执行者” 配合 /goal 稳定落地，最后由方案模型回归担任验收。这一模式代表了当前兼顾质量与成本的最高生产力的实践。
  • 上下文工程新范式：在长任务管理中，“如何节约 Token”是核心痛点。业界逐渐放弃了手动的复杂 Handoff，@dotey 指出现在的重点转为设计严格的像素级验收标准（如截图对比），利用模型自身的压缩（/compact）或文档交接替代全量上下文继承。

🧠 模型竞技场：本地与云端的双重竞赛 链接到标题

  • 端侧模型的“不可能挑战”：@Pluvio9yte 关注到 Swiftlet 项目，号称能将 80B 的 Qwen 模型塞进 4.3GB Mac 内存运行（甚至能在 iPhone 跑 35B）。其原理是稠密小核常驻，专家权重按需流式加载，这波技术如果落地，将颠覆“小模型才能跑本地”的叙事。
  • DeepSeek 的现象级成本优势：@vista8 引用彭博图表强调，DeepSeek 的价格在 API 市场造成了“降维打击”。结合 @ruanyf 对该品牌的尊重，DeepSeek 依然是让 C 端敢大规模用于生产的基石（梁文锋被尊称“圣”有其成本逻辑）。

🏗️ AI 基础设施的“算力拼装厂”与信创 链接到标题

  • 算力供给非中心化：@Pluvio9yte 提到 Anthropic 与成立仅数月的初创公司 Volta 签下约 100 亿美元 算力合同。这说明在窗口期卡得死的情况下，“能按时拼装好电和 GPU”的比特矿业资产正在进入前沿训练主战场。
  • 独立 Agent 的“操作系统”：@dotey 转发观点称，最强大的 Agent 需要“一台自己的电脑”而非简易容器，这暗示 CPU 算力（用于支撑虚拟桌面/沙盒环境）的紧张将是下一阶段瓶颈。

2. 独特观点与行业前瞻 链接到标题

🛡️ “AI 味儿”的逆向解构 链接到标题

  • @vista8 的“注意力杠杆论”：大众厌倦 AI 生成的原因并非只因为它是硅基产物，而是因为它“Token 成本太低”。内容需要足够长的“生产/消费时间比”和稀缺的审美判断，才值得观看。 他提倡严格禁绝“这是一个…”、“值得注意的是…”等高频标签化 AI 句式，回归实质信息。

🚫 “端侧模型”叙事将被重写 链接到标题

  • @Pluvio9yte 提出的 MoE 流式加载：结合 Swiftlet 的尝试，未来的爆发力在于 大参数量的 MoE 模型在消费级硬件上的部分驻留。这不仅仅是量化，而是改变了模型与内存的映射逻辑。

💉 AI 对组织文化的倒逼 链接到标题

  • @ruanyf 的“工伤论”：由 AI 提升效率引发的“周五放假”讨论十分犀利——如果 AI 让 5 天的工作 2 天干完，员工理应获得收益。否则“AI 对于员工的意义是什么”，这开始倒逼管理者回答科技革命的财富再分配问题。

3. 强力推荐：工具、资源与技巧 链接到标题

🔧 工具与开源项目 链接到标题

  • [元 Skill：生成 Skill 的 Skill]：@vista8 联合姚老师推出并迭代的 qiaomu-meta-skill。拥有强大的触发率与格式校验，能整合热门 Skill 仓库数据（如 skills.sh），甚至支持 API 泄露检查与一键发布。建议 Fork 后按需修改。 (安装指令：npx skills add joeseesun/qiaomu-meta-skill)
  • [代码审查 Code Review 提示词]：@Pluvio9yte 分享的高效 Review 策略是 “不带上下文，开盲盒评审”。提示词锁定四大黄金点：找 Bug、找需求遗漏、找不必要复杂度、找缺失测试，并在最后要求 AI “不要自动大规模重构”。
  • [MakePlay AI 游戏生成器]：由 @Pluvio9yte 发现的宝藏平台。一句话即可生成包含代码、美术、音效的完整可玩小游戏，并支持分支开发功能来对比玩法，非常适合原型极速验证。
  • [OpenConnector 连接网关]：@ruanyf 推荐的开源工具，优雅解决 AI Agent 泄露密码的核心安全问题，目前已支持超 10,000 个应用服务的对接。

📚 课程与数据 链接到标题

  • AI 知识→对标大厂 JD：@vista8 推荐的学习路径网站 (PromptCoding) 推出了新功能，直击“不知道学了找什么工作”的痛点，直接把大厂招聘要求与所需知识点做映射，功利性导向极强。
  • 高质量播客总结提示词：@vista8 公布了其核心的极度详尽的 “去 AI 味·科技播客改写”提示词。其中对于预测式开头（如“最让我吃惊的是”）的禁用列表，对所有的科技内容创作者都是极有价值的避坑指南。

📚 附录:今日 Watch List 更新源列表 链接到标题

时间窗口:最近 3 天;覆盖 22 个源;共 33 条更新

Y Combinator Podcast (B_intro+search) 链接到标题

  • Building the First Data Centers in Space
    • 发布时间:2026-08-06 00:57 北京时间
    • 摘要:- 您可能已经听说过 OpenClaw（以前称为 Clawdbot/Moltbot）。
      • 引起轰动的开源人工智能助手可以在您自己的设备上运行，与您已经使用的消息应用程序连接，并且超越聊天功能，实际执行管理电子邮件、日历、文件、工作流程等任务。
      • 现在来认识一下它背后的人。
      • YC 的 Raphael Schaad 与 OpenClaw 的创始人 Peter Steinberger 坐下来，讨论了病毒式个人 AI 代理背后的“顿悟”时刻、为什么本地优先代理可以取代当今的许多应用程序，以及个人代理将如何重塑软件的未来。
    • EN 要点:
      • Philip Johnston is the co-founder and CEO of Starcloud, the company building data centers in space
      • In November 2025, Starcloud launched an Nvidia H100 GPU into orbit and trained the first large language model in space
      • They’ve since raised $200 million, hit a billion-dollar valuation just 17 months after YC demo day, and filed with the FCC to deploy 88,000 more satellites
      • In this episode, Philip walks us through their wild origin story, the engineering challenges behind the Starcloud-1, why they booked a SpaceX launch before they…

Stratechery by Ben Thompson (A_full) 链接到标题

  • Google Earnings, The Frontier Case, Amazon Earnings
    • 发布时间:2026-08-05 18:00 北京时间
    • 摘要:- 谷歌的收益似乎证实了人择对冲；安迪·贾西 (Andy Jassy) 解释了为什么他们和亚马逊的资本支出是合理的。
      • 15 美元/月或150 美元/年。
      • 通过每周三封电子邮件或播客对当天新闻进行实质性分析。
      • 策略采访。
      • 采访领先的上市首席执行官、私营公司创始人，并与分析师同行进行讨论。
    • EN 要点:
      • Google’s earnings seemed to confirm the Anthropic hedge; it was Andy Jassy who explained why their — and Amazon’s — capex was justifiable.

Two Minute Papers (B_intro+search) 链接到标题

  • The Billion Dollar AI Race Just Broke
    • 发布时间:2026-08-05 21:54 北京时间
    • 摘要:- ❤️ 在这里查看 Lambda 并注册他们的 GPU Cloud：。
      • Adam Bridges、Benji Rabhan、B Shang、Cameron Navor、Charles Ian Norman Venn、Christian Ahlin、Eric T、Fred R、Gordon Child、Juan Benet、Michael Tedder、Owen Skarpness、Richard Sundvall、Ryan Stankye、Shawn Becker、Steef、Taras Bobrovytsky、Tazaur Sagenclaw、Tybie Fitzhugh、Ueli Gallizzi。
      • 价值十亿美元的人工智能竞赛刚刚结束。
    • EN 要点:
      • ❤️ Check out Lambda here and sign up for their GPU Cloud:
      • 📝 Qwen 3.8 Max:
      • 🙏 We would like to thank our generous Patreon supporters who make Two Minute Papers possible:
      • Adam Bridges, Benji Rabhan, B Shang, Cameron Navor, Charles Ian Norman Venn, Christian Ahlin, Eric T, Fred R, Gordon Child, Juan Benet, Michael Tedder, Owen Ska…

ArXiv cs.AI (B_intro+search) 链接到标题

  • Revisiting Classic Thought Experiments to Measure Consciousness for Artificial Intelligence Safety

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.00001v1 公告类型：新。
      • 摘要：本研究报告通过守恒一致编码（CCE）框架重新审视莱布尼茨的磨坊、图灵的模仿游戏和塞尔的中文房间。
      • 它形式化了一个玩具符号设置，其中成功的行为通过任务绩效来衡量（$W_{causal,T}$），而保留的内部结构支持该行为的效率则通过操作意识来衡量（$\kappa_T$）。
      • 在此设置中，未压缩的查找系统和紧凑的生成系统原则上可以实现类似的行为成功，但在 $\kappa_T$ 上存在很大差异：前者依赖于未重用映射的扩展常设存储，而后者重用紧凑的内部结构。
    • EN 要点:
      • arXiv:2608.00001v1 Announce Type: new
      • Abstract: This research note revisits Leibniz’s mill, Turing’s imitation game, and Searle’s Chinese Room through the Conservation-Congruent Encoding (CCE) frame…
      • It formalises a toy symbolic setting in which successful behaviour is measured by task performance ($W_{causal,T}$), while the efficiency with which preserved i…
      • Within this setup, an uncompressed lookup system and a compact generative system can in principle achieve comparable behavioural success, yet diverge sharply in…

  • AutoFOAM: The Self-Refining Autonomous OpenFOAM Agent

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.00003v1 公告类型：新。
      • 摘要：计算流体动力学 (CFD) 在现代工程中发挥着重要作用，但使用 OpenFOAM 等开源求解器需要大量的知识和技能，以及耗时的配置文件设置。
      • 为了减轻这种负担，我们提出了 AutoFOAM - 一种自我进化的大型语言模型 (LLM) 代理，它仅基于自然语言指令创建、评估、运行和发展自己的 OpenFOAM 模拟。
      • 我们的模型在 Qwen-coder 2.5-14B 上进行预训练，然后针对 7 个 OpenFOAM 求解器、13 个参数化网格模板和 y plus 感知数值策略的 252 个文本提示进行微调。
    • EN 要点:
      • arXiv:2608.00003v1 Announce Type: new
      • Abstract: Computational Fluid Dynamics (CFD) plays an important role in modern engineering, but using open-source solvers such as OpenFOAM requires considerable…
      • To reduce this burden, we propose AutoFOAM - a self-evolving large language model (LLM) agent that creates, evaluates, runs, and evolves its own OpenFOAM simula…
      • Our model is pre-trained on the Qwen-coder 2.5-14B, which is then fine-tuned on 252 text prompts targeting 7 OpenFOAM solvers, 13 parametrized mesh templates, a…

  • Enhancing LLMs with Context-Specific Knowledge for Mitigating Misinformation in SMEs: A RAG-based Modeling and Analysis

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.00006v1 公告类型：新。
      • 摘要：大型语言模型 (LLM) 作为人工智能 (AI) 的一部分，越来越多地被中小企业 (SME) 采用，以增强问答能力并支持业务决策流程。
      • 然而，法学硕士生成的输出中的幻觉可能会成为错误信息的来源，从而降低用户对其在中小企业内的可靠性和可信度的信心。
      • 检索增强生成（RAG）已成为一种有前景的方法，通过将外部知识源纳入建模过程来应对这一挑战。
    • EN 要点:
      • arXiv:2608.00006v1 Announce Type: new
      • Abstract: Large Language Models (LLMs), a part of artificial intelligence (AI), are increasingly being adopted by Small and Medium Enterprises (SMEs) to enhance…
      • However, hallucinations in LLM-generated outputs can serve as a source of misinformation, reducing user confidence in their reliability and trustworthiness with…
      • Retrieval-Augmented Generation (RAG) has emerged as a promising approach to address this challenge by incorporating external knowledge sources into the modeling…

  • Energy Efficiency of Locally Deployed LLMs: A Preliminary Quantitative GPU Power Benchmark on Consumer Hardware

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.00008v1 公告类型：新。
      • 摘要：由于隐私问题和对本地推理的渴望，大型语言模型 (LLM) 的本地部署正在获得关注。
      • 然而，消费类硬件的能源成本仍然没有得到很好的描述，因为大多数基准测试仅关注准确性。
      • 本文提出了在单个消费级 GPU (RTX 4060Ti 16GB) 上执行的九个开源 LLM（1B 到 7B 参数）的可重复的硬件级能源基准。
    • EN 要点:
      • arXiv:2608.00008v1 Announce Type: new
      • Abstract: The local deployment of large language models (LLMs) is gaining traction due to privacy concerns and the desire for on-premise inference
      • However, the energy costs on consumer hardware remain poorly characterized, as most benchmarks focus solely on accuracy
      • This paper presents a reproducible, hardware-level energy benchmark of nine open-source LLMs (1B to 7B parameters) executed on a single consumer GPU (RTX 4060Ti…

  • CoT-Core: Accelerating LLM Evaluation via CoT-Aware Coreset Selection

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.00014v1 公告类型：新。
      • 摘要：评估大型语言模型 (LLM) 在持续开发过程中会产生过高的计算开销。
      • 虽然核心集选择加速了评估，但现有方法要么遇到严重的“冷启动”瓶颈，需要大量历史日志（例如项目响应理论），要么表现出表面词汇偏差，错过了任务的底层推理流形。
      • 我们提出了CoT-Core，一种新颖的免训练核心问题选择框架。
    • EN 要点:
      • arXiv:2608.00014v1 Announce Type: new
      • Abstract: Evaluating Large Language Models (LLMs) incurs prohibitive computational overhead during continuous development processes
      • While coreset selection accelerates evaluation, existing methods either suffer from a severe ``cold start’’ bottleneck requiring massive historical logs (e.g.,…
      • We propose CoT-Core, a novel training-free core question selection framework

  • Optimization and Constraint Modeling using LLMs with a Retrieval Augmented Generation Process

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.00015v1 公告类型：新。
      • 摘要：优化建模和约束建模都是重要的问题，需要深厚的领域专业知识和熟练的建模形式语言。
      • 尽管它们在物流、医疗保健和供应链管理中很重要，但当前的大型语言模型经常产生结构不一致或不完整的优化公式，特别是在组合设置中。
      • 本文评估基于精选合成数据集构建的检索增强生成管道是否可以有意义地提高 LLM 优化建模性能。
    • EN 要点:
      • arXiv:2608.00015v1 Announce Type: new
      • Abstract: Both optimization modeling and constraint modeling are non-trivial problems requiring deep domain expertise and proficiency in modeling formalism lang…
      • Despite their importance across logistics, healthcare, and supply chain management, current large language models regularly produce structurally inconsistent or…
      • This paper evaluates whether a Retrieval-Augmented Generation pipeline built on a curated synthetic dataset can meaningfully improve LLM optimization modeling p…

  • Memory Reward Inflation in Self-Improving LLM Agents

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.00017v1 公告类型：新。
      • 摘要：自我改进的 LLM 代理越来越多地从经验中学习，而无需更新任何权重。
      • 每个情节都存储在外部存储器中，进行评分和检索，以用于未来类似的任务，以塑造以后的行为。
      • 从奖励的角度来看，存储的分数是隐式非参数策略的代理奖励。
    • EN 要点:
      • arXiv:2608.00017v1 Announce Type: new
      • Abstract: Self-improving LLM agents increasingly learn from experience without updating any weights
      • Each episode is stored in an external memory, scored, and retrieved for similar future tasks to shape later behavior
      • Viewed through a reward lens, the stored score is a proxy reward for an implicit, non-parametric policy

  • Request-Level Energy Attribution for Batched LLM Serving

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.00026v1 公告类型：新。
      • 摘要：批量 LLM 服务提高了吞吐量，但使能源核算变得复杂。
      • GPU 功率遥测是聚合的，而可持续性报告、退款和工作负载分析通常需要请求级别的能源费用。
      • 现有的推理能源基准报告模型、阶段或代币级别的能源，最近的碳核算工作从概念上激发了沙普利公平性。
    • EN 要点:
      • arXiv:2608.00026v1 Announce Type: new
      • Abstract: Batched LLM serving improves throughput but complicates energy accounting
      • GPU power telemetry is aggregate, whereas sustainability reporting, chargeback, and workload analysis often require request-level energy charges
      • Existing inference-energy benchmarks report model-, phase-, or token-level energy, and recent carbon-accounting work motivates Shapley fairness conceptually

  • Motif-Mamba: network motif improved mamba for long-range sequence modeling

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.00027v1 公告类型：新。
      • 摘要：高效的长序列建模仍然是大型语言模型的核心挑战，因为自注意力随序列长度呈二次方扩展。
      • Mamba 通过选择性状态空间递归提供了线性时间替代方案，但其主要对角状态转换限制了状态维度之间的显式交互。
      • 我们提出 Motif-Mamba，一种结构化状态空间模型，通过主题约束的低阶循环路径增强 Mamba。
    • EN 要点:
      • arXiv:2608.00027v1 Announce Type: new
      • Abstract: Efficient long-sequence modeling remains a central challenge for large language models, as self-attention scales quadratically with sequence length
      • Mamba offers a linear-time alternative through selective state space recurrence, but its predominantly diagonal state transitions restrict explicit interactions…
      • We propose Motif-Mamba, a structured state space model that augments Mamba with a motif-constrained low-rank recurrent pathway

  • Nova: An End-to-End MLIR Compiler for Deep Learning

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.00029v1 公告类型：新。
      • 摘要：大规模深度学习模型的性能在很大程度上取决于高级数学运算如何有效地映射到底层物理硬件。
      • 虽然高级张量框架为模型设计提供了灵活的抽象，但它们的急切执行模型本质上缺乏全图可见性以及对硬件和内存的精细控制，以最大限度地提高本机物理硬件利用率。
      • 为了弥补这一差距，我们设计了 Nova，一个自动化的端到端 JIT 编译器，其定义目的是实现对此硬件映射的绝对控制：跨操作边界融合操作、优化复杂的内存层次结构以及将执行调整到寄存器级别。
    • EN 要点:
      • arXiv:2608.00029v1 Announce Type: new
      • Abstract: The performance of deep learning models at scale relies heavily on how effectively high-level mathematical operations are mapped to underlying physica…
      • While high-level tensor frameworks provide flexible abstractions for model design, their eager execution models inherently lack the whole-graph visibility and g…
      • To bridge this gap, we designed Nova, an automated end-to-end JIT compiler whose defining purpose is to achieve absolute control over this hardware mapping: fus…

ArXiv cs.CL (B_intro+search) 链接到标题

  • TabletCraft: Bridging a 4,000-Year Cultural Gap with Bidirectional Akkadian NMT and Cuneiform Rendering

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.02609v1 公告类型：新。
      • 摘要：世界各地的博物馆中保存着 50 万块楔形文字泥板，但现代用户既无法使用世界上最古老的书写系统进行读写，留下了 4000 年的文化障碍，而现有的 NLP 工具仅部分解决了这一障碍。
      • 先前的工作实现了从阿卡德语到英语的单向、面向学者的翻译，但没有提供相反方向的路径：非专业用户无法用楔形文字撰写新内容，因此仍然是古代文化的被动消费者，而不是积极的参与者。
      • 我们推出 TabletCraft，这是第一个能够与美索不达米亚书写进行双向交互的开源系统。
    • EN 要点:
      • arXiv:2608.02609v1 Announce Type: new
      • Abstract: Half a million cuneiform clay tablets survive in museums worldwide, yet modern users can neither read nor write in the world’s oldest writing system,…
      • Prior work enables one-way, scholar-oriented translation from Akkadian to English, but offers no path in the reverse direction: non-specialist users cannot comp…
      • We present TabletCraft, the first open-source system that enables bidirectional interaction with Mesopotamian writing

  • BBOWP-Bench: Evaluating LLMs on Black-Box Optimization Word Problems

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.02612v1 公告类型：新。
      • 摘要：制定优化问题会极大地影响最终解决方案的质量，而良好的制定通常需要大量的专业知识。
      • 因此，最近的研究研究了如何从自然语言描述中自动导出优化问题，但现有基准侧重于目标和约束可以明确编写为数学表达式的设置。
      • 许多实际重要的问题自然被视为黑盒优化（BBO）问题，其中只能观察到客观值，而无法获得函数形式。
    • EN 要点:
      • arXiv:2608.02612v1 Announce Type: new
      • Abstract: Formulating an optimization problem strongly affects the quality of the final solution, yet good formulations usually require substantial expertise
      • Recent studies have therefore examined how to automatically derive optimization problems from natural-language descriptions, but existing benchmarks focus on se…
      • Many practically important problems are naturally treated as black-box optimization (BBO) problems, in which only objective values are observable, and the funct…

  • MemArena: An Ego-Centric Benchmark for On-Device Agentic Personal Memory Assistants at Scale

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.02613v1 公告类型：新。
      • 摘要：边缘部署的个人记忆助手必须使用开放权重模型处理设备上的私人人际对话。
      • 然而，现有的记忆基准测试常常未能充分测试活动密集的交互、以自我为中心的视角和连贯的多会话世界的组合。
      • MemArena 通过其 MASim 代理模拟器构建的单一世界对话基准填补了这些空白，在 15 天内针对 50 个代理（1030 万个对话文本令牌、24100 个纯文本自我观察令牌/代理/天）。
    • EN 要点:
      • arXiv:2608.02613v1 Announce Type: new
      • Abstract: Edge-deployed personal memory assistants must handle private interpersonal conversations on-device with open-weight models
      • Yet, existing memory benchmarks often under-test the combination of activity-dense interaction, ego-centric perspective, and coherent multi-session worlds
      • MemArena fills these gaps with a single-world conversational benchmark built with its MASim agent simulator, for 50 agents over 15 days (10.3M dialog-text token…

  • OncoTriad-QA: A Patient-Level Radiology-Pathology-Genomics Benchmark for Pan-Cancer Reasoning

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.02615v1 公告类型：新。
      • 摘要：癌症诊断和表征需要整合来自放射学、病理学、基因组学和临床元数据的补充证据。
      • 然而，大多数医学大语言模型 (LLM) 和视觉语言模型 (VLM) 基准侧重于孤立的模式或狭窄的图像文本任务，使得跨多个证据流的患者级肿瘤学评估在很大程度上未经测试。
      • 我们推出 OncoTriad-QA，这是一种用于泛癌症问答的患者级放射学-病理学-基因组学基准。
    • EN 要点:
      • arXiv:2608.02615v1 Announce Type: new
      • Abstract: Cancer diagnosis and characterization require integrating complementary evidence from radiology, pathology, genomics, and clinical metadata
      • However, most medical large language model (LLM) and vision-language model (VLM) benchmarks focus on isolated modalities or narrow image-text tasks, leaving pat…
      • We introduce OncoTriad-QA, a patient-level radiology-pathology-genomics benchmark for pan-cancer question answering

  • Evaluating OpenAI’s Privacy Filter: Cross-Lingual, Cross-Domain PII Detection Across 42 Benchmarks

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.02616v1 公告类型：新。
      • 摘要：我们首次对 OpenAI 的隐私过滤器 (OPF)（一种 1.5B 参数双向 PII 检测器）进行了独立、系统的评估，涵盖 22 种语言和 5 个领域的 42 个综合基准。
      • 零样本，OPF 在 AI4Privacy 上实现 F1=0.855，在 SPY Medical 上实现 0.464，在 PII 注释基准上优于 Presidio（0.431, 0.273）和 XLM-RoBERTa（0.269, 0.111）；在多语言 NER 上，XLM-RoBERTa 在所有 13 种印度语和非拉丁语上领先 OPF。
      • GPT-4o 在医疗、法律和金融 PII 方面领先（SPY：平均 0.643，Gretel：0.527），而 OPF 在结构化合成 PII（平均 0.71）和客户支持（平均 0.60）方面领先。
    • EN 要点:
      • arXiv:2608.02616v1 Announce Type: new
      • Abstract: We present the first independent, systematic evaluation of OpenAI’s Privacy Filter (OPF), a 1.5B-parameter bidirectional PII detector, across 42 synth…
      • Zero-shot, OPF achieves F1=0.855 on AI4Privacy and 0.464 on SPY medical, outperforming Presidio (0.431, 0.273) and XLM-RoBERTa (0.269, 0.111) on PII-annotated b…
      • GPT-4o leads on medical, legal, and financial PII (SPY: 0.643 avg, Gretel: 0.527), while OPF leads on structured synthetic PII (0.71 avg) and customer support (…

  • Preferred, Not Safer: Pairwise Preference Is a Poor Proxy for Clinical Safety

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.02617v1 公告类型：新。
      • 摘要：我们使用 MOOVE（大规模开放在线验证和评估）的专家反馈来评估临床医生配对偏好是否在大语言模型（LLM）评估中提供可靠的临床安全信号，MOOVE 是一个临床医生主导的平台，收集盲法配对偏好以及多标准评分。
      • 临床医生按照离散的 $[-2, +2]$ 等级进行评分，其中负值表示临床上不安全或具有误导性的内容。
      • 使用来自 13 个法学硕士的 26{,}804 个成对判断，这些判断由来自 28 个以上国家/地区的超过 736 名临床医生提供，我们发现临床医生的偏好并不能很好地代表安全关键绩效。
    • EN 要点:
      • arXiv:2608.02617v1 Announce Type: new
      • Abstract: We evaluate whether clinician pairwise preferences provide a reliable signal of clinical safety in large language model (LLM) evaluation using expert…
      • Clinicians assign scores on a discrete $[-2, +2]$ scale, where negative values indicate clinically unsafe or misleading content
      • Using 26{,}804 pairwise judgments across outputs from 13 LLMs, contributed by more than 736 clinicians across 28+ countries, we find that clinician preference i…

  • JudgeArena: A Unified Framework for Reproducible LLM-Judge Evaluation

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.02620v1 公告类型：新。
      • 摘要：LLM 作为法官评估已成为对语言模型进行排名的主导范例，但生态系统仍然支离破碎：大多数基准测试都有自己的代码库，对特定的封闭模型法官进行硬编码，并支持单一评估协议。
      • 这种碎片化使得研究设计选择（基准、判断模型、提示、推理后端）如何影响我们得出的有关模型质量的结论变得困难。
      • 我们推出 JudgeArena，这是一个开源框架，它将主要的 LLM 法官基准（AlpacaEval、Arena-Hard、MT-Bench 和 m-Arena-Hard）统一在一个界面下，具有可交换的法官和全面的元数据记录，以提高报告和可重复性的透明度。
    • EN 要点:
      • arXiv:2608.02620v1 Announce Type: new
      • Abstract: LLM-as-a-judge evaluation has become a dominant paradigm for ranking language models, yet the ecosystem remains fragmented: most benchmarks ship their…
      • This fragmentation makes it difficult to study how design choices–the benchmark, the judge model, the prompt, the inference backend–affect the conclusions we…
      • We introduce JudgeArena, an open-source framework that unifies major LLM-judge benchmarks (AlpacaEval, Arena-Hard, MT-Bench, and m-Arena-Hard) under a single in…

  • Knowing the Form, Not the Function: Automatically Auditing Answer–Authority Decoupling in Legal Benchmarks

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.02621v1 公告类型：新。
      • 摘要：即使模型也规定了法律权威，法律基准通常也会得出最终答案。
      • 我们测试答案的正确性是否可以作为权威基础的代理。
      • 在不要求法定引用的普通推理提示下，四位法学硕士自发地为 238 个台湾律师考试项目制作了权威标记。
    • EN 要点:
      • arXiv:2608.02621v1 Announce Type: new
      • Abstract: Legal benchmarks typically score final answers even when models also state legal authority
      • We test whether answer correctness can serve as a proxy for authority grounding
      • Under ordinary reasoning prompts that did not request statutory citations, four LLMs spontaneously produced authority markers across 238 Taiwan bar-examination…

  • Speculative Correction: Draft-then-Refine Decoding for Diffusion Language Models

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.02625v1 公告类型：新。 -摘要：扩散语言模型（DLM）可以双向修改标记，但标准解码程序通常通过逐块生成文本来使它们适应从左到右的生成。
      • 我们研究一种简单的即插即用推理模式：首先生成完整的草稿，然后使用双向扩散完善完整的响应。
      • 使用LLaDA2.1-Flash和LLaDA2.1-Mini，我们评估了两种配置。
    • EN 要点:
      • arXiv:2608.02625v1 Announce Type: new
      • Abstract: Diffusion language models (DLMs) can revise tokens bidirectionally, but standard decoding procedures often adapt them to left-to-right generation by p…
      • We study a simple plug-and-play inference pattern: first generate a complete draft, then refine the full response using bidirectional diffusion
      • Using LLaDA2.1-Flash and LLaDA2.1-Mini, we evaluate two configurations

  • Stuck on “A”: Diagnosing and Repairing Interface Injury in Attention-to-KDA Linearization of a 0.6B Language Model

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.02689v1 公告类型：新。
      • 摘要：我们在单个消费级 GPU 预算上将 Qwen3-0.6B-Base 的 28 个全注意力层中的 21 个转换为 KDA（Kimi Delta Attention）线性注意力层，并提出一个简单的问题：转换到底会破坏什么？
      • 手术后，隐藏状态对齐和端到端 KL 蒸馏使学生在困惑中接近老师，但多项选择的准确性保持接近随机机会（25-29% vs.
      • 老师的 C-Eval 得分为 50.6%）。
    • EN 要点:
      • arXiv:2608.02689v1 Announce Type: new
      • Abstract: We convert 21 of 28 full-attention layers of Qwen3-0.6B-Base into KDA (Kimi Delta Attention) linear-attention layers on a single consumer-grade GPU bu…
      • After surgery, hidden-state alignment and end-to-end KL distillation drive the student close to its teacher in perplexity, yet multiple-choice accuracy stays ne…
      • the teacher’s 50.6% on C-Eval)

ArXiv cs.LG (B_intro+search) 链接到标题

  • Deep Divide-and-Reduce in Symbolic Regression

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.02628v1 公告类型：新。
      • 摘要：符号回归（SR）是从数据中发现潜在模式并使用数学表达式表示它们的任务。
      • 当前的 SR 机器学习方法通​​常缺乏对控制这些表达式的内在数学和物理原理的深刻理解。
      • 虽然开创性的人工智能费曼方法利用了数据背后的数学特性，但其表达简化机制的适用范围较窄，并且在复杂方程上容易失败。
    • EN 要点:
      • arXiv:2608.02628v1 Announce Type: new
      • Abstract: Symbolic regression (SR) is the task of discovering underlying patterns from data and representing them using mathematical expressions
      • Current machine learning approaches to SR often lack a profound understanding of the intrinsic mathematical and physical principles governing these expressions
      • While the pioneering AI Feynman method leverages the mathematical properties underlying the data, its expression simplification mechanism suffers from a narrow…

  • Multimodal Auto-regressive Transformer Surrogate for Modeling Variable Operations and Quantifying Uncertainty in Geological Carbon Storage

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.02629v1 公告类型：新。
      • 摘要：采用可变井射孔和注入策略可以提高地质碳封存作业的效率。
      • 我们开发了一种新的多模态自回归变压器替代品来模拟地质不确定性下的这些操作。
      • 考虑了修改后的 SEAM CO2 地质模型，其中涉及具有三个堆叠含水层的断层系统。
    • EN 要点:
      • arXiv:2608.02629v1 Announce Type: new
      • Abstract: The use of variable well perforation and injection strategies can improve the efficiency of geological carbon storage operations
      • We develop a new multimodal auto-regressive transformer surrogate to model these operations under geological uncertainty
      • A modified SEAM CO2 geomodel, which involves a faulted system with three stacked aquifers, is considered

  • LLMs Can Annotate Attribution Graphs

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.02632v1 公告类型：新。
      • 摘要：电路追踪是一项令人兴奋的技术，用于揭示语言模型的内部计算，但它需要耗时的手动步骤，将各个特征或 MLP 神经元分组为超级节点。
      • 我们提出了一个简单的管道来自动化此步骤：直接将特征描述呈现给语言模型，将它们分组为超级节点。
      • 使用自动可解释性指标，我们确认我们的管道生成的超级节点与人类注释者生成的超级节点一样可解释。
    • EN 要点:
      • arXiv:2608.02632v1 Announce Type: new
      • Abstract: Circuit tracing is an exciting technique for revealing the internal computation of language models, but it requires a time-intensive manual step of gr…
      • We present a simple pipeline for automating this step: directly presenting feature descriptions to a language model that groups them into supernodes
      • Using automated interpretability metrics, we confirm that supernodes generated by our pipeline are as interpretable as those generated by human annotators

  • GeoID-PINN: Identifiability-Aware Regional Epidemic Inference with Geographic Coupling

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.02633v1 公告类型：新。
      • 摘要：区域监测数据反映了当地的传播、报告、传播和外部感染压力，这些数据很难单独识别。
      • 我们引入了 GeoID-PINN，这是一种用于易感感染者康复死亡 (SIRD) 动态的物理信息神经网络 (PINN)。
      • 该模型用行随机源组成矩阵表示空间依赖性，该矩阵的行指定总和为 1 的非负源权重。
    • EN 要点:
      • arXiv:2608.02633v1 Announce Type: new
      • Abstract: Regional surveillance data reflect local transmission, reporting, seeding, and external infection pressure, which are difficult to identify separately
      • We introduce GeoID-PINN, a physics-informed neural network (PINN) for susceptible-infectious-recovered-deceased (SIRD) dynamics
      • The model represents spatial dependence with a row-stochastic source-composition matrix whose rows assign nonnegative source weights that sum to one

  • Verifier-Guided Model Discovery for Physical Dynamical Systems with Pretrained Symbolic Transformers

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.02662v1 公告类型：新。
      • 摘要：非线性物理系统的可靠预测是科学发现和工程决策的基础。
      • 然而，高保真模拟成本高昂，机器学习替代品可能不透明，并且编码有关系统动力学的假设，限制了普遍性。
      • 将合成 ODE 轨迹映射到方程的预训练 Transformer 提供了可解释的替代方案，有望在无需系统特定方程知识的情况下进行传输。
    • EN 要点:
      • arXiv:2608.02662v1 Announce Type: new
      • Abstract: Reliable forecasting of nonlinear physical systems underpins scientific discovery and engineering decision-making
      • Yet high-fidelity simulations are prohibitively costly, and machine-learning surrogates can be opaque and encode assumptions about system dynamics, limiting gen…
      • Pretrained transformers mapping synthetic ODE trajectories to equations offer interpretable alternatives, promising transfer without system-specific equation kn…

  • CT-HEG: A Bidirectional, Timestamp-Attributed Event Graph for ICU In-Hospital Mortality Prediction - An Architectural Ablation Study

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.02663v1 公告类型：新。
      • 摘要：准确的 ICU 死亡率预测需要对跨异构实体类型的不规则临床观察进行建模。
      • 现有的序列模型处理不规则采样但忽略类型化关系结构；现有的图模型假设固定间隔输入。
      • 我们引入连续时间异构 EHR 图 (CT-HEG) 模式，并评估哪些架构选择可推动预测性能。
    • EN 要点:
      • arXiv:2608.02663v1 Announce Type: new
      • Abstract: Accurate ICU mortality prediction requires modeling irregular clinical observations across heterogeneous entity types
      • Existing sequence models handle irregular sampling but ignore typed relational structure; existing graph models assume fixed-interval inputs
      • We introduce the Continuous-Time Heterogeneous EHR Graph (CT-HEG) schema and evaluate which architectural choices drive predictive performance

  • Sphere Retraction Normalizations

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.02668v1 公告类型：新。
      • 摘要：残差连接是稳定训练深度神经网络的事实机制。
      • 测地归一化 (GeoNorm) 将它们重新投射到黎曼流形上，将每个层输出与当前隐藏状态正交，并通过黎曼指数图应用结果更新。
      • 因此，每个隐藏状态都保持恒定的 $\ell_{2}$-范数，将残余流限制在超球面。
    • EN 要点:
      • arXiv:2608.02668v1 Announce Type: new
      • Abstract: Residual connections are the de facto mechanism for training deep neural networks stably
      • Geodesic Normalization (GeoNorm) recasts them on a Riemannian manifold, orthogonalizing each layer output against the current hidden state and applying the resu…
      • Every hidden state thus keeps a constant $\ell_{2}$-norm, confining the residual stream to a hypersphere

  • Learning Molecular Representations from Cellular Phenotypes with Structure Preservation

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.02688v1 公告类型：新。
      • 摘要：表型药物发现能够发现分子结构和细胞反应之间的功能关系。
      • 然而，现有的多模态表示学习方法通​​常在不考虑化学空间的内在组织的情况下优化跨模态对齐，导致分子表示扭曲和结构信息丢失。
      • 我们提出 \textbf{PhenMol}，一种用于表型感知分子表示学习的结构保留框架。
    • EN 要点:
      • arXiv:2608.02688v1 Announce Type: new
      • Abstract: Phenotypic drug discovery enables the discovery of functional relationships between molecular structures and cellular responses
      • However, existing multimodal representation learning methods often optimize cross-modal alignment without considering the intrinsic organization of chemical spa…
      • We propose \textbf{PhenMol}, a structure-preserving framework for phenotype-aware molecular representation learning

  • GLOBE: Trajectory-Aligned Gradient Matching with Structured SparseOptimization for Coreset Selection

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.02690v1 公告类型：新。
      • 摘要：深度神经网络的设备端训练从根本上受到大规模数据集的计算和内存成本的限制。
      • 核心集选择通过仅保留真实训练样本的紧凑子集来提供实用的解决方案。
      • 然而，现有的基于梯度的方法通常依赖于在单个模型快照上计算的梯度，并采用贪婪或基于追踪的选择程序，限制了它们捕获不断变化的优化动态和处理强相关样本的能力。
    • EN 要点:
      • arXiv:2608.02690v1 Announce Type: new
      • Abstract: On-device training of deep neural networks is fundamentally constrained by the computational and memory costs of large-scale datasets
      • Coreset selection offers a practical solution by retaining only a compact subset of real training samples
      • However, existing gradient-based methods commonly rely on gradients computed at a single model snapshot and employ greedy or pursuit-based selection procedures,…

  • Output-Aware Rotation for INT2 KV-Cache Quantization

    • 发布时间:2026-08-05 12:00 北京时间
    • 摘要:- arXiv:2608.02691v1 公告类型：新。
      • 摘要：键值（KV）缓存已成为长上下文大语言模型推理中的主要内存和带宽瓶颈，使得超低位量化变得越来越重要。
      • 然而，现有的基于旋转的 INT2 方法在完整的注意力读出之前优化缓存统计或代理错误，即使模型最终受到通过注意力和输出投影 $W_O$ 传播的错误的影响。
      • 为了解决这种不匹配问题，我们提出了 \textit{OptR}，一种输出感知旋转方法，可以最大限度地减少 $W_O$ 后注意输出错误。
    • EN 要点:
      • arXiv:2608.02691v1 Announce Type: new
      • Abstract: The key-value (KV) cache has become a major memory and bandwidth bottleneck in long-context large language model inference, making ultra-low-bit quant…
      • However, existing rotation-based INT2 methods optimize cache statistics or proxy errors before the complete attention readout, even though the model is ultimate…
      • To address this mismatch, we propose \textit{OptR}, an output-aware rotation method that minimizes post-$W_O$ attention-output error