从 CUDA 到 MLX:K-Search 如何把数十年内核经验带到 Apple Silicon
IBM Research 与 UC Berkeley Sky Lab 将演化式内核搜索框架 K-Search 扩展到 Apple 的 MLX,并加入结构化 CUDA 到 MLX 翻译层,让已有 CUDA 内核作为知识库适配 Apple Silicon。
读者可看到 CUDA 优化知识如何被结构化迁移到 Apple Silicon,以及翻译层对最终性能的具体贡献。
IBM Research 与 UC Berkeley Sky Lab 将演化式内核搜索框架 K-Search 扩展到 Apple 的 MLX,并加入结构化 CUDA 到 MLX 翻译层,让已有 CUDA 内核作为知识库适配 Apple Silicon。
读者可看到 CUDA 优化知识如何被结构化迁移到 Apple Silicon,以及翻译层对最终性能的具体贡献。
伯克利 AI 研究团队提出 ABBEL 框架,将 LLM 的摘要内容隔离为自然语言"信念状态"并加以监督,以解决递归摘要带来的性能损失。
在协作编程基准 CollabBench 上,采用基于重构的信念评分后,ABBEL 将全上下文模型的性能差距缩小约 50%,训练步数从 100 步降至 50 步,峰值上下文 token 长度也显著低于全上下文设置。
UC Berkeley 的 Aditya G. Parameswaran 等人提出,随着推理成本从 2023 年初 GPT-4 级约 $30/百万 token 降至如今不足 $1、部分低于 $0.10,数据系统面临三大新挑战:为智能体而建、由智能体运行、由智能体合成。
伯克利人工智能研究实验室(BAIR)公布 2026 届博士毕业生名单,其研究覆盖机器人、具身智能、大语言模型与推理、计算机视觉、生成建模、AI 安全、人机交互及 AI for Science 等方向。
毕业生去向包括 OpenAI、Mistral AI、Physical Intelligence、Amazon 等机构,以及 UCLA、普林斯顿 CITP 等学术岗位,部分人正在创业或寻找下一步机会。
伯克利 AI 研究团队梳理了并行推理领域进展,指出当前方法(如 Self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild!
伯克利 AI 研究团队提出梯度规划器 GRASP,通过将轨迹提升到虚拟状态实现跨时间并行优化、向状态迭代直接注入随机性以探索、并重塑梯度让动作获得清晰信号,同时避开高维视觉模型中脆弱的"状态-输入"梯度。
该方法针对长时程规划中梯度爆炸/消失、非贪心结构导致的局部极小值以及高维隐空间失效模式等问题,使基于梯度的规划更加稳健。
Berkeley AI Research 提出 SPEX 与 ProxySPEX 算法,可在特征、数据与模型组件归因中大规模识别驱动 LLM 输出的关键交互。
SPEX 利用稀疏性与低阶性将交互搜索转化为稀疏恢复问题,ProxySPEX 进一步借助层级结构,以约 10 倍更少的消融实验达到 SPEX 的性能。
Andrej Karpathy 发布 microgpt,一个 200 行、无依赖的纯 Python 单文件项目,完整包含数据集、tokenizer、autograd 引擎、GPT-2 式网络架构、Adam 优化器、训练循环和推理循环。
伯克利 AI 研究团队提出一套基于互信息的成像系统评估与优化框架,可直接从含噪测量中估计信息量,并在彩色摄影、射电天文、无透镜成像和显微成像四个领域验证其能预测解码器性能。
该方法优化出的设计可媲美端到端 SOTA 方法,同时占用更少内存、更少算力,且无需针对任务设计专用解码器。