跳到正文

#教程/实践

10月21日周三
  1. AWS Machine Learning BlogAI 评分34

    Eon 如何在 Amazon Bedrock AgentCore 上用 MCP Gateway 构建多云调查能力

    Eon 基于 Amazon Bedrock AgentCore 搭建了统一的 MCP Gateway,把原先分散在各工具上的凭证和本地 MCP 进程替换为单一认证网关,让开发者和自主智能体统一访问跨 AWS、GCP、Azure 的调查工具。

    新工程师配置全部调查工具的时间从约两天缩短到约两分钟。该方案组合了 AgentCore Gateway、Policy、Runtime 和 Identity:人类通过企业 SSO 经 Amazon Cognito 获取 JWT 接入,智能体则用 client_credentials 授权直连网关。

  2. AWS Machine Learning BlogAI 评分38

    如何在 AWS 上用 X.509 PKI 保障 AI 智能体身份安全

    AWS 与 Keyfactor 联合发布参考架构,用 X.509 PKI 为 AI 智能体建立可验证、可撤销的加密身份,填补 MCP 缺乏内置认证标准的空白。

    方案基于 Keyfactor EJBCA 与 Amazon Bedrock、AWS Strands Agents SDK,采用四类机制:签名请求信封提供每次调用的持有证明,用户签名的委托断言让智能体无需共享凭证即可获得授权,RFC 8693 受众限定 token 限制单个 token 泄露的影响范围,实时 OCSP 吊销检查将凭证变更即时同步到所有智能体。架构分用户认证、智能体间认证、MCP 认证三层,分别校验用户身份与凭证绑定、调用方身份与请求新鲜度、完整授权链。

  3. AWS Machine Learning BlogAI 评分58

    AWS Agent Registry 如何让智能体在运行时发现工具

    AWS 发布教程,介绍用 AWS Agent Registry 让智能体在运行时按语义搜索发现 MCP 服务器和 A2A 智能体,再动态构建客户端执行请求。

    Registry 记录包含可搜索描述和协议描述符,但不返回调用凭证,认证需通过 Cognito OAuth 或 boto3 签名另行获取;只有完成审批流程的记录才会出现在可发现数据面。示例部署订单管理 MCP 服务器、两个 A2A 智能体和编排器,演示仅 MCP、MCP 加 A2A、以及工具名不含“退货退款”但靠描述语义匹配三种场景。作者指出小规模稳定目录或固定流水线仍适合构建期硬编码,搜索质量取决于描述与查询设计。

  4. GitHub Blog · AI & MLAI 评分22

    三位 Java Champion 如何用 GitHub Copilot 提升生产力

    三位拥有十余年 Java 经验的 Java Champion 分享了在生产与开源项目中使用 GitHub Copilot 的具体做法。

    Hypersistence 创始人 Vlad Mihalcea 用 Copilot 开发 Optimizer 事件历史 Web 应用,原本需数周的任务两天完成,并基于自己 65 篇已发表文章创建自定义技能,让生成文本贴近本人写作风格。42talents 的 Patrick Baumgartner 用 Copilot 将 15 份演示中约 900 张教学幻灯片从 Reveal.js 迁移到 Marp,通过截图对比和并排运行验证动画等细节。三人均强调开发者仍需提供上下文、审查生成代码并保障可维护性。

10月20日周二
  1. AWS Machine Learning BlogAI 评分34

    用 AtScale 和 Amazon Bedrock AgentCore 在 AWS 上为智能体 AI 构建语义层

    AWS 博客展示如何用 AtScale 作为语义层、配合 Amazon Bedrock AgentCore 构建面向智能体 AI 的 Customer 360 方案。

    AtScale 采用维度模型(维度、层级、度量),用基于 YAML 的开放规范 Semantic Modeling Language 编写并纳入 Git 版本管理,单个已部署模型可同时通过 SQL、XMLA 和 MCP 三种协议对外暴露。

  2. AWS Machine Learning BlogAI 评分34

    用 Denodo 和 Amazon Bedrock AgentCore 在 AWS 上为智能体 AI 构建语义层

    本教程演示如何用 Denodo Platform 作为语义层、配合 Amazon Bedrock AgentCore 托管智能体,构建跨 AWS 与本地数据源的 Customer 360 查询方案。

    Denodo 将 Amazon Aurora、Amazon Redshift 和本地 PostgreSQL 中的客户资料、订单历史与奖励账户三张表联邦为单一 customer_360 视图,智能体通过 Denodo MCP Server 以 VQL 查询,无需 ETL 搬移数据。

  3. GitHub Blog · AI & MLAI 评分28

    如何在 VS Code 中继续 GitHub Copilot 应用会话

    GitHub Copilot 应用中的会话可直接在 VS Code 中打开并继续,对话、代码改动和工作上下文均保持不变。

    在会话中选择 Open in VS Code 后,VS Code 会用该会话关联的 worktree 打开项目,并在 Copilot 侧边栏显示原会话,任务、计划和对话记录一并保留。用户可在源代码管理视图中逐行审查 diff,直接手动修改文件,再用集成终端运行测试和本地验证。完成后可通过源代码管理视图或终端提交并推送改动到该会话对应的 pull request。前提是已安装并登录 Copilot 应用、VS Code 连接同一 GitHub 账号,且拥有该会话仓库的推送权限。

  4. AWS Machine Learning BlogAI 评分55

    AWS 在 vLLM 中实现双向 KV 传输,降低多轮智能体负载的 TTFT

    AWS 团队为 vLLM 加入双向 KV 传输,让 decode 节点在后续轮次把已算好的 KV 缓存回传给 prefill 节点,避免重复计算对话历史。

    在 Amazon EC2 P5en 实例、EFA 网络、1P1D 部署下,最长提示长度时 Qwen3-32B 的 TTFT 降低约 1.6 倍,zai-org/GLM-5-FP8 降低约 3.3 倍,结果随负载和配置变化。该功能由可配置的 KV 缓存保留 TTL(decoder_kv_blocks_ttl,默认 480 秒)和重算阈值(kv_recompute_threshold,默认 64 tokens)控制,并需要配合 KV-cache-aware 路由使用。

  5. AWS Machine Learning BlogAI 评分42

    vLLM 推出基于 push 的 KV 传输,提升分离式推理的 TTFT 与 TPOT

    vLLM 新增 push 模式的 NIXL connector,把 prefill 之后的传输协调与准备工作移出首 token 关键路径,从而降低 TTFT 并提升 TPOT。

    在基于 Amazon EC2 P5en 实例、通过 EFA 互联的 1P1D 部署上,Qwen3-32B 的测试显示 push 模式相比默认 pull 模式 TTFT 最高提升 3 倍,TPOT 最高改善 30%,具体结果取决于负载与配置。该功能先在搭载 EFA 的 AWS Trainium 集群上构建并验证,随后作为与加速器无关的特性贡献给 vLLM,上述数据来自 GPU 集群,表明收益可延续到 GPU。

  6. AWS Machine Learning BlogAI 评分34

    Deepgram 如何用 AWS Trainium 优化大规模语音 AI

    Deepgram 将 Nova-3 语音转文字模型迁移到 AWS Trainium2,在离线批处理负载上每美元处理的音频量比原有算力方案提升 11%–70%。

    迁移从标准 PyTorch 代码起步,借助 TorchNeuron 编译后模型全部运算均在 Trainium2 上执行、无 CPU 回退,并通过 NKILib 融合算子与手写 NKI 内核继续调优:FFN 内核在 batch size 96 时延迟降低 2.0x,depthwise conv1d 提速 1.5x,自研 conv2d 内核解锁了 32 以上的 batch size。

10月17日周六
  1. AWS Machine Learning BlogAI 评分36

    用 Amazon Bedrock AgentCore 构建 AI 智能体的生产级评估框架

    AWS 销售、营销与全球服务(SMGS)运营团队基于 Amazon Bedrock AgentCore 搭建了一套面向生产环境的多智能体持续质量评估框架,用于服务全球 AWS 现场销售。

    该框架以 AgentCore Evaluations 为核心,配合 Amazon Bedrock Guardrails、CloudWatch、S3、Redshift、Amazon Quick 和 Lambda,检查回答是否有据、正确,并追溯失败根因。

10月15日周四
  1. Simon WillisonAI 评分22

    Claude Opus 5.5 Max 用 3 小时做出 Three.js 游戏「Tree Appreciator」

    Simon Willison 用 Claude iPhone 默认应用的聊天模式,让 Claude Opus 5.5 Max 构建了一个名为「Tree Appreciator」的 Three.js 游戏:展示两棵算法生成的树,玩法是欣赏它们之间的差异。

    Claude 耗时 3 小时 7 分钟,返回了一个带音乐、动画和成就系统的找不同小游戏,可玩性相当强。作者提到,直接告诉 Opus 5.5「确保它好玩」出乎意料地有效。

  2. AWS Machine Learning BlogAI 评分40

    用 Amazon Bedrock AgentCore 构建可自我改进的文档处理系统

    亚马逊云科技介绍如何用 Amazon Bedrock AgentCore 构建智能体式文档处理(IDP)系统,由 8 个专用智能体组成识别与训练两条工作流,自动分类、提取、校验并从新文档格式中学习。

    系统可在 20 分钟内完成部署,无需为新文档类型手动配置模板,验证失败时由 Instructions Fixer 或 Troubleshooter 智能体自动修复。

10月14日周三
  1. AWS Machine Learning BlogAI 评分22

    如何用 Amazon SageMaker JumpStart 部署并评测模型

    Amazon SageMaker JumpStart 提供可复用 Python 脚本,从模型目录部署模型、用示例提示词测量延迟与单请求生成速率,并在测试后删除端点。

    2026 年该服务新增 Model Hub 浏览与一键从 Hugging Face 跳转部署,并提供面向低成本、低延迟或通用负载的预配置端点选项。该流程适用于多种模型,但负载格式、实例类型、EULA 与响应解析可能需按模型调整。

  2. GitHub Blog · AI & MLAI 评分36

    GitHub 如何用 ModernBERT 分类器减少密钥扫描误报

    GitHub 公开其密钥检测新方案:用两阶段流水线替代此前基于 LLM 的流程,先用正则生成候选,再由微调后的 ModernBERT 结合文件路径、变量名和上下文判断是否为真实凭据。

    相比旧 LLM 流水线,用户对告警的接受度提升 11.5%,推送后扫描中位执行时间降低 86%,服务成本降低逾 98%,并让通用密钥检测得以扩展到推送保护阶段。

  3. AWS Machine Learning BlogAI 评分28

    Orca Security 用 Amazon Bedrock 打造自然语言安全查询,查询成本降 90%

    Orca Security 与 AWS 合作在 Amazon Bedrock 上构建了自然语言查询智能体 Discovery AI,可将自然语言问题转换为 Sonar 查询。

    相比最初把 900+ 模型定义塞进单个提示词的方案,其查询成本降低 90%、输入 token 减少 93%、延迟降低 75%,目前每天处理数千次查询、响应时间 15 秒。

10月13日周二
10月11日周日
  1. The Verge · AIAI 评分26

    在本地跑 AI 模型是种什么体验:兴奋、不知所措与挫败

    The Verge 编辑在 M5 Ultra Mac Studio 上安装开源 Hermes Agent,并选用 1250 亿参数、约 105GB 的 Qwen 3.8 Flash Next 本地模型,尝试用 AI 智能体整理 400 多款 Steam 游戏、生成每日简报和分析财务数据。他认为本地运行可避免把敏感数据上传云端,但模型选择繁多、上手门槛高,过程令人不知所措且挫败。

10月10日周六
  1. Latent SpaceAI 评分38

    Standard Bots 如何为工业机器人构建可靠执行的 AI

    Standard Bots 用共享基础模型加客户演示微调的方式,为工业机械臂提供可落地的 AI 能力,其最大模型参数量仅为"low billions"级别。

    公司称其机器视觉骨干网络在超过 10 亿张图像上训练,可区分光照条件、材质类型以及目标与背景;在机床上下料场景中,零样本感知模型负责定位和识别零件,运动与单元逻辑仍由传统编程处理。模型在云端训练、在工厂本地推理,边缘 GPU 生成动作块并流入底层控制,原因是多数工厂网络不可靠、正常运行时间至关重要。公司还通过部署中的失败信号与人工纠正做车队学习,但部分国防客户在气隙环境中部署,数据不会回传。

10月9日周五
  1. Hugging Face BlogAI 评分34

    Ai2 如何用 GPU 时间预算与分层公平分配改造集群调度

    Ai2 用 GPU 时间预算、分层公平分配和时间切片契约替换了原有的优先级调度器,把各研究项目该分多少 GPU 时间的争论从逐案运维转为透明的预算流程。

    其集群管理数千块 NVIDIA H100、B200 和 B300,规模从 88 到 1024 块 GPU,服务约 150 名内部研究员,而提交的 GPU 需求常年是可用量的 2-3 倍。

10月8日周四
  1. Hugging Face Blog 精选AI 评分74

    作者用 ML Intern 两天训出六个小模型,总花费约 103 美元

    作者借助 HuggingChat 中的 ML Intern,在两天内完成六个模型项目,包括柑橘病害 VLM、Huggy LoRA、相机视角 LoRA、涂鸦替换 LoRA、Pocket Rewriter 0.8B/2B 蒸馏以及 Agate 4 步蒸馏,总计算成本约 103 美元。

    关注点

    作者用 ML Intern 在两天内训出六个小模型,给出了提示词写法、预算控制与成本明细,可迁移到自己的训练流程。

10月7日周三
10月2日周五
  1. GitHub Blog · AI & MLAI 评分22

    AI 正在改变开发者工作方式,GitHub 给出三项需要强化的技能

    GitHub 提出 AI 时代开发者需要强化三项技能:学会指挥 AI 智能体而非仅使用 AI,不轻信 AI 的首次回答,以及用 AI 节省的时间去解决更大的问题。

    文中以 GitHub Copilot 内置的 Rubber Duck agent 为例,说明它用第二个模型对计划、代码和测试进行批判性审查,从而发现首个模型遗漏的问题。