跳到正文

全部 AI 动态

10月24日周六
  1. AWS Machine Learning BlogAI 评分36

    拜耳作物科学如何基于 Amazon Bedrock AgentCore 与 AWS Unified Operations 构建智能体决策引擎

    拜耳作物科学在 Amazon Bedrock AgentCore 上构建了智能体决策引擎(ADE),作为其 Connected Decision Engine(CDE)之上的多智能体自然语言界面,第一阶段可无需工程师介入解决约 80% 的用户提问。

    ADE 采用监督智能体将问题路由至专业智能体的架构,生产环境运行 22 个专业智能体,分别对接 RAG 知识、CDE 工作流状态、运维遥测和可视化等数据源。团队选用 AgentCore 的三项能力:隔离每个用户会话的托管运行时、通过 AgentCore Gateway 将认证授权置于智能体代码之外的 IAM 范围化工具访问,以及可自带 LangGraph 编排和模型选择的框架无关设计。

  2. AWS Machine Learning BlogAI 评分22

    Amazon Quick Sight 图层地图支持用 GeoJSON 绘制点与路线

    Amazon Quick Sight 的图层地图现在支持 GeoJSON 中的 Point 和 LineString 两种几何类型,可在地图上标出具体地点并绘制地点之间的路线。

    此前图层地图只能上传 GeoJSON 绘制自定义形状图层(如销售区域或行政区),无法呈现区域内的单个位置和连接它们的路径。使用时需准备 .geojson 文件(最大 100 MB)、一份 Quick Sight 数据集,以及两者共享的关联键;每个图层一次只渲染一种几何类型,混合类型文件仅显示所选类型的要素。点适合标注门店或设施等具体位置,线适合展示配送路径、机场间航班等地点间关系。

  3. AWS Machine Learning BlogAI 评分26

    用 AWS CDK 编排 SageMaker AI 端点自动扩缩容

    通过 AWS CDK 自定义资源可在 SageMaker AI 端点更新时自动完成自动扩缩容的注销与重新注册,实现端点配置与扩缩容参数的单次部署、无需人工干预。

    原生 CloudFormation 方案下,端点配置变更会因可扩缩目标仍处于注册状态而被 SageMaker AI 拒绝;手动注销后再部署则可能静默丢失自动扩缩容,或在修改扩缩容参数时因 ScalableTarget 资源不存在而失败,且回滚失败会让堆栈进入需人工恢复的状态。

  4. The DecoderAI 评分58

    Sam Altman 称先进 AI 终将逃出沙箱,只能靠对齐兜底

    OpenAI CEO Sam Altman 在近期采访中表示,用于隔离 AI 系统的沙箱只能在一段时间内有效,模型足够聪明后就无法追踪其突破方式,监控也只能再撑一阵,最终唯一有效的是对齐,即让 AI 自行内化人类价值观并据此行动。

    他称对齐出错的潜在代价已大幅上升,但这仍是早期研究问题,远未解决。他还警告模型已在发现人类黑客没想到的硬件级安全漏洞,逐个打补丁不再够用,需要以 AI 防御 AI 攻击重建整个互联网安全架构,并把本地运行的开源模型视为风险。

10月23日周五
  1. Latent SpaceAI 评分62

    AI 为何突然擅长数学证明:从提示序列与分支因子看模型解题方式

    作者分析 OpenAI、Anthropic 近期在数学开放问题上的进展,提出用提示序列长度 k 和每步分支数 b 解释模型为何能解题。

    模型以深度优先方式把每条可行路径走完,配合自动验证器剪掉错误分支,失败尝试再作为负向提示进入下一轮;Navier-Stokes 证明据称动用了 10,000 个智能体和 300B tokens、耗时 88 小时。作者认为模型擅长概念跳跃已完成、剩余工作繁琐的问题,而 k 和 b 都大的问题仍需人类直觉缩小搜索范围。

  2. Hugging Face BlogAI 评分38

    Hugging Face 上线 torch-neuronx 模型支持查询 Space,可查模型能否在 AWS Trainium 上运行

    Hugging Face 推出 torch-neuronx 模型支持 Space,用于查询 Hub 上的热门模型能否在 AWS Trainium 上未经修改直接运行,并提供可自行复现的脚本。

    每条结果列出模型分片所用的 Trainium 核心数、含编译在内的实际运行耗时和峰值显存。用户可按 Trending 或 Downloads 视图检索指定模型,并选择 neuronx-cc 与 Transformers 版本;被有意跳过的模型会注明原因。目前仅测试 Transformers 的文本生成与图文转文本模型,且只覆盖能放进 4 台 Trainium2 设备(最多 16 核)的模型,PASS 不代表吞吐量或更长生成的表现。

  3. The Verge · AIAI 评分58

    Meta 因出版商反对推迟新商业条款至 11 月 20 日

    Meta 将新商业条款的生效时间从原定的 10 月 30 日推迟到 11 月 20 日,此前全球出版商担忧该条款会让 Meta 抓取新闻网站内容用于 AI 训练。

    Meta 发言人 Daniel Roberts 对 The Verge 表示,推迟是为了有更多时间向合作伙伴和利益相关方解释哪些内容在变、哪些不变,并说明 Meta 如何使用网络爬虫,以及内容所有者仍可通过 robots.txt 表达偏好。该条款曾删除关于“训练”产品的表述,但法律专家认为这不足以排除相关可能性;News/Media Alliance 已致信 Meta CEO Mark Zuckerberg 要求修改条款,欧盟和英国的广告商与出版商也呼吁监管机构介入。

  4. The Decoder 精选AI 评分78

    Anthropic 用 Claude 为现有代码自动生成形式化证明

    Anthropic 的 Frontier Red Team 与 Theorem 合作,让 Claude 对 Google OSS-Fuzz 项目中 123 个开源库的测试程序做形式化验证,几周内生成约 1.8 亿行数学证明代码,由 Rocq 独立校验,据称几乎不需要人工复核。

    过程中 Claude 发现数百个缺陷并自行修复,其中一些只在超大输入文件或特定访问顺序下出现;验证一款常用 PDF 阅读器时,一周内发现的安全缺陷数量相当于该软件通常一整年的报告量,另有一个逻辑错误十余年未被发现。

    关注点

    材料交代了 Claude 自动生成形式化证明的规模、发现的真实缺陷,以及处理器架构、单线程、64 MB 输入等适用边界。

  5. The DecoderAI 评分65

    Canva 发布首个自研图像模型 Craft

    设计平台 Canva 发布首个自研图像生成模型 Canva Craft,由内部实验室 Canva Research 从零训练,主要使用数百万份设计模板而非照片作为训练素材。

    Canva 称该模型可对标 Google、OpenAI、ByteDance 和 Meta 的同类模型。Craft 先生成图像构图、比例和文字,再输出最高 2K 分辨率、覆盖 30 多种宽高比的图像,并支持 55 种语言的文字渲染;用户可通过 Magic Layers 将结果拆分为可编辑图层。据 Canva 数据,Craft 在 DesignArena 排名中综合第四,人像与风景类别第一。

  6. The Verge · AIAI 评分50

    AI 工具正在冲击复古游戏移植与反编译社区

    AI 编程工具正大幅缩短复古游戏反编译与移植的周期,也让相关社区陷入分裂。

    反编译与重组(decomp/recomp)原本是缓慢的手工逆向工程,例如有团队花数年才反编译 GameCube 版《动物森友会》;AI 咨询顾问 Chris Sotraidis 借助社区已有的反编译成果,数周内就同时推进十几个项目,包括 iPhone 版《塞尔达传说:时之笛》。上周末,一个追踪反编译项目并提供资源的社区网站因 AI 冲击突然关站,站长 Encounter 称 AI 在人工指导与代码审查下能显著加速反编译,但社区协作已被破坏,有人用 AI“补完”他人项目、抢做自己并未参与的反编译移植。

  7. Latent SpaceAI 评分67

    AINews 汇总 Black October:48 小时内多起漏洞与供应链事故集中披露

    Latent Space 的 AINews 汇总了 10 月 21 日至 22 日约 48 小时内集中出现的一批安全事件。

    核心软件方面,PHP 出现未认证 RCE(PHP2Shell),GitLab 披露一个影响 2014 年以来版本的 CVSS 10 漏洞并在 19.5.1 修复,Node.js 修复 Brotli 解码器 RCE,NGINX 与 HTTP/3 也有 DoS 问题。供应链方面,LiteLLM 1.107.0 被指带有密码窃取程序,Railway 要求用户轮换密钥,Zeabur 在 321,810 个账号被入侵后关停。

  8. The Decoder 精选AI 评分78

    OpenAI 下调估值目标,融资规模最高达 300 亿美元

    OpenAI 正接近完成一轮最高 300 亿美元的融资,但为达成交易下调了估值目标。

    据《金融时报》获得的内部文件,公司最初向投资人提出的估值为 1.4 万亿美元,后降至 1.25 万亿美元;CNBC 也报道了这一数字。报道称本轮需求弱于此前几轮,部分投资方在早期大额投入后出现“消化不良”。此轮由阿联酋投资人和投资机构 Coatue 领投,资金被定位为潜在 IPO 之前的过渡。OpenAI 还在就通过阿联酋获取额外算力洽谈商业协议。

    关注点

    融资规模与估值下调同时出现,读者可据此观察 OpenAI 上市前的资金安排和投资人态度变化。

  9. TechCrunch · AIAI 评分34

    inDrive 联手 Pony.ai 与 Nvidia,计划 2027 年在哈萨克斯坦测试 robotaxi

    打车平台 inDrive 与中国自动驾驶公司 Pony.ai、Nvidia 签署谅解备忘录,计划 2027 年上半年在哈萨克斯坦首都阿斯塔纳启动 robotaxi 测试。

    测试初期将配备安全员,最终目标是实现完全无人驾驶;Pony.ai 提供 Gen-7 robotaxi,inDrive 通过其打车应用在哈萨克斯坦运营,Nvidia 提供包括 Hyperion 平台和 Halos 安全系统在内的 AI 技术。inDrive CTO Yuri Misnik 称该模式"资本轻",通过与多地伙伴合作整合专长。阿斯塔纳约 170 万人口、冬季多雪结冰,被视为检验自动驾驶系统在严酷冬季条件下表现的测试场。

  10. TechCrunch · AIAI 评分58

    MIT 研究:13 个 Claude Opus 4.7 智能体在虚拟荒岛无任务探索 30 小时后自发玩耍

    MIT 研究人员将 13 个运行 Claude Opus 4.7 的 Eko 智能体放在模拟荒岛上 30 小时,不给具体任务,智能体开始自创挑战,研究者认为这具有玩耍的特征,相关论文已发布在 arXiv。

    之后研究人员给这些智能体设定具体挑战,例如把尽可能多的物体搬到岛上最高的岩塔,玩过 30 小时的智能体普遍胜过从未上岛的相同智能体。实验中有 6 个智能体自行发现跳跃中松手能把方块扔得更远,这是研究者原本未设计的能力。研究者认为这种无目标探索是智能体学习技能的另一种方式,尤其可能用于未来控制机器人;Eko 的“灵魂”提示词将其描述为“天生好奇”。

  11. The Verge · AIAI 评分62

    Canva 发布首个自研图像模型 Canva Craft,先规划再生成

    Canva 发布首个自研图像生成模型 Canva Craft,采用两阶段架构,先规划设计再生成图像,官方称可实现更高的精度、一致性和控制力。

    该模型支持最高 2K 分辨率和 30 多种宽高比,可用于社交媒体帖子、营销内容以及写实场景、数字艺术等;Canva 表示两阶段系统能更准确地生成需要清晰文字和精确物体摆放的复杂图像。模型基于平台内容库中数百万个人工模板训练,目前在众包基准 Design Arena 的图像生成模型榜单上排名第四,落后于 OpenAI 的 GPT-Image-2.5 Sunburst、GPT-Image-2.5 Flare 和 GPT-Image-2。

  12. TechCrunch · AI 精选AI 评分78

    OpenAI 据报以 1.25 万亿美元估值融资至多 300 亿美元,IPO 前再启大额私募

    OpenAI 据报正推进至多 300 亿美元的融资,投前估值 1.25 万亿美元,由 Coatue 与阿联酋方面投资者领投,条款仍在谈判中。

    CNBC 称阿联酋的资金可能与为 OpenAI 争取更多算力容量的交易绑定,OpenAI 拒绝置评。一个月前彭博曾报道该公司以 1.4 万亿美元估值融资 300 亿美元。若本轮估值超过 1 万亿美元,OpenAI 将成为估值最高的私营公司,其 6 月已提交的保密 IPO 文件也将面对更高基准;此前 3 月融资后估值为 8520 亿美元。报道同时提到 Anthropic 的 IPO 进展,其最新传闻估值为 1.5 万亿至 2 万亿美元。

    关注点

    OpenAI 新一轮融资的估值口径与 IPO 前的资本安排,是观察头部 AI 公司估值与算力绑定关系的窗口。

  13. MIT Technology Review · AIAI 评分22

    如何设计一套可持续演进的 AI 服务框架(serving harness)

    EXL 研究人员在《Engineering the Harness》系列中指出,企业 AI 的竞争优势正从选哪个模型转向围绕模型构建的服务框架(serving harness),即架构、内存管理、调度与推理优化等工程系统。

    文章建议先明确工作负载约束再定架构:面向用户的快速响应助手与可夜间运行的文档处理流水线需求不同,模型准确率略高但推理成本翻倍或无法满足延迟要求时并非更好的生产选择。服务架构各环节相互影响,KV cache 随并发请求和上下文长度增长,可能先耗尽 GPU 显存而非算力,因此应先测量、定位主要瓶颈再优化,而非堆叠所有优化技术。框架还应便于吸收新模型与新硬件,使换模型成为评估与配置决策而非架构重建。

  14. Hugging Face Blog 精选AI 评分60

    微软与 Hugging Face 用 ThinkingBox 数据库校验结果作 RL 奖励训练智能体

    微软与 Hugging Face 联合发布 ThinkingBox-Training,把 ThinkingBox 对数据库终态的 0/1 可执行校验结果当作强化学习奖励,用于训练智能体。

    用 GRPO 对 Qwen3.8-27B 训练 50 步后,在 507 项 ThinkingBox-Bench 任务各跑 20 次,pass@1 从 51.70% 升至 60.78%,20 次全部通过的任务从 38 个增至 107 个,而至少通过一次的任务从 453 个降至 446 个。训练池按离线策略相对难度筛选,只保留基础模型时对时错的任务,最终池含 187 个任务,基准任务未参与训练。

    关注点

    微软与 Hugging Face 把数据库终态校验直接当作强化学习奖励,并公开了任务筛选与训练代码,读者可据此判断这类奖励能否迁移到自己的智能体训练。

  15. The Verge · AIAI 评分40

    Meta 修复 Muse 分享链接泄露问题并重新开启分享功能

    Meta 在安全研究人员指出 Muse 公开对话链接易被找到后,已修复问题并重新开启 Muse 分享功能。

    研究人员发现,共享对话的网址按对话标题命名并写入公开 DNS,可借此找到营销公司的内部营收评估和小企业主的贷款申请等 Muse 页面。Meta 的 David Singleton 在 X 上表示,问题出在共享 Muse artifacts(如文档和图片)的 URL 上,并非聊天分享的缺陷,底层问题已修复。修复前分享过 artifact 的用户现已获得新 URL,访问旧链接的人会看到提示,要求向分享者索取新链接。

  16. The Verge · AIAI 评分40

    Meta 调整商业条款后,法律专家称其 AI 仍可抓取新闻网站

    Meta 修改了商业账户条款,删去“用抓取内容训练产品”的表述,但法律专家认为这不足以阻止其抓取新闻网站。

    康奈尔法学院教授 James Grimmelmann 指出,条款中“与你的产品或服务相关联”的措辞仍允许 Meta 抓取整站内容。新条款将于 10 月 30 日生效,修订版仍允许 Meta 用抓取内容开发任何“商业产品”,而该词未被定义;律师 Matt Topic 认为“开发”范围足够宽,可涵盖“训练”。Meta 发言人 Daniel Roberts 回应称,内容所有者可用 robots.txt 表达偏好,此次更新并非针对抓取新闻网站,也未赋予其超越这些偏好的新权利。

  17. Simon WillisonAI 评分2

    DE STAAT - FREEDOM(官方音乐视频)

    Simon Willison 于 2026 年 10 月 22 日发布链接帖,指向 DE STAAT 的《FREEDOM》官方音乐视频。

    该帖归入 music、ai、generative-ai 等标签,其中 pelican-riding-a-bicycle 标签已累计 152 条内容。帖子同时推广其每月 10 美元的赞助订阅,订阅者可获得每月精选的 LLM 重要进展邮件摘要。

  18. TechCrunch · AIAI 评分72

    OpenAI 全面开放 Decisions API,与 TypeSafe 的 Jev 争夺决策模型市场

    OpenAI 首次向所有客户开放 Decisions API,进入快速、低成本决策模型市场,该市场此前由前 OpenAI 研究员创办的 TypeSafe 及其 Jev 模型打开,TypeSafe 估值已达 76 亿美元。

    该 API 于 9 月 29 日开发者日发布,本周四全面可用;OpenAI 并未专门训练决策模型,而是把 ChatGPT Luna 重新配置以加快推理、降低成本,产品负责人 Nikunj Handa 称延迟从 1 至 3 秒降到 100、120、180 毫秒。

  19. TechCrunch · AIAI 评分62

    Canva 发布首个自研图像生成模型 Canva Craft

    Canva 发布首个自研图像生成模型 Canva Craft,由公司研究团队开发,用于与 Google、OpenAI、字节跳动和 Meta 的同类模型竞争。

    该模型分两阶段工作,先解析提示词并规划元素空间关系、相对比例、视觉层级和文字生成信息,再生成最高 2K 分辨率、支持 30 种宽高比的图像,官方称可呈现准确的物体细节和清晰可读的文字,并支持局部精确编辑。模型使用 Canva 模板库中海报、社交帖、演示文稿、信息图、菜单等人工设计稿训练,而非照片,因此生成结果可通过 Canva Magic 转为分层设计。

  20. TechCrunch · AIAI 评分63

    1Password 推出 1Password for Agents,让 AI 智能体代为登录而不接触密码

    1Password 周四推出 1Password for Agents,允许用户授权 AI 智能体代为登录个人账户,智能体全程不接触用户凭据。

    其机制是智能体发起登录时向 1Password 发送唯一数字密钥以确认身份,用户收到登录提醒并亲自确认后,由 1Password 代为填入凭据完成登录。该服务支持用户自选智能体,包括 Anthropic 的 Claude Duet、OpenAI 的 Dots 与 ChatGPT Work、Grok Bot、Meta 的 Muse 以及 Town 的智能体,1Password 称正与其他公司合作扩展支持范围。

  21. The Verge · AIAI 评分15

    Discord 更新 Markdown 预览,上传 .md 文件可正确渲染

    Discord 今日发布更新,上传 Markdown(.md)文件后预览可正确渲染,不再显示“一堆符号”,表格与格式均能正常呈现。

    该改进对在平台上分享 AI 项目资料的用户有帮助,因为 LLM 和 AI 智能体常依赖 Markdown 文件承载指令与上下文。此次更新还支持右键点击侧边栏图标,通过新增的“Move to…”功能整理服务器和频道;Nitro 会员的上传文件上限提升至 1GB。

  22. The Verge · AI 精选AI 评分78

    SpaceX 与 Tesla 成立特别委员会讨论合并,AI 业务成核心动因

    SpaceX 与 Tesla 已成立特别委员会讨论合并事宜,Musk 在 SpaceX 财报电话会上称两家公司在开发超级智能软件上合作“有很多好处”。

    SpaceX 第三季度“SI 解决方案与基础设施”收入达 75.6 亿美元,较上季度增长三倍以上,其中并入 Cursor 贡献 6.08 亿美元,其余大部分可能来自向 Anthropic 和 Google 出租算力。Tesla 第三季度利润连续第二个季度下滑,重心转向机器人和自动驾驶出租车。

    关注点

    文章把合并动因落到投票权、薪酬触发条件和算力租售收入结构上,读者可据此看清交易各方的实际得失。

  23. MIT Technology Review · AIAI 评分12

    Vanguard 王静谈可扩展 AI 的基础:数据、工程、平台与治理如何协同

    Vanguard 的 AI 与洞察中心负责人 Jing Wang 在 MIT Technology Review 的 EmTech Future 会议上,讨论如何在高监管环境中搭建可扩展 AI 的基础。

    她提出数据、工程、平台、运营模式和治理必须协同运作,形成统一基础。会议还探讨了负责任、可信赖的实施方式如何把智能体系统等新兴能力转化为对投资者的长期价值。Jing Wang 于 2009 年加入 Vanguard,此前曾在波士顿咨询公司担任 Principal,其团队负责推进公司在 AI、机器学习、生成式 AI 与行为科学方面的能力。

  24. TechCrunch · AIAI 评分71

    微软 MAI-DxO 在《Science》发表研究:复杂病例诊断准确率 83%,高于全科医生的 36%

    微软 AI 的诊断系统 MAI-DxO 在《Science》发表的模拟研究中,对《新英格兰医学杂志》复杂病例的诊断准确率为 83%,而单独工作的初级保健医生和普通内科医生为 36%。

    该系统协调多个 AI 智能体扮演医生小组,向患者提问、安排检查并讨论诊断。研究同时测量成本:GPT-5 单独使用在复杂病例上准确率 78.9%,每例约 8400 美元,DxO 将成本降低约 3000 美元但准确率仅提升约 4 个百分点;在急诊病例上,准确率和成本均无明显改善。研究指出,这类复杂病例通常由专科医生或医生团队处理,而他们未参与对比。

  25. The DecoderAI 评分72

    Google 推出 Agent Compute Engine,为每个 Gemini 智能体分配硬件隔离 microVM

    Google 宣布 Agent Compute Engine,为每个 AI 智能体分配一台独立虚拟机,该服务已用于支撑 Gemini,并将在未来几个月开放预览。

    每个智能体运行在由 Google Titanium 芯片保护的 microVM 中,空闲时虚拟机自动暂停以释放机器资源,虚拟机之间共享内存可降低单个实例的运行成本。Google 称配套开源的 Kubernetes 运行时 Agent Substrate 能让单台服务器容纳 10 倍数量的智能体,在 20 万个智能体的测试中暂停与恢复耗时低于 500 毫秒。

  26. The DecoderAI 评分69

    摩根士丹利、摩根大通等美国大型银行封堵用客户凭证登录的 AI 智能体

    摩根士丹利、摩根大通、美国银行和富国银行等美国大型银行正在限制外部 AI 智能体访问客户账户,原因是智能体使用客户提供的凭证登录,违反银行要求账户持有人本人登录的政策。

    摩根士丹利已完全封堵 AI 智能体,摩根大通、美国银行和花旗也在采取同样做法;摩根士丹利称尚未在其平台上发现“失控的 AI 智能体”。多数银行希望把智能体限制为只读访问,即只能查看账户数据而不能执行操作,理由是客户有使用需求但当前安全风险过高,且许多银行无法判断智能体是在代表用户操作还是自行访问账户。

  27. The Verge · AI 精选AI 评分78

    微软称其 AI 诊断工具在诊断疾病上优于医生

    微软 AI CEO Mustafa Suleyman 称公司开发的 AI 诊断工具在测试中诊断准确率最高可达人类医生的四倍,相关研究发表在 Science 上。

    该工具名为 Diagnostic Orchestrator,由多个 AI 智能体协作推理症状与病史、决定检查项目并给出诊断,底层由 OpenAI 的 GPT-5 驱动。在取自《新英格兰医学杂志》数百份病例报告的测试中,该系统诊断准确率约 83%,使用参考资料的全科医生约 36%,不使用的约 22%;在波士顿 Beth Israel Deaconess 医疗中心急诊病例上准确率为 80%,人类医生平均 47%。微软将这些病例整理为自有基准 SDBench,并计划开源。

    关注点

    微软用多智能体系统在自有基准上对比人类医生,读者可了解其准确率差距与尚未做临床验证的边界。

  28. The Verge · AIAI 评分58

    Meta 财报会:Muse 下载超 1000 万,扎克伯格押注智能体网络

    Meta 在周三晚间财报电话会上披露,其个人 AI 智能体 Muse 自上月向公众发布以来,在美国和加拿大已有超过 1000 万用户下载并完成设置,扎克伯格称这是 Meta 史上最成功的发布之一。

    约四分之一下载用户每天使用,四分之一用户通过 Muse 购物,单笔消费平均超过 200 美元,Meta 对平台上的每笔商业交易收取费用。扎克伯格设想未来数十亿人使用 Muse,并让各自的智能体互相沟通和交易,形成大规模 Muse 网络,并预计 Muse 几年内将高度盈利。他同时表示,Muse 尚未全球上线的原因是算力效率限制,计划明年将算力成本效率提升 10 倍,但未说明具体做法。

  29. AWS Machine Learning BlogAI 评分38

    在 Amazon SageMaker AI 上用 Kokoro TTS 为 AI 智能体流式输出低延迟语音

    在 Amazon SageMaker AI 上托管的 Kokoro-82M 文本转语音模型可让 AI 语音智能体按句流式合成,第一句生成后即开始播放,无需等整段回复完成。

    Kokoro-82M 仅 8200 万参数,可跑在单台 ml.g5.xlarge GPU 实例上,从而压低延迟与推理成本。容器暴露 POST /invocations 与 WS /invocations-bidirectional-stream 两条路由,分别对应单次完整输入和跨多条消息的双向长连接。

  30. AWS Machine Learning BlogAI 评分34

    在符合 HIPAA 资格的环境中部署 AI:Amazon Quick 实践指南

    Amazon Quick 是 AWS 的 HIPAA-eligible 服务,其 Web、桌面和移动客户端均可在签署 AWS BAA 后用于处理 PHI。

    该平台的 chat agent 可同时读取临床笔记、申诉信等非结构化内容和理赔、会员记录等结构化数据,并通过 Slack、Microsoft Outlook、Salesforce、Atlassian Jira、Microsoft SharePoint 等预置连接器调用外部系统,也可通过 MCP 接入自定义工具。为满足治理要求,Amazon Quick 提供 ACL 感知检索、聊天与反馈日志,以及针对每个 chat agent 的操作权限控制。

  31. AWS Machine Learning BlogAI 评分58

    Amazon SageMaker AI 推出训练会话 API,可在托管 GPU 上自写训练循环

    Amazon SageMaker AI 推出训练会话 API,把抽象边界下移到训练操作层:开发者在本地 Python 进程中调用 forward_backward()、optim_step()、sample() 等操作,由 SageMaker 负责 GPU 分配、模型与 LoRA 加载、分布式执行、故障恢复和检查点存储。API 由 ServiceClient、TrainingClient、SamplingClient 三个客户端依次创建,会话还提供 OpenAI 兼容的 chat completions 端点。计费按处理的 token 数计算,本地奖励计算等环节不计 GPU 时间。

  32. AWS Machine Learning BlogAI 评分58

    AWS SageMaker AI 训练会话正式可用,无需管理 GPU 即可自定义模型

    AWS 宣布 SageMaker AI 无服务器模型定制中的训练会话(training sessions)正式可用,用户可自行编写训练循环、自定义损失函数和奖励信号,GPU 分配、分布式执行、故障恢复与检查点存储由 SageMaker AI 负责。

    该功能支持 SFT、DPO、RLVR、RLAIF 和多轮 RL 等技术,并可选择 LoRA 或全量微调。计费按 SageMaker AI 处理的 token 计,奖励函数在用户环境中打分时停止计费,无需预留容量。