Latent Space· Richard MacManus·· 19 天前AI 评分38
OpenAI 与 Anthropic 如何为金融智能体设计自主性与安全边界
Crossing the Threshold: How OpenAI and Anthropic Approach Autonomy and Safety in Financial Agents
AI 导读
OpenAI 与 Anthropic 在 AI Engineer New York 大会上分别阐述了金融智能体的自主性与安全框架，核心思路是把控制点和人工判断放在合适位置，而非一味增加限制。
摘要与补充说明
OpenAI 金融服务 ChatGPT 负责人 Joseph Kim 提出“有用性阈值”，并预测 2027 年智能体将能完成投资想法生成与交易，同时强调金融场景需要可追溯数字来源。Anthropic 上月推出 Claude for Financial Advisors，其信任层包含身份与权限、沙箱与审批、变量调整后的持续可用性三步。
此来源暂仅展示摘要。