联盟成立与核心使命 - 汤森路透通过其创新研究中心汤森路透实验室发起并成立了“人工智能信任联盟” [1] - 该联盟旨在汇集来自产业界和学术界的领先人工智能研究人员与工程师 [1] - 联盟的共同使命是推动可信赖的、具身代理人工智能系统的发展 [1] 成立背景与目标 - 随着人工智能系统自主性增强 确保其安全性、问责制和透明度变得至关重要 尤其是在高风险专业环境中 [2] - 联盟旨在通过促成技术领导者之间的协作来应对这一挑战 重点在于定义何为值得信赖的具身代理人工智能系统 [2] - 联盟旨在超越讨论 转向行动 参与者将分享见解 识别共同挑战 并帮助形成构建可靠、可问责人工智能系统的共同方法 [3] - 联盟的重点是将信任直接设计到人工智能架构中 每次会议的见解和关键主题将公开分享 以促进更广泛行业关于可信人工智能的讨论 [3] - 联盟的首次会议将聚焦于如何在高风险专业环境中使用的具身代理人工智能系统中设计信任 [3] 参与方与工作重点 - 创始参与者包括来自Anthropic、AWS、谷歌云和OpenAI的高级工程与产品负责人 以及汤森路透的专家 [4] - 这些公司将共同探索可靠性、可解释性和可验证性方面的方法 这些是确保先进人工智能系统获得并维持人类信任的关键因素 [4] - 汤森路透实验室凭借数十年在技术、人类专业知识和信任交汇处的运营经验 在召集此次对话方面具有独特优势 [5] - 该公司在法律、税务和监管领域的全球角色为探索人工智能如何在复杂高风险环境中既创新又可问责提供了实践基础 [5] 参与方观点 - Anthropic企业产品负责人表示 随着先进技术在高风险环境和行业中承担更多自主行动 对人工智能系统的信任至关重要 联盟专注于实际工作 使这些系统足够可靠 以获得依赖它们的数百万专业人士的信心 [6] - 谷歌云Vertex AI产品管理副总裁表示 构建可信的代理需要将模型建立在“企业真相”之上 将其与企业赖以运行的新鲜、可验证数据连接起来 汤森路透将行业聚集在一起并定义共同标准的努力将给予组织在高风险环境中部署这些智能系统的信心 [6] - OpenAI工程负责人表示 相信推动人工智能负责任地为人类和组织服务 与汤森路透合作为合作解决将塑造人工智能在社会中长期角色的共同技术和伦理问题创造了机会 [6] 联盟的长期愿景 - 通过连接领先的人工智能研究人员、工程师和机构思想领袖 汤森路透实验室旨在帮助塑造框架、标准和共同理解 这些是建立对下一代人工智能信心的必要条件 [6]