美国政府推动的AI安全自愿承诺 - 苹果公司于2024年7月26日宣布加入由白宫推动的AI安全自愿承诺 此前亚马逊、谷歌、微软和OpenAI等超过十几家科技公司已于一年前加入该协议[1] - 该自愿协议旨在通过一系列保障措施 降低人工智能的风险 推动AI技术向安全、可靠和透明的方向发展[1] - 协议中的保障措施包括进行“红队测试” 即模拟对AI模型的攻击 以暴露其缺陷或漏洞[1] AI安全承诺的具体内容 - 对AI模型或系统的测试需涵盖社会风险和国家安全隐患 例如网络攻击和开发生物武器等[2] - 签署承诺的公司需致力于彼此之间以及与政府共享有关AI风险及试图规避防御措施的信息[2] 苹果公司的AI战略进展 - 苹果公司于2024年6月发布了“Apple Intelligence” 这是为其高端设备打造的一套AI功能 旨在向用户表明其并未在AI热潮中落后[2] - 该公告同时宣布了与OpenAI的合作关系 将根据用户需求为iPhone用户提供ChatGPT[2] 美国政府的AI监管行动 - 美国总统拜登于2023年底签署了一项行政命令 为AI系统设定新的安全标准 并要求开发人员与美国政府共享安全测试结果[2] - 白宫将该行政命令宣传为“为保护美国人免受AI系统潜在风险而采取的最全面的行动”[3] - 在该命令发布后不久 副总统卡玛拉·哈里斯在一次政界、科技行业人士和学者参加的集会上发表了重要的AI政策演讲[4] - 该活动聚焦于对先进AI模型影响的日益增长的担忧 这些担忧引发了从失业、网络攻击到人类失去对其创造的系统控制等一系列问题[4]