粤港澳大湾区AI安全发展联合实验室活动与AI出海研讨会 - 粤港澳大湾区生成式人工智能安全发展联合实验室福田服务站正式启用，并举办了以“把握APEC机遇 扬帆新蓝海”为主题的AI出海研讨会 [2] - 活动汇聚了来自政府、企业、高校、科研机构及应用端的代表，共同探讨粤港澳大湾区人工智能产业出海的新机遇与新未来 [2] - 香港中文大学（深圳）人工智能学院终身副教授、助理院长吴保元围绕“人工智能出海中的安全挑战与对策”进行了主题分享 [2][5] AI安全的三重维度与核心风险 - AI安全可划分为三个层次：AI助力安全、AI内生安全以及AI衍生安全 [2] - AI在身份安全、信息安全、网络安全等传统安全领域具备显著应用价值，例如检测电信诈骗风险、防范恶意软件入侵 [3] - AI面临隐私性、精确性、鲁棒性的安全“不可能三角”困境，功能强大且精准的模型易出现隐私泄露和鲁棒性不足问题 [3] - 大语言模型如ChatGPT会“记忆”海量训练数据，视觉生成模型能轻易生成如现实人物肖像等原始训练数据，构成明显的隐私泄露隐患和AI内生安全风险 [3] - AI衍生安全风险包括：军事领域的武器化应用、虚假信息生成与扩散、对职场岗位的替代效应、加剧“信息茧房”及放大歧视偏见，可能对社会秩序和公共利益产生负面影响 [3] - 应对安全风险需对AI模型开展价值对齐训练，确保其行为逻辑与人类的意图和价值观保持一致，符合人类社会的法律法规、意识形态、宗教信仰及风俗习惯 [3] AI产品跨境面临的三重合规挑战 - AI安全问题在跨境场景下会被放大，给AI产品出海带来额外的合规与运营挑战 [5] - **数据跨境监管挑战**：AI模型及其相关数据（训练数据、模型参数、推理输入输出数据）明确纳入数据跨境监管范畴 [5] - 在境内收集用户个人信息、行业敏感数据等并传输至境外用于AI模型训练，将受《个人信息保护法》《数据安全法》《促进和规范数据跨境流动规定》等法律法规严格约束 [5] - 部分功能强大或具备特殊属性的AI模型，可能受到技术出口管制相关政策的限制 [5] - 若AI模型训练使用了境外数据，其跨境应用也需符合目标国家和地区的相关数据出境规定 [5] - **内容合规性挑战**：AI生成内容的合规性判定与各地的法律法规、历史文化、宗教习俗、地域特点及时事热点高度相关 [5] - 出海企业必须精准把握目的地的合规要求，针对性设置个性化的AI安全护栏，确保产品输出内容符合当地监管与公序良俗 [5] - **责任追溯挑战**：在法律管辖层面，AI服务的提供者、用户、数据存储地及损害发生地往往分属不同国家和地区，导致管辖权界定困难 [6] - 各国产品责任法及赔偿标准差异显著，易引发法律适用冲突 [6] - 在技术溯源层面，AI服务的分布式跨境架构与“算法黑箱”特性，使得安全事故的原因调查与证据固定难度极大 [6] - 跨国调取日志数据、获取有效电子证据等环节面临重重障碍 [6] - 在监管标准层面，各国AI监管框架存在明显差异，缺乏统一的安全认证互认机制，导致企业出海合规成本高昂且不确定性极强 [6] 对出海企业的建议 - 出海企业需提前预判、充分考量各类AI安全与合规风险，构建全流程的风险防控体系，为AI产品跨境布局筑牢安全根基 [6]