亚太人工智能安全研究学会(APAIS)成立 - 在生成式人工智能和大模型技术加速落地应用的背景下，亚太人工智能安全研究学会(APAIS)近日正式宣布成立[1] - 学会将围绕人工智能安全治理、模型风险控制与数据合规体系建设开展系统性研究与交流，旨在推动区域人工智能安全生态健康发展[1] 成立背景与行业挑战 - 近年来，大模型与智能体(Agent)技术在金融、政务、医疗、工业等领域快速应用，在提升效率与创新能力的同时，也带来了新型挑战[1] - 挑战主要包括模型训练数据安全、隐私推断风险、算法偏差、自动化决策责任界定以及工具调用安全等[1] - 如何在促进人工智能创新发展的同时，构建系统化风险防控机制，已成为行业与监管关注的重要议题[1] 学会筹备与研究方向 - APAIS的筹备工作始于2025年初，由多位长期从事人工智能安全研究、企业应用实践与合规管理工作的专家联合发起[1] - 筹备期间，发起团队围绕大模型安全风险、智能体工具链安全、数据治理体系建设等问题开展了多轮闭门研讨，并形成阶段性研究报告[1] - 学会将重点围绕四个方向开展工作：研究大模型与智能体系统的风险识别与分级管理机制，构建可评估、可审计的安全框架；加强模型训练数据治理与隐私保护技术研究，探索数据最小化、差分隐私及合规审查路径；推动人工智能安全标准与行业实践规范形成；建立人工智能安全通告与案例研究机制，提升行业风险应对能力[2] 金融行业应用与专委会重点 - 钱兴会担任学会秘书长，并负责金融专业委员会工作[2] - 人工智能在金融行业的应用场景高度复杂，涉及客户隐私、交易安全与风险控制等核心领域[2] - 随着大模型逐步参与智能投研、风险评估与自动化决策流程，模型风险管理与数据合规要求不断提升[2] - 金融专委会将重点关注模型风险分类管理、智能体决策可解释性、数据合规审查机制以及审计可追溯体系建设，以推动人工智能在金融领域的安全规范应用[2] 行业意义与未来计划 - 多位行业专家表示，人工智能正成为数字经济的重要基础设施，其安全治理能力将直接影响产业长期稳定发展[2] - 成立专门的区域性人工智能安全研究机构，有助于汇聚专业力量，形成更加系统的风险研究与治理方案[2] - 未来，APAIS将持续发布人工智能安全研究报告与风险提示，组织专题论坛与技术交流活动，促进产学研协同创新，推动人工智能安全治理理念在亚太地区落地[3] - 目前，学会已面向人工智能研发、安全工程、数据治理与合规管理等领域专业人士与机构开放会员申请[3]