中关村论坛聚焦AI:如何破解“双刃剑”?
文章核心观点 当前AI正重塑技术范式、产业格局和人类生活方式,全球积极推动其发展,中国多地发力AI产业,同时AI发展带来机遇也有安全风险,各国需加强合作完善监管制度 [1][2][3] 分组1:AI发展现状 - 推动AI发展成全球趋势,数字技术专利申请量约占全球总数1/3,生成式AI领域2017年以来专利申请量增长超800%,中国、美国、韩国走在前沿 [1] - 今年中国多地积极发力AI产业,北京、上海等地支持大模型前沿研究及应用发展,推出更多示范应用场景 [1] - AI大模型领域飞速发展,通用能力提升,各行业细分和垂直大模型涌现 [2] 分组2:AI应用成果 - 中关村论坛年会发布北京人工智能9个应用场景创新成果,展示AI赋能多领域前沿创新成果 [2] - 西门子利用AI解决工业领域挑战,提升传统制造业创新力与小批量制造响应速度,加速产品研发到市场过程 [2] 分组3:AI面临问题 - AI规模扩大后决策过程不透明、逻辑可解释性差,面临信任壁垒,限制社会信任,难满足业务和监管需求 [2] - AI存在数据安全性、算法偏见与歧视等问题,深度伪造与欺诈被恶性利用会带来巨大风险和增加社会治理成本 [3] 分组4:应对措施 - 欧盟《人工智能法案》2024年8月1日生效,中国涉网络安全等法规陆续执行,《人工智能生成合成内容标识办法》今年9月1日施行 [3] - 世界各国应加强国际合作,制定并完善AI安全监管制度 [3]