AIGC内容安全

搜索文档
行业首发!网易易盾推出国内首个AIGC内容安全插件,已接入Coze、Dify等主流平台
搜狐财经· 2025-06-25 17:05
智能体行业发展 - 2025年被认定为智能体落地的元年和爆发年,涵盖个人生活助手和企业数字员工等多个应用场景[1] - 中国智能体市场规模预计突破300亿美元,到2028年15%的日常工作决策将由AI智能体自主完成,1/3企业级软件将集成智能体功能[3] - 行业面临内容安全挑战,包括虚假信息、敏感词汇、侵权图片等风险,尤其在教育、金融、医疗等高敏感领域[3] 内容安全监管动态 - 2025年4月以来,中国监管部门处置违规AI产品3500余款,清理违法信息96万条,处置账号3700个[3] - 国际监管趋严,开发者需额外投入资源进行内容审核与合规检测,增加开发成本[3] - 国家标准GB/T 45654-2025将于2025年11月实施,规范生成式AI服务安全管理[11] 网易易盾技术解决方案 - 推出国内首个大范围应用的AIGC内容安全插件,支持一键接入主流智能体开发平台[1][8] - 提供文本检测(政治、色情、暴力等风险)和图片检测(不雅内容、违法标识)双维防护[4][5] - 采用大小模型融合检测技术,拥有千万级AIGC知识库,已服务100+客户[9] - 建立"内生安全+围栏防护"体系,重点输出"AI机审"能力[9] 开发者应用流程 - 在Coze等平台通过两步完成插件接入:搜索插件并编排至工作流[6] - 方案显著降低接入门槛,支持零代码用户和专业开发者快速调用安全能力[8] 行业生态建设 - 网易易盾深度参与国家标准制定,推动安全技术渗透至AI服务各环节[11] - 公司定位智能体为AI落地关键环节,将持续与开发者共建可信生态[11]