社区生态安全
搜索文档
Soul App发布第三季度生态安全成果
证券日报网· 2025-10-23 19:15
生态安全治理体系 - 公司围绕“技术+制度+教育”三维治理体系进行创新实践,在用户信息保护、反欺诈、未成年人守护、网络暴力治理及社区共治等领域持续投入和能力升级 [1] - 公司持续深化AI前沿技术应用,构建全方位、高智能的安全防护体系,提升前端拦截和中端处置能力 [1] AI技术应用与成效 - 公司深度优化基于AI大模型的图片反欺诈模型,误伤量级大幅下降约80%,识别覆盖率提升至90%以上 [2] - 公司完成人设大模型优化升级,高风险人设识别覆盖率由不足50%提升至70%以上,增强对潜在欺诈人设的提前预警能力 [2] - 平台违规内容机审直接拦截量达439万,处理相关跟帖、评论1578万 [2] 违规账号与内容治理 - 第三季度处置违规账号30.6万个,并对同设备下存在多个违规账号进行拉黑备案 [2] - 针对群聊生态,第三季度日均中断违规语音超5600条,日均拦截违规文字消息2.6万条 [2] 社区共建与用户参与 - 内容推荐官、风纪委员等在任社区共建用户数量已超过7.8万人,其中日均站内内容推荐官在任用户达5.1万人 [3] - 社区成员日均贡献2.2万次以上投票,通过用户参与治理的方式,日均产生2900个以上优质帖子 [3] 外部合作与协同治理 - 第三季度平台向全国推送各类违法有害线索100余个,进行调证协查80余次,并参与其他警企合作工作3次 [2]