Soul发布 2025生态安全半年报,展现社交安全治理成果
AI反诈体系升级 - 公司构建"识别-预警-拦截"全链条防御机制,采用图片/文本反作弊大模型和杀猪盘发帖文案识别大模型,提升对复杂场景的识别精度 [2] - 反诈官号接入AI反诈助手大模型,智能回复用户提示风险,平台涉诈人群数量下降约20% [2] - 公司与警方协作,推送网络谣言线索50个、黑灰产线索25个,协助查明侵犯用户权益案件20余次,处理警方调证需求80余次 [2] 社交治理优化 - 新增识别色情交易变体的反作弊大模型,提升对新型违规行为的识别能力 [3] - AI技术助力拦截违规内容932万条,拉黑违规设备2.1万个,教育用户文明发言触达33.7万用户 [3] - 日均处理劣质内容12万+,拦截低质评论18万+,专项审核风险用户 [5] 专项治理成果 - 日均处理低质用户3.8k,上半年批量处理低质贴100万+,增加违规贴提示功能引导用户合规 [5] - 日均中断语音违规消息4万+,处置娇喘用户1000+,拦截违规文字消息2.7万+ [8] - 日均梯度处罚违规用户1.7万+,修改低质房名1.7k+,季度上线/迭代策略36+ [8] 用户保护措施 - 骚扰消息自见策略日均保护2.3万+用户,消息盒子辅助用户日均收纳消息5k+ [8] - 日均识别社交不文明行为并扣除礼仪分用户6.4万+,禁止重度违规用户私聊功能8.9万+ [8] - 针对疑似被骚扰用户日均下发守护弹窗6.7万+,主动保护用户 [8] 未来规划 - 公司将继续加大技术研发投入,深化AI在生态安全领域的应用,完善生态安全体系 [7]