平台内容治理
搜索文档
平台内容治理的破局之道
经济观察报· 2025-11-17 21:47
文章核心观点 - 平台内容治理的破局关键在于塑造健康的舆论生态,平台需从消极防守转向积极引导优质内容生产与传播,让用户感受到好内容更易被看到而非仅删除坏内容[3][26] - 专项行动剑指网络空间乱象,平台内容审查责任边界问题凸显,电商与内容平台责任逻辑差异显著,个人用户违规成本低、平台权责不对等问题交织使审查陷入多重困境[4][5] - 破局之道需从单点追责转向分层责任,提高个人行为成本与可追溯性,技术赋能与算法透明,从事后救火转向前置预防,构建健康舆论生态[21][22][23][24][25][26] 责任主体难确认 - 内容平台热搜榜单频繁呈现虚假信息、炒作明星动态、极端敏感恶性事件等违规内容,平台从反映民意热点异化为放大不良信息的推手[7] - 电商平台以商品交易为核心,形成消费者与商户直接契约关系,平台承担交易撮合与保障职责,商品真实性合规性第一责任主体是商户,平台负次要责任[7] - 内容平台生产者是海量普通用户,行为属个人表达缺乏商业契约约束,平台面对分散流动个人用户管控难度显著提高[8] - 企业具备法人资格与责任链条而个人用户分散碎片化,电商平台商户数在数万级别而内容平台用户达数亿,平台对商户可封店扣保证金形成强约束,对违规用户主要依赖封号但用户换身份即可回归违约成本极低[9] - 内容平台传播信息情绪价值观具有强外部性,不实内容可能迅速扩散影响公众舆论,但平台作为商业主体约束能力存在局限,需在内容合规与用户体验间寻求平衡[10] 现实困境愈发凸显 - 2024年全国法院一审审结侵害信息网络传播权纠纷案件12万余件同比增长15.71%,全国受理网络违法和不良信息举报2.27亿件,平台内容审查面临现实困境[12] - 内容平台以海量个体为节点构成去中心化传播网络,信息像洪水般涌来平台难以事前把关,违规可能性多种多样从色情低俗到虚假信息几乎无法预设完全有效过滤体系[13] - 个体违规成本极低,商户违规意味罚款下架声誉受损而普通用户被封号只需换手机号重新注册,导致逆向激励用户利用匿名马甲号批量生产违规内容[14][15] - 平台被赋予过高责任却没有匹配权力,平台不是司法机关无法强制取证追责,只能删帖封号下架难以解决问题,陷入高责任弱手段悖论[16] - 平台在审查尺度上陷入两难,把关过严被指过度干预影响表达活力,把关过松被批纵容不良信息受监管问责,算法推荐追求用户停留时间可能推送擦边违规内容[17] - 社会期待平台即时发现处理违规内容但技术只能尽量降低概率无法保证零风险,公众期待秒级拦截所有问题内容而平台技术审核存在识别延迟判断盲区[18] - 欧美普遍采取避风港原则平台对用户上传违法内容不直接承担法律责任,适用通知删除原则,但鉴于违规事件攀升欧美政府也在加强平台主动监管要求[19] 期待破局之道 - 破局关键不在平台承担无限责任或放任用户完全自由,而在于信息社会复杂网络中寻找新平衡机制[21] - 从单点追责转向分层责任,将责任在个人平台社会之间合理分配,欧盟《数字服务法》依平台规模风险设定不同义务让超大平台承担系统性治理责任中小平台履行基础职责[22] - 提高个人行为成本与可追溯性,通过技术制度设计让行为更具可追溯性,对公共传播内容通过算法识别用户活跃度信用等级建立分级权限体系[23] - 技术赋能与算法透明,引入多目标算法不仅关注点击率还要平衡信息质量多样性公共价值,算法部分透明化提升社会信任避免黑箱效应质疑[24] - 从事后救火转向前置预防,利用自然语言处理图像识别技术对内容发布前进行风险分级,低风险自动通过中风险人工审核高风险限制发布[25] - 构建健康舆论生态,平台积极引导优质内容生产传播,激励原创提升内容质量扶持正向价值,让违规边缘化优质内容成为主流[26]
抖音加强医美内容治理,10.6万个直播间因违规宣传被处置
新京报· 2025-11-17 18:27
公告称,部分达人通过使用变形词、主播话术暗示、评论区引导、背景板传递相关信息等方式绕过平台 监管,在直播间违规推广"英伦大提升""水光针""光子嫩肤""洗眉毛""激光祛除色素"等禁限售商品或服 务。此类行为不仅违反相关法律法规,也严重违反平台规则,对消费者体验造成了不良影响。今年上半 年,针对部分医美商家违规售卖禁限售商品等行为,平台搭建风险识别系统并开展专项整治,处置违规 机构1517家。 新京报贝壳财经讯(记者罗亦丹)新京报贝壳财经记者11月17日获悉,抖音生活服务公示"打击医疗医美 直播间违规宣传禁限售商品"专项行动的阶段治理成果。截至10月,超2.3万个违规达人被封禁直播团购 权限30天以上,其中605个达人因严重违规被封禁180天;超10.6万个直播间因违规宣传被中断处置。 ...
平台内容治理的破局之道
经济观察报· 2025-11-15 00:28
行业监管背景 - 中央网信办持续部署"清朗"系列专项行动,重点打击"自媒体"发布不实信息、短视频恶意营销、AI技术滥用及恶意挑动负面情绪等乱象[2] - 专项行动使平台内容审查的责任边界问题愈发凸显,平台作为信息传播核心载体面临责任逻辑差异、用户违规成本低、权责不对等等多重困境[2] - 厘清责任归属是落实"清朗"行动要求和构建健康网络生态的关键举措[3] 平台责任差异分析 - 电商平台以商品交易为核心,形成消费者与商户的直接契约关系,商品真实性及合规性的第一责任主体是商户,平台承担次要审查与监管义务[4] - 内容平台的内容生产者是海量普通用户,行为属于个人表达且缺乏商业契约约束,平台面对分散的个人用户导致管控难度显著提高[5] - 电商平台商户数量在数万级别,可通过封店、保证金扣缴形成强约束;内容平台用户达数亿级别,对违规用户主要依赖"封号"但违约成本极低[6] - 内容平台传播信息具有强外部性,不实内容可能迅速扩散影响公众舆论,使平台在公众期待中处于更高责任关联位置[7] 内容审查现实困境 - 2024年全国法院一审审结侵害信息网络传播权纠纷案件12万余件,同比增长15.71%;全国受理网络违法和不良信息举报2.27亿件[8] - 内容平台每天生成数以亿计的内容,信息洪流使平台难以事前把关,违规内容类型多样导致无法预设完全有效的过滤体系[9] - 个体违规成本极低,用户被封号后可通过换手机号重新注册,形成"一对多"治理格局使责任被稀释,平台集中承担监管压力和品牌风险[10] - 平台被赋予过高责任但缺乏执法权,只能进行删帖、封号等操作,陷入"高责任、弱手段"的悖论[11][12] - 审查尺度面临两难:把关过严影响表达活力,把关过松面临监管问责;算法推荐追求用户停留时间可能推送违规内容[13] - 社会期待平台"即时发现、即时处理",但技术手段只能"尽量降低概率";直播领域因实时性特点,算法存在识别延迟和判断盲区[14] 治理破局方向 - 欧盟《数字服务法》采用"分层责任"模式,依据平台规模和风险设定不同义务,将责任在个人、平台、社会之间合理分配[17] - 提高个人行为成本可通过算法识别用户信用等级建立分级权限体系,信用高用户获得更多推荐,违规率高用户被限流或冻结[18][19] - 算法优化应引入"多目标算法"平衡点击率与信息质量,部分透明化可提升社会信任避免"黑箱效应"[20] - 治理方向从"事后处理"转向"前置预防",利用自然语言处理和图像识别技术对内容发布前进行风险分级[21] - 平台应积极引导优质内容生产传播,通过激励原创让优质内容成为主流,从"背锅者"转型为"价值引导者"[22]
抖音电商:近半年处置5万条违规运营技巧视频
搜狐财经· 2025-10-29 17:50
平台内容治理行动 - 平台发现部分创作者和商家传播真伪难辨、效果存疑的“视频拍摄技巧”和“店铺经营攻略”类内容 [1] - 相关违规内容普遍存在夸大宣传、虚构案例的问题,可能误导用户并影响平台整体内容质量 [1] - 近半年内平台已累计处置超过5万条违规运营技巧教学内容 [3] 平台治理措施与目标 - 平台将继续加强对不正当运营技巧和违规工具的监控与治理 [3] - 治理行动旨在维护健康的创作环境并保障创作者和商家的合法权益 [3]
豆瓣发公告了
经济观察网· 2025-08-07 23:05
平台治理行动 - 公司于2025年8月7日针对水军养号及AI生成垃圾内容问题发布处理公告[1] - 通过用户反馈和管理巡查发现批量账号存在异常行为 在影视图书条目下发布大量垃圾短评与长评[1] - 处理违规账号2272个 剔除虚假短评348,674条及剧评5,701篇[1] 内容管理机制 - 采用技术手段与人工审核相结合的方式维护评分评论真实性[1] - 用户账号影视评分可信度基于社区真实用户大数据计算[1] - 算法可识别养号或广告目的的垃圾内容 违规评分将被剔除且账号受处罚[1] 用户参与机制 - 呼吁用户通过投诉反馈渠道举报产品功能滥用及垃圾内容行为[1]
【抖音高管回应打击恶意营销号】4月28日讯,抖音集团副总裁李亮转发抖音黑板报博文称:“我之前说过,营销号煽动情绪、制造不实信息,已经成为平台内容生态和算法推荐的污染源。抖音新规明确了要打击的十类营销号违规行为。同时,也推出账号健康分机制,平台会根据账号的健康分,给到内容减少推荐、限制变现权益等阶梯式的处罚措施,此外还设置了通过学习考试进行加分的机制。目前该治理规范正在试运行状态,欢迎大家多提意见和建议。”
快讯· 2025-04-28 16:34
平台治理措施 - 抖音集团副总裁李亮表示营销号煽动情绪和制造不实信息已成为平台内容生态和算法推荐的污染源 [1] - 新规明确打击十类营销号违规行为并推出账号健康分机制 [1] - 平台根据健康分实施内容减少推荐和限制变现权益等阶梯式处罚措施 [1] - 设置通过学习考试进行加分的机制且治理规范处于试运行状态 [1]