Workflow
Content Moderation
icon
搜索文档
Rise in 'harmful content' since Meta policy rollbacks: survey
TechXplore· 2025-06-17 17:10
This article has been reviewed according to Science X's editorial process and policies . Editors have highlighted the following attributes while ensuring the content's credibility: Harmful content including hate speech has surged across Meta's platforms since the company ended third-party fact- checking in the United States and eased moderation policies, a survey showed Monday. The survey of around 7,000 active users on Instagram, Facebook and Threads comes after the Palo Alto company ditched US fact-checke ...
Facebook's content moderation 'happens too late,' says research
TechXplore· 2025-05-30 23:54
社交媒体内容审核效率研究 - 东北大学研究发现Facebook的内容审核速度与其推荐算法存在"不匹配"问题,审核行动发生时违规内容通常已触达75%的预测受众[1][5][10] - 研究人员提出"预防性传播"新指标,通过机器学习分析260万条帖子预测内容传播轨迹,发现被删除帖子仅能阻止24%-30%的预期互动量[3][4][9] 用户互动行为特征 - 平台1%的高互动内容贡献了58%(英语)、45%(乌克兰语)和57%(俄语)的用户互动量,83.5%的互动发生在内容发布后48小时内[7] - 帖子达到50%互动量的中位时间仅需3小时,显示信息传播具有极强爆发性[7] 内容审核实施现状 - 在分析的260万条帖子中,英语内容删除率0.7%(12,864条),乌克兰语0.2%(1,071条),俄语0.5%(2,223条),主要针对垃圾信息/标题党等低质内容[8] - 现行审核机制对用户体验影响有限,因审核响应速度(6-2小时/次)远低于推荐算法推送速度[6][10][11]
Meta says online harassment is up and false flags are down following a change in content moderation policies
Business Insider· 2025-05-30 08:51
平台内容违规情况 - Facebook平台上的霸凌和骚扰内容占比从2024年第四季度的0.06-0.07%小幅上升至2025年第一季度的0.07-0.08% [1][2] - 暴力及血腥内容占比从0.06-0.07%上升至约0.09%,主要由于违规内容分享增加及减少执法错误的工作影响 [2] - 2024年第一季度霸凌和骚扰违规内容占比为0.08-0.09%,2023年同期约为0.07%,2024年和2023年第四季度均回落至0.07% [8] 内容审核政策调整 - 2025年1月公司简化内容审核政策,取消移民、性别认同等政治争议话题的限制 [3] - 重新定义"仇恨言论"范围,聚焦于"直接人身攻击"和去人性化言论,取消对"劣等性陈述""隔离呼吁"等宽泛内容的标记 [4] - 用众包社区笔记替代第三方事实核查机构,与竞争对手X采用相似机制 [4] 政策调整效果 - 错误标记率从旧政策下的10%-20%降至5%,每日误删内容减少一半 [5] - 2025年第一季度数据显示用户举报前主动处理内容的比例下降,反映审核效率提升 [6] - 社区笔记机制实现"事实核查民主化",但需防范机器人操纵和偏见风险 [7][8]
Meta's advertisers didn't flinch after it shook up content moderation
Business Insider· 2025-05-01 19:10
文章核心观点 Meta一季度广告收入超预期增长 尽管内容审核政策调整引发担忧 但广告业务仍保持强劲 预计下季度收入也将可观 其韧性源于对中小企业广告的依赖及AI广告工具优势 与Snap形成对比 [1][3][6] 分组1:Meta广告业务现状 - Meta一季度几乎全部来自广告的收入达420亿美元 超分析师预期 同比增长16% [1] - Meta预计下季度收入在425亿至455亿美元之间 高于分析师预期的440亿美元 [6] 分组2:Meta内容审核政策调整 - 1月Meta宣布在Facebook、Instagram和Threads上用社区笔记系统取代第三方事实核查员 计划恢复更多政治内容 放宽性别认同和移民等话题的内容审核规则 [2] 分组3:广告商态度 - 1月广告商和行业分析师虽对Meta内容审核政策变化感到不安 但只要平台能提供大量受众和预期的广告效果 仍会继续投放 [3] - 大型广告商仍对科技平台的用户安全和发布内容类型深感担忧 但Meta对蓝筹公司依赖较小 更依赖数百万中小企业广告商 [6][7] 分组4:Meta广告业务优势 - Meta高管在财报电话会议上归功于其AI广告工具Advantage Plus的推动 该工具可自动完成广告活动的多个方面 [4] 分组5:业务影响因素 - 亚洲电商广告商针对美国用户的支出有所减少 可能是预期特朗普5月2日结束小额免税政策 此前Temu和Shein等可免关税发货 [5] 分组6:行业对比 - Snap周二股价暴跌 虽一季度营收和盈利符合预期 但因宏观经济不确定性未提供二季度指引 与Meta形成对比 [10] 分组7:行业趋势 - 研究公司分析师称 广告商在不确定环境下会增加对Facebook和Instagram等成熟网络的投入 减少对小型社交平台的支出 [9]
Meta's oversight board rips Zuckerberg's move to end fact-checking: ‘Potential adverse effects'
New York Post· 2025-04-24 03:47
Meta’s independent oversight board on Wednesday rebuked the company for scrapping the social-media giant’s fact-checking policy earlier this year – urging Mark Zuckerberg’s firm to assess “potential adverse effects.”The board, which operates independently but is funded by Meta, cited concerns that the company had made the changes “hastily, in a departure from regular procedure, with no public information shared as to what, if any, prior human rights due diligence the company performed.”It issued its first r ...
Meta Oversight Board Urges Company To Assess ‘Human Rights Impact' Of Hateful Conduct Policy
Forbes· 2025-04-24 02:18
文章核心观点 Meta更新仇恨行为政策引发争议,监督委员会批评更新仓促并要求评估人权影响,CEO马克·扎克伯格为政策更新辩护称是为改善言论自由 [1][2][5] 关键事实 - Meta监督委员会周三回应公司仇恨行为政策变更,批评更新仓促,且公司未按常规程序操作,未公布是否进行过人权尽职调查 [2] - 监督委员会要求Meta评估更新后的政策是否威胁人权并提供公开报告,还敦促评估“社区笔记”政策的有效性,公司称将在60天内回应全部建议 [3] 政策更新内容 - 1月7日Meta宣布对仇恨行为政策和其他内容审核标准进行全面更改,将“仇恨言论”政策更名为“仇恨行为”,删除许多仇恨行为具体示例,增加有争议示例,允许基于性别或性取向对精神疾病或异常的指控,删除禁止唤起冒犯性刻板印象的条款,放弃第三方事实核查计划,采用类似X的社区笔记计划 [4] 政策更新争议原因 - Meta更新后的政策引发审查和指控,被指会导致对LGBTQ群体、女性和有色人种的歧视增加,人权运动组织称政策变化会滋生错误信息、骚扰和虐待,威胁LGBTQ群体的包容和安全 [5] 扎克伯格的辩护 - 扎克伯格在乔·罗根播客上为内容审核政策更新辩护,称是为改善言论自由,认为Facebook的事实核查政策像《1984》里的东西,事实核查员有偏见,赞扬X采用社区笔记计划,还以国防部长皮特·赫格塞思言论为例,称主流话语应允许在社交媒体出现,此外还称公司应更有“阳刚”之气,指责拜登政府曾就监测新冠相关帖子向Meta施压 [6]