核心观点 - Meta在管理涉及以色列-巴勒斯坦冲突的内容，特别是希伯来语内容方面面临挑战，其内部政策与执行过程存在差异，导致对阿拉伯语和希伯来语内容的审核存在不平等现象，并引发了对公司偏见的批评 [1][2][3] 内容审核政策与执行差异 - 内部文件显示，Meta对于涉及冲突的内容审核采用多层流程，但对希伯来语和阿拉伯语内容审核准确性的评估流程不一致 [1] - 公司政策要求删除“抵制犹太商店”和“抵制穆斯林商店”的表述，但允许“抵制阿拉伯商店”的表述 [4] - 公司发言人解释，在此危机期间，政策是删除仅基于宗教的抵制呼吁，但允许基于国籍等受保护特征的抵制呼吁，因为这通常与政治言论或对特定政府的抗议形式相关，因此“抵制以色列商店”或“抵制阿拉伯商店”是被允许的 [4] - 批评者认为，Meta的政策表明其对地区缺乏细致或准确的理解，因为阿拉伯身份包含该地区许多不同国家的人，而以色列身份则是一个占领和压迫巴勒斯坦人的单一民族国家，这种框架本质上显示出对以色列的偏见 [5] 审核质量评估系统的差异 - Meta设有系统来追踪多种语言内容执行的“政策精确度”，即通过人类专家审查前线审核员和系统的工作，并对其决策是否符合公司政策进行评分 [6] - 该审查系统适用于英语、西班牙语、阿拉伯语和泰语等语言，但对于部分希伯来语内容决策，由于“缺乏翻译”，此类评分被宣布为“不可行”，原因是缺乏具备希伯来语专业知识的人类审核员 [7] - 文件显示，希伯来语内容执行没有“政策精确度”衡量标准，前员工表示，由于希伯来语未接入该系统，希伯来语市场的此类执行审查是“临时”进行的，与阿拉伯语市场不同 [7] - 这种差异意味着公司对以色列官方语言内容的审查不如对巴勒斯坦相关内容系统，暗示了“他们在执行内容时的偏见”，可能导致对阿拉伯语内容的过度执行 [8] 历史审核偏差与算法影响 - 2022年一项由Meta委托的独立分析得出结论，在2021年以巴冲突紧张时期，其审核系统对阿拉伯语使用者的处罚比希伯来语使用者更频繁——即使考虑到使用者数量的差异 [8][9] - Meta的系统自动标记阿拉伯语内容的比率“显著高于”希伯来语内容，公司政策“可能导致无意中的偏见，即与希伯来语内容相比，对阿拉伯语内容的过度执行更为严重” [9] - 这种差异部分归因于当时Meta已部署了阿拉伯语“敌对言论分类器”，可以自动检测违规内容（如仇恨言论和暴力呼吁），但未对希伯来语内容采取相同措施，缺乏希伯来语分类器意味着阿拉伯语内容更可能被算法更频繁地删除 [10] - 作为对报告的回应，Meta推出了一个检测“敌对言论”的希伯来语机器学习分类器，但监督机构表示，即使有了新的希伯来语分类器，在确保这些新措施有效性方面所做的努力也较少，使得执行中的差异持续存在 [10][11] 算法审核与内部问题 - Meta使用图像、短语和视频集合，让其机器学习工具自动标记和删除违反政策的帖子，算法审核员将社交网络上的发布内容与内容库中的材料进行匹配，这些材料先前已被判定违反Meta规则 [12] - 前员工指出，同事注意到在10月7日事件后创建的一个内容库中，许多被使用的图片是错误添加的，但“没有流程”可以从该库中移除图片，这再次导致可能与以巴冲突双方相关的内容被过度执行 [12] - 文件指出，当时“没有现行流程可以在政策呼叫判定先前入库的内容无害后，移除非违规内容集群”，从而导致内容的“过度执行” [13] - 许多员工表达了“对报复的恐惧”，或者担心如果有人就阿拉伯语亲巴勒斯坦内容被过度执行提出投诉，会被视为反犹太主义 [13] 员工与外部批评 - 在一封公开信中，超过200名Meta员工提出了类似担忧，写道Meta在内部论坛上“审查、拒绝和/或惩罚”了反对公司巴勒斯坦相关政策的员工，员工称这些论坛上“任何提及巴勒斯坦的内容都会被删除” [14] - 2024年6月，一个由49个民间社会组织和一些知名巴勒斯坦人组成的联盟向Meta发送了一封信，指控该公司通过其内容审核政策“协助和教唆政府进行种族灭绝” [2] - 2023年底，马萨诸塞州参议员伊丽莎白·沃伦致信Meta，要求提供更多关于公司围绕冲突的政策及其执行情况的信息，特别是询问公司是否以及何时自动标记了与某些主题相关的内容 [15] - 公司发言人表示，Meta“非常认真地对待关于内容执行政策对亲巴勒斯坦声音造成不成比例影响的指控”，并指出自2016年以来已在“安全与安保”方面投入200亿美元，并有40,000人从事该领域工作，Meta公布的2023年全年营收为1349亿美元，2024年第二季度总营收为390.7亿美元 [14][15]