Meta广告系统未能阻止印度儿童性虐待推广内容

Meta，Facebook和Instagram的母公司，因允许推广儿童性虐待材料的广告出现在印度用户面前而受到审查。当地当局要求这家社交媒体巨头解释其广告检查系统为何未能在这些非法推广上线前检测到它们，这一消息最初由BBC报道。

据BBC报道，Meta在最近几周内允许了多种此类推广在其应用中展示。BBC世界服务观察到的这些广告使用了包括“强奸视频”和“儿童视频”在内的露骨词汇，将用户引导至消息平台Telegram上的频道，在那里这些材料可以以低至99卢比（约1美元）的价格购买。

BBC报道称，它向Meta标记了这些违规推广，最初被告知这些广告并未违反公司指南。Meta随后不久删除了这些推广，但这一事件引发了对其内容审核系统有效性的严重担忧。

这一披露正值Meta继续推进其用人工智能代理取代大部分人工审核人员的计划。这些自动化系统被授权评估并对其平台上可能违规的内容采取行动。Meta未具体说明这些违规广告是否因其AI流程而漏网，但告诉BBC“没有系统是完美的，我们的审核流程可能无法检测到所有政策违规。”

这一事件代表了Meta扩展AI推动的又一次挫折，该公司希望最终能通过为第三方客户提供AI自动化服务，开辟一条重要的额外变现途径。Meta今年已裁减了约20%的劳动力，其中很大一部分职位被AI代理取代。该公司似乎正用自己的运营作为其AI工具如何降低劳动力成本的例子。

然而，其AI系统的初期问题可能成为其发展的主要障碍。上个月，超过20,000个Instagram账户被入侵，因为一群用户发现他们可以说服Meta的账户支持代理授予他们访问权限，而无需提供任何证据证明他们是实际账户持有人。Meta表示此后已修补了该问题，但人们向AI聊天机器人提问的方式的规模和范围似乎导致了几乎无限种类的此类漏洞利用。

Meta在AI开发方面也面临挑战。路透社上周报道，Meta首席执行官马克·扎克伯格告诉员工，其AI代理的开发进展不如预期，并补充说最近的裁员尚未带来计划中的好处。The Information报道称，Meta还对AI令牌使用实施了限制，因为其强制依赖AI工具导致成本飙升。

这些成本可能是Meta现在探索新方法以变现其巨额AI投资的原因，包括开发云基础设施服务，以最大化其不断扩展的数据中心网络的利用率。增加的数据容量最初被指定用于Meta自身的AI使用，但现在该公司似乎正在重新评估其整体AI推动及其可能提供的AI产品的真正价值。

其内部使用AI的问题可能进一步加剧担忧。与此同时，Meta在AI领域还面临其他公关挑战。上周，Wired报道称，Meta使用一支承包商大军在网上冒充未成年人，测试竞争对手的聊天机器人如何回应涉及自杀、性、饮食失调和其他高风险主题的提示。Meta表示这是为了更好地理解保障和缓解措施的标准研究，但从感知上看，这是对其AI推动的又一次打击，而该推动已面临显著的公众反弹。

如果Meta的AI系统未能保护儿童，这可能是其方法的最后一根稻草。这也可能对其业务未来产生重大影响，特别是如果Meta未能通过其备受赞誉的超级智能小组构建更先进的AI模型。