Meta被曝在印度允许展示儿童性虐待材料的广告，当地当局已要求这家社交媒体巨头解释其广告审核系统为何未能及时发现这些非法推广内容。

据BBC报道，Meta在最近几周内，其应用程序中出现了多个版本的儿童虐待内容推广广告。BBC世界服务部看到的这些广告使用了诸如“rape video”和“child video”等关键词，并引导用户至即时通讯应用Telegram上的频道，用户在那里可以以低至99卢比（约合1美元）的价格购买这些材料。

BBC表示，已向Meta举报了这些违规广告，但最初被告知这些广告并未违反其准则。随后，Meta撤下了这些推广内容。

这一报道发布之际，Meta正持续推进用人工智能代理取代大部分人工审核人员的计划。这些自动化系统被授权评估并处理其平台上可能违规的内容。

Meta未说明这些违规广告是否由其AI流程导致，但向BBC表示：“没有系统是完美的，我们的审核流程可能无法检测到所有违反政策的行为。”

此事件对Meta扩大AI应用的雄心构成又一次打击。该公司希望，通过向第三方客户提供AI自动化服务，最终开辟一条重要的额外盈利途径。

Meta今年已裁减约20%的员工，其中相当一部分岗位由AI代理替代。该公司似乎正将其自身运营作为其AI工具如何降低人力成本的范例。

然而，其AI系统初期的这些问题，可能成为其发展的重大障碍。

上个月，超过2万个Instagram账户遭入侵，起因是一群用户发现，他们可以说服Meta的账户支持代理授予访问权限，而无需提供任何证据证明自己是实际账户持有人。Meta表示已修补该问题，但人们向AI聊天机器人提问的方式，其规模和范围似乎助长了此类漏洞近乎无限的利用可能。

Meta在AI开发方面也面临挑战。路透社上周报道，Meta首席执行官马克·扎克伯格告诉员工，其AI代理的开发进展未达预期，并指出近期的裁员尚未带来计划中的收益。The Information报道称，Meta还对AI令牌使用实施了限制，原因是其强制依赖AI工具导致成本飙升。

这些成本可能是Meta目前探索从其巨额AI投资中获利新途径的原因，其中包括开发云基础设施产品，以最大化其不断扩展的数据中心网络的利用率。

增加的数据容量最初是为Meta自身的AI使用预留的，但现在看来，该公司正在重新评估其整体AI推进策略，甚至其潜在AI产品的真实价值。其内部AI使用的问题可能进一步加剧担忧。

与此同时，Meta在AI领域还面临其他公关问题。上周，Wired报道称，Meta动用大量承包商冒充未成年人，在线测试竞争对手聊天机器人对涉及自杀、性、饮食失调及其他高风险主题的提示如何回应。Meta表示这是为了更好理解安全防护和缓解措施而进行的标准研究。但从观感上，这对其AI推进又是一次打击，而该推进已面临大量公众反对。

如果Meta的AI系统未能保护儿童，这可能是其方法的最后一根稻草。这也可能对其业务未来产生重大影响，尤其是如果Meta未能通过其备受赞誉的超级智能团队构建更先进的AI模型。