TikTok推出AI素养措施以应对生成式内容挑战

TikTok推出了一项全面计划，旨在应对其平台内人工智能生成内容（AIGC）的泛滥。这些措施包括扩大用户教育计划、增强检测系统以及扩大标签合作伙伴关系，所有这些都旨在提高透明度，帮助用户识别AI生成的内容。

新的AI素养指南和应用内中心

作为第一步，TikTok推出了新的AI素养指南，帮助用户识别应用上的AI生成内容。该指南与行业合作伙伴NAMLE和Henry Ajder合作开发，包括视频概览和解释说明，帮助社区了解如何识别AIGC。

“我们从专家那里了解到，教育对于让人们掌控自己的AI体验至关重要。因此，我们与行业合作伙伴NAMLE和Henry Ajder合作，创建了一份新指南，帮助我们的社区负责任地使用AI工具。”

在接下来的几周内，TikTok计划推出一个应用内中心，当用户搜索与AI相关的术语时，该中心将教授他们识别AI生成内容的实用技能。该中心是公司更广泛努力的一部分，旨在将AI素养直接融入用户体验中。

扩大资金支持和检测工作

TikTok还宣布扩大对AI素养计划的资金支持，包括对NoFiltr和Raspberry Pi基金会的支持。这些计划旨在通过TikTok内容推广AI素养，以教育材料覆盖更广泛的受众。

在检测方面，TikTok正在增强其系统，以更好地识别AI生成的垃圾信息和错误信息。该公司强调其长期致力于大规模删除虚假账户，指出仅今年前三个月就删除了超过8600万个虚假账户。

“我们长期以来一直禁止垃圾信息，并使用技术大规模查找和删除这些信息，仅今年前三个月就删除了超过8600万个虚假账户，”TikTok表示。“但随着这类内容的演变，我们保护平台完整性的方式也必须随之演变。在接下来的几周内，我们将测试对检测系统的改进，针对那些专门发布AI生成垃圾信息的账户，这些信息涉及可能对公众信任或福祉构成风险的话题，包括政治和时事、金融建议和医疗内容。”

扩大标签合作伙伴关系

最后，TikTok宣布扩大其标签合作伙伴关系，旨在标记应用内更多的AI内容。该公司报告称，已结合使用内容凭证、创作者标签工具和隐形水印技术，将超过30亿个视频标记为AIGC。

“迄今为止，我们已结合使用内容凭证、创作者标签工具和隐形水印技术，将超过30亿个视频标记为AIGC，”TikTok表示。

更广泛的背景：AI的双刃剑

这些更新反映了社交媒体平台在生成式AI方面面临的日益严峻的困境。一方面，应用渴望整合创意AI选项，以利用最新技术趋势并提高用户参与度。另一方面，用户对“AI垃圾内容”越来越感到疲惫——这些低质量、大规模生产的内容，由于这些工具对数十亿用户易于获取而得以泛滥。

需要注意的是，AI本身并非固有地有问题；它已经产生了大量引人入胜的病毒式视频和图片。然而，与任何创意工具一样，许多实验未能引起观众共鸣。此外，社交媒体用户现在被当作无尽AI实验的测试受众，这些实验开始挤占优质内容的空间。

随着平台为表现最佳的帖子提供经济激励，且对发帖量没有限制，一股虚拟的AI垃圾内容海啸正感染着每个应用。这股浪潮有可能稀释社交平台的总体价值，可能导致使用量下降。

因此，平台必须实施对策，以减轻自身AI工具的影响。这导致了一种有些令人困惑的做法，即AI同时被宣传为有益和有害。实际上，AI本身既不好也不坏——这完全取决于具体的用例。然而，目前负面应用似乎超过了正面应用。