TikTok推出AI素养提升计划，强化AIGC识别与标注

TikTok近日宣布一项新举措，旨在应对应用内人工智能生成内容（AIGC）的日益增多，其中包括扩展用户教育项目，并改进检测系统以提升透明度。该计划的核心是帮助用户识别和理解AIGC，同时加强平台对AI生成内容的治理。

AI素养指南与教育项目

首先，TikTok推出了一份全新的AI素养指南，帮助用户识别应用内的AI内容。该指南与行业合作伙伴NAMLE及Henry Ajder共同制定，包含视频概览和解释性内容，旨在让用户更好地掌握识别AI生成内容的方法。

正如TikTok所解释：“我们从专家那里了解到，教育对于让人们掌控自己的AI体验至关重要。因此，我们与行业合作伙伴NAMLE和Henry Ajder合作，创建了一份新指南，帮助我们的社区负责任地使用AI工具。”

此外，TikTok还计划在未来几周内推出一个应用内中心。该中心将在用户搜索AI相关术语时，提供识别AI生成内容的实用技能教学。

资金支持与检测系统升级

TikTok还宣布扩大对AI素养项目的资金支持，包括NoFiltr和Raspberry Pi Foundation。这些项目旨在通过TikTok内容推广AI素养。

同时，公司也在加强自身的AI检测工作，以识别AI生成的垃圾信息和错误信息。TikTok表示：“我们一直禁止垃圾信息，并利用技术大规模发现和删除此类内容，仅今年前三个月就删除了超过8600万个虚假账户。但随着这类内容的演变，我们保护平台完整性的方式也必须随之进化。在未来几周内，我们将测试改进检测系统，专门针对那些专门发布AI生成垃圾信息的账户，尤其是涉及可能对公众信任或福祉构成风险的话题，包括政治和时事、金融建议以及医疗内容。”

标注合作扩展

最后，TikTok宣布扩展其标注合作伙伴关系，旨在标记应用内更多的AI内容。TikTok表示：“迄今为止，我们已通过Content Credentials、创作者标注工具和隐形水印技术的组合，标记了超过30亿个视频为AIGC。”

行业背景与挑战

这些更新反映了社交媒体平台在生成式AI方面面临的日益严峻的困境。一方面，社交应用希望引入创意AI选项，以顺应最新技术趋势并提升用户参与度；另一方面，用户对AI生成的低质量内容（俗称“AI slop”）感到厌倦，而这些内容因工具对数十亿用户开放而得以大规模产生。

这并不是说AI在此背景下是坏的。这项技术已经创造了许多引人入胜的病毒式视频和图片。但如同所有创意工具一样，许多实验并不会引起共鸣。

此外，社交媒体用户现在被当作无数AI实验的测试受众，这些实验开始挤占优质内容的空间。随着平台为高表现帖子提供经济激励，且对发布内容数量没有限制，AI生成的低质内容如潮水般涌入每个应用。

这股浪潮现在可能稀释社交应用的整体价值，导致用户使用量下降。因此，平台必须采取反制措施，以减少自身AI工具的负面影响。这导致了一种令人困惑的做法：AI被同时宣传为好与坏。实际上，它两者都不是，因为一切都取决于具体使用场景。不过目前，负面用途似乎多于正面。