今日头条平台治理开放日：AI与同质化治理问题备受关注

2月24日,今日头条平台治理开放日在京举办。此次活动旨在与学界专家及各方媒体一同聚焦网络虚假谣言、同质化发文等领域问题,并分享今日头条在内容生态、平台安全等方面的成功治理经验。

不久前,今日头条发布了《2024年度治理报告》,报告统计:过去一年中借助科普传播、反诈宣传,以及一系列安全治理措施,平台累计拦截不实信息超500万条,处理低质AI内容超93万条,处罚同质化发文超781万篇,为涤清网络虚假信息和安全隐患,提供了可靠的行业治理范本。

开放日上,今日头条平台针对AI谣言与同质化发文等现象所采取的积极应对策略,成为现场专家、行业人士与媒体热议的焦点。

清华大学新闻与传播学院副教授陆洪磊在发言中,首先系统分析了AI谣言在生成式AI技术的加持下,呈现出的强“说服性”、虚假性与传播性等特点,使得传统辟谣手段难以招架。陆洪磊教授认为,今日头条近年来所采取的四位一体防御工事,即将“内容治理制度、内容审核、辟谣教育、内外联动”一并纳入AI谣言的识别及治理当中,为AI谣言的治理提供了一条具有可行性的发展之路。

清华大学新闻与传播学院副教授陆洪磊

在关注AI谣言治理的同时,到场媒体也就如何正确引导AI内容创作,并与低质AI内容做区分等问题,在现场向今日头条生态治理运营负责人韩雨桐进行了提问。韩雨桐表示,今日头条非常支持创作者合理运用AI技术以提升创作效率,但对于通过AI技术生成的低质内容,平台始终采取明确且坚决的治理态度,一直以来平台都在通过技术手段监控AI内容的整体流量占比,从而使平台内容生态维持在健康占比之上,在保护原创作者的同时,也欢迎新技术在平台良性发展。

今日头条生态治理运营负责人韩雨桐

AI技术既是治理核心,也是监管利刃。对今日头条如何以AI技术应对同质化发文等问题,媒体对相关业务负责人进行了提问。

对此,今日头条安全运营负责人闫梦茹解释说,在同质化发文治理方面,今日头条同样采取了富有针对性的解决思路。过去一年,今日头条安全运营部门陆续建立起完善的“风险发现→风险识别→风险处置”全流程治理体系,对以同质化发文为代表的网络乱象进行持续治理打击,其中就包括在审核团队和审核机制中融入AI能力,从而实现对海量信息的甄别和提取。未来,今日头条也将把更多精力投入模型能力的提升之上,以期更好发挥“早识别、多拦截、多提示、快速干预”的网络不良信息治理经验,这一举措和思路也得到了开放日现场各学界专家及媒体的认可。

今日头条安全运营负责人闫梦茹

以此次“平台治理开放日”为契机,未来,今日头条将持续强化在平台安全与生态治理方面的探索及投入,为社会和用户营造更加绿色、健康、优质的互联网环境。