Google发布2023 《广告安全报告》:使用生成式 AI 提升执行力
全球有数十亿用户通过 Google 产品来搜寻实用且可信的信息,Google 投放的广告也是他们的信息来源之一。正因如此,Google 有数千的人员全天候地工作以维护数字广告生态的安全。今天,Google 发布了年度《广告安全报告》,分享 Google 在执行广告主和发布商政策方面的进展,同时也督促自身担起责任,维护一个有广告支持的健康的互联网。
2023 年的一个关键趋势就是生成式 AI 的影响。这一新技术给数字广告行业带来了激动人心的显著变化,从效果优化到图片编辑。当然,生成式 AI 也带来了新的挑战,Google 高度重视这些挑战,并将介绍为了积极应对这些挑战而正在进行的工作。
同样重要的是,生成式 AI 为改进 Google 的违规处置成效也提供了独特的机会。Google 的团队正在利用这项变革性技术,尤其是大语言模型(LLM),以更好地保护用户在网上的安全。
生成式 AI 改善了执行力
Google 的安全团队很早就在使用 AI 驱动的机器学习系统来进行大规模政策执行。多年来,正是得益于这样的系统,Google 才得以在被用户看到之前,就检测到并屏蔽数十亿条不良广告。然而,尽管这些机器学习模型仍十分先进,但它们以往都需要经过大量的训练,往往依赖于数十万乃至数百万例违规内容的样本。
而 LLM 则可以快速审核并解读海量内容,同时还能从这些内容中捕捉到重要的细微差异。这些先进的推理功能已经让 Google 能够对一些较为复杂的政策,做出更大规模、更精准地违规处置决策。例如,Google 制定政策来打击不可靠金融产品的声明,这其中包括宣传快速致富方法的广告。这些广告背后的恶意行为者变得越来越狡猾。他们会针对新的金融服务或产品(如投资建议或数字货币)调整策略,定制广告内容,以欺骗用户。
当然,传统的机器学习模型也被训练用于检测出这些违规行为。然而,金融趋势的快速变化和持续演进,有时也让这些模型难以区分哪些是合法内容,哪些是虚假服务,也就难以快速扩展Google 的自动化违规处置系统以打击欺诈。LLM 则更善于快速了解金融服务的新趋势,并识别出那些滥用这些趋势,将快速致富欺诈伪装成合法业务的恶意行为者的模式。这让 Google 的团队在面对新兴的各种威胁时,能够更加机动灵敏。
利用 LLM 的力量来保障广告安全而言,Google 只是刚刚开始。去年公开发布的 Gemini 是 Google 最强大的 AI 模型,Google 也很高兴能开始将它先进的推理功能应用到广告安全和违规处置工作中。
保护用户免遭欺诈和诈骗
2023 年,综合所有线上平台来看,诈骗和欺诈活动有增无减。恶意行为者不断变换手法来操纵数字广告,企图诈骗用户与合法商家。面对变化多端的威胁,Google 迅速更新了政策,部署了快速响应违规处置团队,同时改进了Google 的检测技术。
● 在 11 月份,Google 推出了有限广告投放政策,针对 Google 不太熟悉的广告主限制其广告覆盖,以此来保护用户。根据这项政策,针对那些尚未建立起良好行为记录的广告主,Google 设置了一个“熟悉期”,在此期间,某些情况下他们的广告展示次数可能会受到限制,比如,广告主与其广告中所提及的品牌关系不明确。尽管仍处于早期阶段,最终,有限广告投放政策将帮助确保动机良好的广告主能够与用户建立起信任,同时限制恶意行为者的覆盖面,降低出现诈骗和误导性广告的风险。
● 保护用户免遭网络伤害的一个关键部分在于 Google 迅速应对新的滥用趋势的能力。在 2023 年末到 2024 年初这段期间,Google 面临一种有针对性的广告滥用行为,利用对公众人物的喜爱欺诈用户,这些行为往往都使用了深度伪造(deepfakes)技术。检测到这种威胁后,Google 立即组建了一个专门的团队加以应对。Google 锁定了这些恶意行为者的行为模式,对自动违规处置模型加以训练从而检测到类似的广告,之后便开始大规模移除这些广告。此外,Google 还更新了虚假陈述政策,便于Google 快速中止恶意行为者的账号。
总体来看,2023 年 Google 屏蔽或移除了 2.065 亿条违反虚假陈述政策的广告(包括以多种手法实施诈骗的广告),以及 2.734 亿条违反金融服务政策的广告。Google 还屏蔽或移除了超过 10 亿条违反“滥用广告网络”政策的广告(包括宣传恶意软件的广告)。
打击诈骗广告是一项长期工作。Google 看到,恶意行为者的操作手法更加老道、规模更大,而且还使用了深度伪造等新手段来欺骗用户。Google 将继续投入大量资源,在检测技术方面加大投入,并与全球反诈骗联盟(Global Anti-Scam Alliance)和英国反诈骗组织 Stop Scams UK 等机构合作,促进信息共享,共同保护全球消费者。
2023 年数据概览
Google 的目标是在恶意广告和欺诈帐号出现在平台上之前,就进行有效拦截和中止,或者一经检测就立即将其移除。AI 正在帮助 Google 改善在这方面的违规处置效率。2023 年,Google 屏蔽或移除了超过 55 亿条广告,这一数字相比前一年略有上升;中止了超过 1270 万个广告主账号,处置数量较前一年接近翻倍。同样,Google 会将广告从那些违反 Google 政策(如露骨色情内容政策或危险的产品政策)的发布商页面和网站上移除,以此确保广告主和用户的安全。2023 年,Google 针对超过 21 亿个发布商页面阻止或限制了广告投放,这一数字较 2022 年略有增加。Google 在处理普遍性或严重违规行为方面也取得了进步。Google 对超过 395,000 个发布商网站采取了更大范围的网站级违规处置,这一数量相比 2022 年显著增加。
从 AI 对这项工作的影响来看:在去年发布商网页级的违规处置中,有超过 90% 的违规处置都是从使用机器学习模型开始的,包括 Google 最新的 LLM。当然,如果广告主或发布商认为存在误判,可以就处置措施提出申诉。Google 团队会进一步审核,如果发现确实有误,则会据以改进系统。
与时俱进,展望未来
在广告安全领域,一年时间可能发生很多变化,比如生成式 AI 等新技术问世、全新的滥用趋势的出现、以及全球冲突等等。数字广告行业必须机动灵活,随时做好应对准备。正因如此,Google 将持续制定新政策、强化违规处置系统、加深跨行业协作,并为用户、发布商和广告主提供更多控制。
例如在 2023 年,Google 推出了广告信息公开中心,这是一个可搜索的信息库,所有经过验证的广告主发布的广告都在其中,它有助于用户快速轻松地详细了解自己在 Google 搜索、YouTube 和展示广告网络上看到的广告。Google 还更新了适宜性控制选项,让广告主可以简单快速地在 YouTube 和展示广告网络上设置自己希望避免的特定主题。总体来看,Google 对广告和发布商政策的更新达到 31 次。
虽然尚不知道 2024 年还会面临怎样的形势,但 Google 相信,依靠在政策、检测和违规处置方面的投入,Google 一定能妥善应对未来的任何挑战。