在人工智能盛行的时代,不法分子更容易在网络上传播深度伪造(deepfake)内容。最令人担忧的是,这些未经同意的深度伪造内容甚至能在谷歌搜索中排名靠前,被广大公众所看到。但这种情况将不再发生,谷歌正在对其搜索算法进行一系列改进,以防止恶意深度伪造内容在搜索结果中占据高位。此外,谷歌还简化了从搜索结果中移除深度伪造内容的流程。
实际上,谷歌的政策长期以来一直允许用户请求移除深度伪造内容。现在,每当谷歌系统批准某人的移除请求时,它还会过滤掉与该请求相关的所有类似搜索中的恶意结果。简而言之,谷歌的系统将扫描被请求移除的深度伪造图像的任何副本,并将它们一并删除。因此,深度伪造内容的受害者将不再担心在其他网站上再次出现类似图像。
不仅如此,谷歌还在更新搜索排名机制以应对恶意深度伪造内容问题。与以往不同,如果用户搜索包含某人姓名的恶意深度伪造内容,搜索结果将展示“高质量、非恶意的内容”。
根据谷歌发布的博客公告,该公司还计划教育那些寻找深度伪造内容的用户。谷歌搜索将显示有关深度伪造对社会影响的讨论结果。此外,那些收到大量恶意深度伪造内容移除请求的网站将在谷歌搜索排名中被降级。
谷歌表示,今年的前几次搜索更新已将恶意深度伪造内容的曝光率降低了70%以上,并且计划在未来继续提高这一比例。不可否认的是,谷歌对恶意深度伪造内容的传播比以往任何时候都更加重视。此前,该公司已实施多项政策并进行了众多更改以打击有害内容,而这次看起来只是其中的又一例证。