是AI创造还是真实的世界，新标准帮你分辨

专家告诉ABC新闻，生成式人工智能的兴起使公众辨别事实与虚构变得更具挑战性，距离2024年总统竞选只有一年多一点的时间，一些人担心欺骗性虚假政治内容信息带来的风险。

生成式人工智能是指利用人工智能工具，通过简单的提示，生成包括文本、图像、音频和视频在内的内容。

从共和党广告中错误地描绘总统乔·拜登的图像，到支持佛罗里达州州长罗恩·德桑蒂斯入主白宫的外部政治团体使用人工智能技术伪造前总统唐纳德·特朗普的声音，新工具正在为候选人或其支持者提供帮助，制作超现实假货以推进党派信息的能力。

但一个公司联盟正在以“内容真实性倡议”的形式共同努力开发一种数字标准，他们希望该标准能够恢复用户对在线内容的信任。

Truepic的Mounir Ibrahim在周日播出的一段节目中向ABC新闻解释道：“如果你所看到的图像和视频实际上没有透明度和一定程度的真实性，那么你可能很容易在不知道其中差异的情况下被误导。”在《本周》节目中，该公司的相机技术将经过验证的内容来源信息（例如日期、时间、地点）添加到使用其工具拍摄的内容中。

Truepic表示，目前记录战争罪行的非政府组织和保险公司等商业合作伙伴都在使用它来验证损坏图像的真实性。但Ibrahim认为2024年候选人有一个想法，他们想要证明他们发布的内容是真实的。

“想想我们如何决定投票给谁，我们相信什么：其中很大一部分来自我们在网上看到或听到的内容，”他说。

Adobe首席信托官兼总法律顾问Dana Rao表示同意：“我认为政府认真考虑这一非常重要的问题。”

Rao说：“他们通过社交媒体平台和其他在线数字音频和视频内容直接与我们的公民进行交流，并且比以往任何时候都更多地在互联网上进行交流。”

他告诉ABC新闻，内容真实性倡议的数字标准将允许创作者显示“内容凭证”，了解该内容的整个历史——包括它是如何被捕获的，以及是否以及如何被编辑的。

目标是每当在线发布内容时（无论是通过网站还是社交媒体平台）显示这些凭据。

“我们提供的关键部分是，这是一个让你证明它是真实的解决方案，”Rao说。“这意味着使用内容凭证的人试图告诉你发生了什么。他们希望保持透明。”

“（作为消费者）你可以查看这些信息。你可以自己决定是否相信它，”Rao说。

他和Ibrahim都承认，试图欺骗人们的坏人不会使用这个标准，但希望创作者能够更广泛地采用它，这样他们的内容就会与证明其真实性的信息区分开来。

Adobe表示，他们正在与社交媒体平台进行富有成效的对话，但到目前为止，没有一个平台加入“内容真实性倡议”，也没有同意让用户在其网站上显示新的内容凭证。

ABC新闻已联系Facebook、Instagram和TikTok的所有者Meta以及X（该平台以前称为Twitter）发表评论。

加州大学伯克利分校计算机科学教授Hany Farid表示：“他们明天就可以做到这一点。这里没有进入障碍。”他表示，内容凭证是一种免费的开源技术，公司可以轻松实施。

Farid专门研究数字取证，他表示生成式人工智能有可能侵蚀已经陷入困境的信息生态系统。

“在过去的几个（总统）选举周期中，一位候选人与另一位候选人之间的差异以数万张选票来衡量。在少数几个州、少数几个地区，你可以将50,000张选票朝一个方向或另一个方向移动——这就是比赛，”Farid说。“在社交媒体、外部操纵、虚假内容、对政府、媒体和科学家的现有不信任之间，我认为这是不可能的。对我来说，我们在这里谈论的民主危在旦夕，令人担忧。”

但Farid表示，他希望现在正在进行的对话——不仅是与科技公司，而且是与立法者——将带来全行业的变革。

Farid说：“我认为我们的监管机构提出了很多好的问题，他们正在举行听证会，我们正在进行对话，我们正在做简报，我认为这很好。”“我认为我们现在必须对这一切采取行动。”