Meta 的新型人工智能图像生成器 Imagine 是在公开的 Facebook 和 Instagram 帖子（包括约 11 亿张用户分享的图片）上训练出来的。该工具允许用户创建图片并在 Messenger 上分享，还可以通过输入辅助提示对现有图片进行 “改编”。虽然它承诺了趣味性和创造性，但也引发了隐私问题，因为人工智能模型的训练数据来自 Meta 平台上公开的用户图片。这凸显了社交媒体平台上的用户生成内容是如何在未经用户明确同意的情况下被用于人工智能训练的。
Imagine 平台的操作类似于标准的文本到图片生成器，但在 Messenger 中引入了一项独特的功能。用户可以自发生成图片、分享图片，并通过输入辅助提示对现有图片进行创造性修改。该功能允许编辑和重新发送原始图片。此外，用户还可以直接在 Facebook 或 Instagram Stories 上分享这些 “想象 “图片，从而放大他们的创意表达。
然而，”想象 “的娱乐和创意潜力也带来了道德问题。该平台在未经明确许可的情况下使用数百万张用户图片生成图像。虽然有些人认为公开访问的图片是公平的游戏，但 Meta 在 9 月份的 Connect 会议上澄清说，Imagine 的训练数据主要来自 Facebook 和 Instagram 的公开帖子，但并不完全如此。此外，有很大一部分数据并不是用于公开消费的，这就引发了有关隐私和同意的问题。
Meta 似乎正在采取措施加强其人工智能计划的安全措施。根据 Meta 全球事务总裁尼克-克莱格（Nick Clegg）的说法，该团队已尝试排除含有大量个人信息的数据集，并省略了针对个人的外部帖子，如 LinkedIn 状态。在最近的 “2023 年人工智能回顾 “中，Meta 强调了其对负责任发展的承诺，即在 “想象 “输出中加入隐形水印，他们计划很快实施这一措施。不过，最近的研究表明，这些水印可能很容易被去除，从而引发了对其有效性的质疑。尽管如此，此举还是表明了公司在加强安全性方面的积极态度。据报道，Meta 在 “红队”（red teaming）方面加倍努力，该流程对生成式人工智能进行压力测试，以识别潜在的有害结果。
常见问题
1. Meta 的 Imagine 平台是什么，如何运行？
Imagine 是一款人工智能图片生成器，允许用户在 Messenger 中创建和修改图片。它使用 Facebook 和 Instagram 上公开的用户图片作为训练数据，使用户能够生成并创造性地修改图片。
2. Meta 的 Imagine 引发了哪些伦理问题？
Imagine 在未经用户明确同意的情况下使用公开的用户图片进行人工智能训练，这引发了有关隐私和同意的问题。虽然图片是公开的，但该工具在未经许可的情况下使用这些数据引发了伦理方面的争论。
3. Meta 采取了哪些安全措施来解决这些问题？
Meta 试图排除含有个人信息的数据集，并省略 LinkedIn 状态等针对个人的外部帖子。为了安全起见，他们还计划在 Imagine 的输出中引入隐形水印，尽管有人对水印的有效性表示担忧。
4. Meta 在人工智能训练中采取了哪些措施来确保用户数据隐私？
Meta 声称在使用公开图片进行训练时，会排除包含个人信息和特定个人外部帖子的数据集。然而，在未经用户明确同意的情况下使用此类数据的问题依然存在。
本文来自作者投稿，版权归原作者所有。如需转载，请注明出处：https://www.nxrte.com/zixun/39606.html
