ChatGPT 让每个人都产生了幻觉？

我们需要谈谈生成人工智能。

ChatGPT 已经迅速成为企业通信，甚至是一般信息技术中最受关注的技术。它在许多方面显然是一项突破性技术，但那些声称其影响是革命性的人是在产生幻觉。

虽然它听起来不错，但 ChatGPT 不是 iPhone 时刻。对于初学者来说，ChatGPT 根本不是一个时刻。2007 年 1 月 9 日，史蒂夫·乔布斯 (Steve Jobs) 向全世界推出了 iPhone。全世界从未见过这样的产品。

尽管您可以说 ChatGPT-3 是在 2022 年 11 月 30 日发布的，但这并不是一个时刻。对于初学者来说，ChatGPT-3 与 ChatGPT-2 并没有什么不同，ChatGPT-2 在我们 2018 年遇到的 GPT-1 的基础上逐步改进。ChatGPT-3 曾经并且仍然令人印象深刻，但它的工作方式与以前的人工智能系统没有什么不同。它只是遵循要求后续版本更快更好的标准技术曲线。

ChagtGPT-3 确实比其前身好得多。与之前的聊天机器人相比，它具有更多类似人类的对话功能，而且使用起来也更简单。让我们花点时间讨论一下 ChatGPT-3 真正擅长的是什么。然后，我将介绍它的影响如何以及为什么会比目前的炒作所暗示的要小。

人工智能并不新鲜，而且进展比许多人预期的要慢。AI 是一个非常广泛的类别，但今天的炒作集中在生成 AI 或生成各种类型的内容（如文本、图像等）的 AI 上。生成式人工智能通过识别其训练数据中的模式来工作。就 OpenAI 和 ChatGPT 而言，训练数据包括互联网。

生成式人工智能是一项重大突破，可归功于谷歌。这家科技巨头在 2017 年开创性地发明了 Transformer 架构，为大型语言模型 (LLM) 生成 AI 的新时代铺平了道路。Transformer 架构是一个基于神经网络的系统，能够处理大量的顺序数据。它使用注意力机制为输入数据的不同部分赋予不同的权重，使其网络能够专注于最相关的信息。

该技术已被证明在语言建模方面非常有效，并已成为大多数 LLM 生成 AI 的基石。这些模型可以创建复杂的输出，例如聊天机器人、语言翻译和创意写作。生成能力的进步彻底改变了补充甚至支持客户服务功能的可能性。

OpenAI 创建于 2018 年，并立即发布了 ChatGPT-1。去年 11 月，它发布了 ChatGPT-3。据 OpenAI 称，ChatGPT-3 仅用了五天时间就达到了 100 万订阅者。这令人印象深刻，许多人认为 ChatGPT-3 是新的 AI 领导者——而且它可能是。很难知道，因为 OpenAI 一直很慷慨，而谷歌一直对公众隐瞒其大部分人工智能。

采用的速度之快无疑是开创性的。这种增长可以部分归因于其简单的、类似聊天的用户界面。它的输入和输出都可以是自然语言，因此任何会打字的人都可以使用高级人工智能。

ChatGPT-3 已经改进了，所以我将删除 3，现在通常将 Chatgpt-3、3.5 和 4 统称为 ChatGPT。ChatGPT 技术非常擅长语言。它以多种语言制作文章、随笔、脚本等，内容非常复杂。它还可以生成多种编程语言的计算机代码。

它也可以迭代工作。它接受反馈并可以调整其输出。有效支持人机混合工作。我们之前曾期望人工智能为我们完成这些工作，但这是有问题的。例如，谈到驾驶，我们倾向于想到一个司机：人类或机器人。机器人在撞车之前非常擅长驾驶。助理司机的空间不大。

然而，许多任务可以同时受益于迭代和助手，即写作。创建散文或代码通常是一个迭代过程，而 ChatGPT 可以提供帮助（助手？）。这种人工智能增强、人类驱动的工作本身就是革命性的。它可以让人类更快地工作。从本质上讲，使用人工智能作为一种工具可以显着提高产出的质量和数量。ChatGPT 让企业和消费者大开眼界，了解 AI 的有用（和自然）。

我并不是要贬低这一成就，但我们以前来过这里。我记得 1997 年深蓝在国际象棋比赛中击败卡斯帕罗夫。这是一场巨大的胜利——机器终于能够在这场古老的智力游戏中征服人类。我还记得 IBM Watson 在 2011 年的 Jeopardy 比赛中获胜。搜索数据库很简单，但理解预期答案（或本例中的问题）非常复杂。机器人的强大之处在于它能够通过其搜索能力理解查询的人性化方面。然后是 DeepMind AlphaGO 在 2017 年赢得围棋比赛。古老的思维和排列游戏的又一次胜利。

归根结底，人工智能正在变得越来越好——好得可怕，但还不是很好。如果不偶尔撞上紧急车辆，汽车仍然不会自行行驶。人工智能的突破并不新鲜。他们是意料之中的，如果有的话，我们已经逾期了。同样不是新的，接下来的炒作周期。

在 IBM 的 Watson 赢得 Jeopardy 之后，该公司将重点转向医疗保健。沃森将为医生提供有关症状、研究和治疗的见解。它没有用，Watson Health 被卖掉了。关于 ChatGPT 有很多新的炒作。

例如，英国电信宣布，到 2030 年，自动化和人工智能等技术将取代 10,000 个工作岗位。这是一个相当大胆而遥远的预测。BT 尚未具体说明将提供、采购和实施哪些自动化和人工智能解决方案——大概是因为它们尚不存在。他们也无法具体说明上述解决方案的成本。到 2030 年，这将是别人的问题。

IBM 也曾经是 AI 的领导者，它宣布将暂停招聘可能被 AI 取代的后台职位，这意味着后台职位减少 30%，即五年内减少 7800 个职位。胡言乱语。减少 30% 的后台工作岗位，而不是全部工作岗位。在 Meta、微软、亚马逊和谷歌在 2022 年实施的两位数巨额裁员的阴影下，五年内减少了不到 3%。这里的双重讽刺是，ChatGPT 似乎更擅长前台角色，或面向客户角色的机会。

高层次的、模糊的承诺是我们目前所能期待的最好的承诺，因为这项技术需要一些时间才能进入企业产品。ChatGPT 对公众免费的原因是 OpenAI 重视如何应用这项技术的想法。每个人都怀疑有什么重要的事情正在发生，但同样重要的是要注意它还没有发生。

聊天机器人是客户服务的重要组成部分，ChatGPT 表明它们可以做得更好。一个常见的问题是，“为什么组织不直接改用 ChatGPT 而不是他们现在使用的任何东西？” 不这样做的原因有很多，首先是 ChatGPT 不知道任何有用的信息。这是一个天生的健谈者，无话可说。它甚至不知道当前的天气。互联网用于教育或培训 ChatGPT，但该培训数据在 2021 年底停止。

应该注意的是，大多数人不会请求客户服务来解决他们可以通过互联网搜索轻松解决的常见问题。客户服务非常具体且以行动为导向，它需要连接到后端系统以进行订购、运输、会计等。ChatGPT 没有连接到那些。将 ChatGPT 想象成车展上的概念车。你不能驾驶它，甚至不能购买它，但它是展会上最酷的汽车——值得一看。

当然，这会改变。一些公司已经在使用 ChatGPT 的对话功能，但坚持使用其他人工智能技术来提供后端服务。这是目前正确的做法，确实会带来更好的体验，但不是革命性的。

然后还有关于幻觉的其他问题。我喜欢这个词。这听起来比大胆说谎更神奇。

ChatGPT 是一个令人难以置信的骗子。这就是票，ChatGPT 是聊天机器人的乔治桑托斯。多年来，我们学会了信任机器。计算器不会说谎，但最复杂的 AI 不仅会说谎，而且会经常且坚定地这样做。它不会故意这样做。就它而言，它什么都说谎——它用统计数据造句。对于努力对客户诚实的企业来说，这是一个问题。

今年早些时候有很多预测称 ChatGPT 将取代记者。这并没有真正发生，因为报纸需要真实、可信的报道。写作很重要，但大多数组织都希望写作能根据客户需求量身定制，并包含与他们的查询相关的具体、及时的信息。ChatGPT 令人信服的谎言会给任何使用它的企业带来相当大的法律、财务和声誉风险。

不管我在这里写了什么，我也对 ChatGPT 感到兴奋。我一直在定期试验它。我认为它具有成为有效协作工具的真正潜力。我希望更新的版本能够改进功能和可用性。ChatGPT 确实是我们在人工智能方面取得进步的一个重要里程碑，甚至可能比击败人类国际象棋冠军更重要。但仅此而已 – 持续进步的里程碑。

我对机器人的态度不断改变。在Bots Rule, Agents Drool中，我写了我现在如何发现机器人真正有用。这仍然是正确的，但与 ChatGPT 几乎没有关系。它基于个人使用机器人的经验，虽然 ChatGPT 确实改进了人机界面，但改进并不多。事实证明，进展比我们许多人希望的更加线性。