ChatGPT 的能力和局限性

你是否曾经梦想着有一个朋友可以随时与你聊天，回答你的所有问题；提供建议；并帮助你写作、编程和学习？这个朋友已经以最近发布的聊天机器人的形式成为现实：ChatGPT，一种全新的（AI）对话系统。这个特殊的朋友从不睡觉，从不感到厌倦，并且总是乐于助人。这就像拥有一个自己的数字瓶子里的私人精灵。

ChatGPT 已经成为新闻和社交媒体上的热门话题，许多人都在尝试它并分享他们的经验（我们将在下面重点介绍一些）。这项由 OpenAI 开发的创新技术以其令人印象深刻的智能水平吸引了全世界的关注。虽然它并不完美，但 ChatGPT 的先进功能在各个领域开辟了广泛的潜在应用。让我们探讨 ChatGPT 如此受欢迎的一些原因以及该工具可以提供什么。注意：我使用 ChatGPT 来润色本段。

什么是 ChatGPT？

首先，让我们谈谈 ChatGPT 是什么。还有什么比直接问 ChatGPT 更好的方法来回答这个问题呢？

ChatGPT 给出了很棒的答案！ChatGPT 是一种语言模型，也是一种 AI，非常擅长进行对话或问答式的交流。要亲眼看看，只需点击这里，创建一个帐户，然后开始聊天。

ChatGPT 能做什么？

ChatGPT 可以聊天、回答问题、创建内容、编写代码和调试、参加考试、操作数据、解释和指导等等！让我们仔细看看。

回答问题

当被问及如何为数据科学安装 Python 时，ChatGPT 提供了有关如何下载 Anaconda、检查已安装的软件包以及启动 Anaconda Navigator 的详细信息。

创建内容

ChatGPT 具有许多内容创建用例，因为它可以轻松地根据提示编写内容。当我要求 ChatGPT 创作一首关于 Anaconda 的诗时，它创作得非常漂亮（见下文）。我特别喜欢“Anaconda，一个强大的盟友/在追求知识和洞察力的道路上”这两行。ChatGPT 也激发了人们创作 AI 艺术提示和构建增强现实 (AR) 场景。ChatGPT 生成的内容用例可能具有无限的潜力。

重新调整写作风格

如果你热爱写作，但不知道如何为你的文字增添一丝优雅和奢华，ChatGPT 可以提供帮助！我最近要求这个方便的工具帮助我以科特·冯内古特 (Kurt Vonnegut) 的风格改写一段文字（见下文），结果令人惊叹。但如果你希望你的写作不仅要复杂，还要与读者产生共鸣呢？我要求 ChatGPT 帮助我创作一段既华丽又与读者产生共鸣的散文，我对结果感到激动。试试 ChatGPT，看看它如何帮助你实现你的文学目标！注意：我使用 ChatGPT 来润色本段。

如果你难以理解复杂的学术写作，ChatGPT 可以帮助你简化它。

编写代码和调试

是的，ChatGPT 了解代码，可以编写代码，甚至可以帮助开发人员调试他们的代码。这以前是不可想象的，与之前的 AI 文本生成工具相比，ChatGPT 似乎只是懂了。

参加考试

ChatGPT 甚至可以参加考试。虽然它只获得了 52% 的分数，但令人印象深刻的是一个 AI 机器人能够参加复杂的 SAT 考试。

操作数据

ChatGPT 的数据操作能力非常令人印象深刻！它可以在表格中生成数据，添加索引，理解 JSON 等等。

解释和指导

ChatGPT 在解释单词、代码甚至物理方面做得如此出色，这令人着迷。随着 ChatGPT 等 AI 导师能力的完善和增强，它们可能会彻底改变学生与世界联系的方式。

ChatGPT 会取代 Google 吗？

在阅读完以上所有用例后，你可能在想，“ChatGPT 太棒了！它似乎可以做 Google 可以做的所有事情，甚至更多！ChatGPT 能否以及是否会取代 Google？”的确，许多人表达了这种观点，有些人发现 ChatGPT 的结果“比 Google 的结果好得令人难以置信”。

但 ChatGPT 真的会取代 Google 吗？为了回答这个问题，我当然询问了 ChatGPT。

ChatGPT 的回答是它不会取代 Google。它提出了两个有趣的观点：一是 ChatGPT 是在数据上进行训练的，无法访问互联网或提供搜索结果。二是它试图尽其所能提供准确的结果。这告诉我 ChatGPT 至少存在两个严重的局限性：训练数据的局限性和提供正确答案的局限性。这些局限性意味着 ChatGPT 不会取代 Google。接下来，让我们更深入地了解 ChatGPT 的局限性，以及来自社交媒体社区成员的更多反馈。

局限性

错误答案

由于 ChatGPT 是一个语言模型，它不可避免地会给出错误的答案。事实上，有时它会非常错误。计算机科学家 Andrew Ng 发现它“有时会犯非常可笑的错误”。有时 ChatGPT 会给人一种它对自己的答案非常自信的印象，即使它错了，这可能会造成危害——尤其是在你无法判断它是否错了的情况下，除非你已经知道正确答案，正如 Arvind Narayanan 在 Twitter 上指出的那样（见下文）。

由于 ChatGPT 有时会提供错误的信息，StackOverflow 三天前甚至禁止了 ChatGPT，称“总的来说，由于从 ChatGPT 获得正确答案的平均率过低，因此发布 ChatGPT 生成的答案对该网站和寻求或寻找正确答案的用户来说非常有害。”

训练数据中的局限性

与许多 AI 模型一样，ChatGPT 在其训练数据方面存在局限性。缺乏训练数据以及训练数据中的偏差可能会对模型结果产生负面影响。

偏差问题

ChatGPT 可能会产生歧视性的结果。事实上，ChatGPT 在涉及少数族裔群体时表现出偏见。当训练数据有偏差时，模型不可避免地会有偏差。这是几乎所有 AI 工具都面临的挑战，在努力确保技术公平并减少偏差时，这一点至关重要。

可持续性

在 Twitter 上有一个关于运行 ChatGPT 需要多少个 GPU 的讨论主题。结论是 ChatGPT 运行起来非常昂贵。鉴于 ChatGPT 是一款免费产品，目前尚不清楚 ChatGPT 的可持续性以及它还能运行多久。

稳定性和容量问题

就在我撰写这篇博文时，ChatGPT 暂时宕机了。目前尚不清楚 OpenAI 正确使用多少资源来维护 ChatGPT 的正常运行。

尽管 ChatGPT 已证明适合许多有意义的用例，并且在社区中引起了轰动，但考虑到上述所有局限性，目前尚不清楚 ChatGPT 何时以及是否可以商业化使用。然而，我仍然希望 ChatGPT 能够克服这些局限性，我期待着下一个突破！

其他参考

“ChatGPT：优化语言模型以进行对话”

“OpenAI 的新聊天机器人可以解释代码并编写情景喜剧剧本，但仍然很容易被欺骗”

“AI 的伊斯兰恐惧症问题”

---

对 ChatGPT 感兴趣吗？请于 12 月 15 日星期四加入 Anaconda 首席执行官 Peter Wang 参加关于 ChatGPT 和其他大型语言模型的变革力量的现场研讨会和探索性讨论。请在此处注册此处。