Anaconda 视角
2022 年 12 月 10 日
ChatGPT 的能力与局限性
你是否曾梦想过拥有一个可以随时与你聊天、回答你所有问题、提供建议以及帮助你写作、编码和学习的朋友？这个朋友已经以最近发布的聊天机器人的形式成为现实：ChatGPT，一个全新的 AI 对话系统。这个特殊的“朋友”永不疲倦、永不厌倦，总是乐于助人。它就像在数字瓶子里拥有你自己的私人精灵。
ChatGPT 已经成为新闻和社交媒体上热议的话题，许多人尝试使用它并分享他们的体验（我们将在下面重点介绍一些）。这项由 OpenAI 开发的创新技术以其令人印象深刻的智能水平吸引了全世界的关注。虽然它并不完美，但 ChatGPT 的先进功能为各行各业开辟了广泛的潜在应用范围。让我们探索一下 ChatGPT 如此受欢迎的原因以及该工具可以提供什么。注意：我使用 ChatGPT 来润色这段文字。
什么是 ChatGPT？
首先让我们谈谈 ChatGPT 是什么。还有什么比直接询问 ChatGPT 更好的方式来回答这个问题呢？
很棒的答案，ChatGPT！ChatGPT 是一种语言模型和 AI 的形式，它非常擅长进行对话或问答式的交流。要亲身体验，只需点击这里，创建一个帐户，然后开始聊天。
ChatGPT 能做什么？
ChatGPT 可以聊天、回答问题、创建内容、编写代码和调试、参加考试、操作数据、解释和辅导等等！让我们仔细看看。
回答问题
当被问及如何为数据科学安装 Python 时，ChatGPT 提供了有关如何下载 Anaconda、检查已安装的软件包和启动 Anaconda Navigator 的详细信息。
创建内容
ChatGPT 具有许多内容创建用例，因为它可以轻松地根据提示编写内容。当我要求 ChatGPT 写一首关于 Anaconda 的诗时，它做得非常出色（见下文）。我特别喜欢“Anaconda，一个强大的盟友 / 在追求知识和洞察力的道路上”这两行。ChatGPT 还激发了人们创建 AI 艺术提示和构建增强现实 (AR) 场景的灵感。ChatGPT 生成的内容用例可能具有无限的潜力。
ChatGPT 创作了一首关于 Anaconda 的诗。
重新设计写作
如果你热爱写作，但不知道如何为你的文字增添一抹优雅和华贵，ChatGPT 可以提供帮助！我最近要求这个方便的工具帮助我以科特·冯内古特 (Kurt Vonnegut) 的风格改写一段文字（见下文），结果非常棒。但如果你的写作不仅要精致，还要让读者产生共鸣呢？我要求 ChatGPT 帮助我创作一篇既华丽又容易理解的散文，我对结果感到欣喜。试试 ChatGPT，看看它如何帮助你实现你的文学目标！注意：我使用 ChatGPT 来润色这段文字。
如果你难以理解复杂的学术写作，ChatGPT 可以帮助你简化它。
编写代码和调试
是的，ChatGPT 理解代码、可以编写代码，甚至可以帮助开发人员调试他们的代码。这在以前是不可想象的，与之前的 AI 文本生成工具相比，ChatGPT 似乎只是“理解”了它。
ChatGPT 帮助进行结对编程。
参加考试
ChatGPT 甚至可以参加考试。虽然它只获得了 52% 的分数，但一个 AI 机器人能够参加复杂的 SAT 考试令人印象深刻。
操作数据
ChatGPT 的数据操作能力非常令人印象深刻！它可以在表格中生成数据、添加索引、理解 JSON 等等。
解释和辅导
ChatGPT 能够如此出色地帮助解释单词、代码，甚至物理学，令人着迷。随着像 ChatGPT 这样的 AI 辅导功能在未来几年得到改进和增强，它们可能会彻底改变学生与世界互动的方式。
ChatGPT 会取代 Google 吗？
阅读完上述所有用例后，你可能会想，“ChatGPT 太棒了！它似乎可以做 Google 可以做的一切，甚至更多！ChatGPT 可以取代 Google 吗？它会取代 Google 吗？” 确实，许多人表达了这种观点，有些人发现 ChatGPT 的结果“比 Google 的结果好得令人难以置信”。
但是 ChatGPT 真的会取代 Google 吗？为了回答这个问题，我当然询问了 ChatGPT。
ChatGPT 的回答是它不会取代 Google。它提出了两个有趣的观点：一是 ChatGPT 是在数据上训练的，无法访问互联网或提供搜索结果。二是它尽其所能提供准确的结果。这告诉我 ChatGPT 至少存在两个严重的局限性：训练数据的局限性和提供正确答案的局限性。这些局限性意味着 ChatGPT 不会取代 Google。接下来，让我们更深入地了解 ChatGPT 的局限性，并从社交媒体上的社区成员那里获得更多信息。
局限性
错误答案
由于 ChatGPT 是一个语言模型，它不可避免地会提供错误的答案。事实上，有时它会非常错误。计算机科学家 Andew Ng 发现它“有时会犯很可笑的错误”。有时 ChatGPT 给人的印象是，即使它错了，它也对自己的答案非常自信，这可能会造成危害——尤其是因为你无法判断它何时出错，除非你已经知道正确答案，正如 Arvind Narayanan 在 Twitter 上指出的那样（见下文）。
由于 ChatGPT 有时会提供错误的信息，StackOverflow 甚至在三天前禁止了 ChatGPT，理由是“总的来说，由于从 ChatGPT 获得正确答案的平均比率过低，发布 ChatGPT 生成的答案对该网站和寻求正确答案的用户极具危害性”。
训练数据限制
与许多 AI 模型一样，ChatGPT 的训练数据也存在限制。训练数据的缺乏和训练数据中的偏差可能会对模型结果产生负面影响。
偏差问题
ChatGPT 可以生成歧视性结果。事实上，ChatGPT 在涉及少数群体时已经表现出偏差。当训练数据存在偏差时，模型不可避免地会存在偏差。这是几乎所有 AI 工具都面临的挑战，在努力确保科技公平并减少偏差时，我们必须牢记这一点并加以考虑。
可持续性
在 Twitter 上有一个关于运行 ChatGPT 需要多少个 GPU 的讨论线程。结论是 ChatGPT 运行成本很高。鉴于 ChatGPT 是一款免费产品，目前尚不清楚 ChatGPT 的可持续性以及它能运行多久。
稳定性和容量问题
就在我写这篇博文的时候，ChatGPT 暂时宕机了。目前还不清楚 OpenAI 使用了多少资源来保持 ChatGPT 的运行。
尽管 ChatGPT 已经证明了其适用于许多有意义的用例，并在社区中引起了轰动，但考虑到上述所有局限性，目前尚不清楚 ChatGPT 是否以及何时能够商业化。然而，我希望 ChatGPT 能够克服这些局限性，我期待着下一项突破！
其他参考
“OpenAI 的新聊天机器人可以解释代码和编写情景喜剧剧本，但仍然很容易被欺骗”
对 ChatGPT 感兴趣？在 12 月 15 日星期四加入 Anaconda 首席执行官 Peter Wang 参加一个现场研讨会和探索性讨论，了解 ChatGPT 和其他大型语言模型的变革力量。在此处注册 这里。
与专家交谈
与我们的专家交谈，找到适合您 AI 之旅的解决方案。