当前位置:首页 » 《随便一记》 » 正文

【AI前沿】chatgpt还有哪些不足?

25 人参与  2023年04月17日 11:40  分类 : 《随便一记》  评论

点击全文阅读


博客昵称:吴NDIR
个人座右铭:得之淡然,失之坦然
作者简介:喜欢轻音乐、象棋,爱好算法、刷题
其他推荐内容:计算机导论速记思维导图
其他内容推荐:五种排序算法


在这个愉快的周末让我们聊一下ChatGPT吧!ChatGPT 4时代来临,ChatGPT的缺陷在于它不能处理特定领域的知识,而且在生成响应时可能会出现语法错误和逻辑矛盾等问题。

1.速度问题2.实时性3.知识局限性4.文本处理问题5.逻辑处理6.越界问题

1.速度问题

ChatGPT起初响应速度慢,原因主要是因为其预测模型较为复杂,需要大量的计算资源和时间来完成响应的生成,导致响应速度较慢。但随着版本的更新和技术的不断创新,ChatGPT响应速度得到了不断的提升和优化。
在这里插入图片描述

OPEN AI在之后针对这个问题进行了以下的优化


硬件优化:使用更高效的GPU或TPU等硬件设备,加速模型的计算和推理过程,从而提高模型的响应速度。
算法优化:使用更加高效的算法和模型结构,如预训练模型和增量学习等,优化模型的参数和参数更新方式,提高模型的响应速度和准确性。
数据优化:使用更加优质和多样化的数据集,加入更多的标注和清洗工作,减少数据偏差和噪声,提高模型的训练效果和响应速度。
现在ChatGPT已经是非常快了,如让它写一篇论文
在这里插入图片描述

2.实时性

我们知道使用chatgpt可以查询概念,查询知识,查询菜谱等等,但是它不能获得当前最新消息,即使它能阶段性学习和更新,但至少来说目前它还不能代替搜索引擎。下面是一个例子,当向ChatGPT问道:“江西明天的天气?”
【提问】
在这里插入图片描述
【回答】
在这里插入图片描述
3.AI语言模型没有直接获取实时天气预报数据的能力。ChatGPT只是一个程序,根据输入的文本信息和相关的规则和算法来生成响应,它并没有接入实时数据的API或其他接口。

3.知识局限性

尽管ChatGPT具有强大的对话生成能力,但它仍然存在一些知识局限性,这些局限性可能导致ChatGPT在某些情况下无法有效地应用。
缺乏常识性知识ChatGPT的模型是基于大规模语料库训练的,它的知识主要来自于网络上的文本数据。因此,ChatGPT缺乏一些基本的常识性知识。例如,当被问到“鲸鱼是鱼类还是哺乳动物?”时,ChatGPT可能会回答“鱼类”,而不是正确的答案“哺乳动物”。
容易受到输入数据的影响ChatGPT是一种生成式模型,它可以自动生成对话内容。然而,它的输出很容易受到输入数据的影响,因此需要对输入数据进行精心的筛选和处理。例如,如果输入的文本数据中存在歧义或错误,ChatGPT可能会生成不准确的对话内容。
对特定领域的知识缺乏理解ChatGPT的模型是通用性的,它可以应用于各种领域的对话生成。然而,由于缺乏特定领域的知识,ChatGPT可能无法理解某些特定领域的术语或语言。例如,在医学领域,ChatGPT可能无法理解某些医学术语或药品名称,从而无法生成准确的对话内容。

4.文本处理问题

一个常见的问题就是不能处理长文本,很难向ChatGPT投喂大量数据。否则将提示:
在这里插入图片描述因为GPT模型需要在每个时间步骤都生成一个预测,所以生成的时间会随着文本长度的增加而线性增加,这导致处理长文本时需要更长的时间。同时,长文本中可能涉及到多个话题,这可能导致模型在生成回复时出现逻辑不连贯或者没有重点的情况。因此,ChatGPT在处理长文本时可能会遇到一些限制,而这些限制可能会影响到对话的质量和效率。其次,当我们问题或者要求ChatGPT长文本输出时,它不能做到一次全部输出。如让ChatGPT写一篇不少于10000字关于CSDN
在这里插入图片描述但这个问题还是容易解决,只需要要求它“继续”即可。但遇到代码块回复时,之后的一段将不再使用Markdown语法回复。

5.逻辑处理

在使用ChatGPT的过程,它很难处理与数学有关的问题(事实上与知识局限性有关)。下面是一个简单的排列组合问题:将4个不同的球放到4个不同的盒子中,有几种方法?

在这里插入图片描述
2. 可以看到ChatGPT成功处理了这个问题,但我们将这个问题进行修改:若其中两个球是一样的,两者不作区分,有几种方法?
在这里插入图片描述
3. 看到这别着急,现在如果继续问:在此基础上,若其中有两个盒子完全相同不作区分呢?
在这里插入图片描述
实际上7种方式,而ChatGPT只是简单的除以2。ChatGPT只能处理简单的数学逻辑,而实际上在编程中,有些逻辑远远比这复杂,从而让它生成问题的代码往往不能帮助解决。

6.越界问题

ChatGPT是一个基于GPT模型的对话生成器,它可以用来生成有意义的对话。但是,由于它是一个预先训练好的神经网络,它所生成的回复是基于大规模数据集的统计模型。因此,ChatGPT生成的回复可能会包含一些不合适或有违背伦理道德的内容。

1.为了避免ChatGPT生成违背伦理道德的内容,开发者通常会在训练模型时使用专门的数据集,这些数据集包含了经过筛选和审查的高质量数据,以确保生成的回复是合适的并符合伦理道德的标准。此外,Open ai通过训练模型使用更加严格的限制条件来控制生成的回复,以确保其质量和合适性。

在这里插入图片描述
2. 但针对这个问题,有很多指令可以去诱导ChatGPT越界,如下面的指令
在这里插入图片描述
在这里插入图片描述
诱导越界
在这里插入图片描述


点击全文阅读


本文链接:http://m.zhangshiyu.com/post/59716.html

<< 上一篇 下一篇 >>

  • 评论(0)
  • 赞助本站

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。

关于我们 | 我要投稿 | 免责申明

Copyright © 2020-2022 ZhangShiYu.com Rights Reserved.豫ICP备2022013469号-1