文章目录一. 大模型的局限1. 大模型不会计算2. 甚至明目张胆的欺骗二. 使用插件和微调来增强GPT模型1. 模型的局限性2. 插件来增强大模型的能力3. 微调技术-提高特定任务的准确性一. 大模型的局限1. 大模型不会计算LLM根据给定的输入提示词逐个预测下一个词也就是标记从而生成回答。在大多数情况下模型的输出是与提问相关的并且完全可用但是在使用语言模型时需要小心因为它们给出的回答可能不准确。这种回答通常被称为AI幻觉。对于依赖GPT的用户来说AI幻觉可能带来危险。你需要仔细核对并批判性地审视模型的回答。考虑以下例子。首先我们让模型计算一个简单的式子2 2。不出所料它给出的答案是4。非常好然后我们让它计算一个复杂的式子3695 × 123548。尽管正确答案是456509860但模型非常自信地给出了一个错误的答案如图。当我们要求它进行检查并重新计算时它仍然给出了一个错误的答案。只会补全文本尽管我们可以使用插件系统向GPT添加新功能但GPT默认不包含计算器。为了回答我们的问题即2 2等于多少GPT逐个生成每个标记。它之所以能正确回答是因为它可能经常在训练文本中遇到2 2等于4。这并不能说明它会计算只能说明它会补全文本而已。犯错的原因GPT很可能没有在其训练文本中见过太多次3695 × 123548。这就是它犯错的原因。因此在应用程序中使用GPT时要特别小心。如果GPT犯错那么你的应用程序可能会得到不一致的结果。有趣的附带效果请注意在刚才的例子中ChatGPT给出的结果接近正确答案而不是完全随机的。这是算法的一个有趣的附带效果尽管没有数学能力但ChatGPT仅通过语言方法就能给出近似的估计结果。2. 甚至明目张胆的欺骗在前面的例子中ChatGPT犯了一个错误。但在某些情况下它甚至会故意欺骗。ChatGPT声称自己无法访问互联网。然而如果我们坚持就会发生有趣的事情如图所示。ChatGPT的意思是它已经访问了链接。然而这在目前绝对不可能。ChatGPT明显让用户误以为它具备其实并不具备的能力。二. 使用插件和微调来增强GPT模型1. 模型的局限性GPT模型有一定的局限性例如其计算能力有限。此外它没有直接访问互联网的权限这意味着GPT模型无法获取新信息其知识仅限于训练数据。对于GPT-4最后一次知识更新是在2021年9月。它们可能会提供错误信息甚至误导用户。总之我们强烈推荐在创意型或应用程序中使用纯GPT解决方案而不是在医疗咨询工具等真相至关重要的问答类应用程序中使用。对于这类用例插件可能是理想的解决方案。OpenAI已经为GPT-4引入了插件功能。这些工具让我们能够向LLM添加额外的功能。计算器就是众多工具之一它可以帮助GPT正确回答数学问题。2. 插件来增强大模型的能力OpenAI提供的插件服务允许该模型与第三方开发的应用程序连接。这些插件使模型能够与开发人员定义的API进行交互。插件为开发人员带来许多新的机会。想象一下将来每家公司都可能希望拥有自己的LLM插件。就像我们今天在智能手机应用商店中看到的那样可能会有一系列的插件集合。通过插件可以添加的应用程序数量可能是巨大的。在其网站上OpenAI表示可以通过插件让ChatGPT执行以下操作检索实时信息如体育赛事比分、股票价格、最新资讯等检索基于知识的信息如公司文档、个人笔记等代表用户执行操作如预订航班、订购食品等准确地执行数学运算。。。。3. 微调技术-提高特定任务的准确性微调可以提高现有模型在特定任务上的准确性。微调过程涉及使用特定的一组新数据重新训练现有的GPT模型。新模型专为特定任务而设计这个额外的训练过程让模型能够调节其内部参数(how)以适应给定的任务。经过微调的模型应该在该任务上表现得更好。比如采用金融文本数据进行微调的模型应该能够更好地回应针对该领域的查询并生成相关性更强的内容。