由于很多特别的策略，每一代GPT模型的参数量都爆炸式增长。2019年2月发布的GPT-2参数量为15亿，而2020年5月的GPT-3，参数量达到了1750亿。图源：《陈巍谈芯》

这样使得ChatGPT迅速成为人工智能语言模型领域的当红炸子鸡。

ChatGPT最近表现出的上下文对话能力甚至编程能力，完成了大众对人机对话机器人（ChatBot）从“人工智障”到“有趣”的印象改观。

ChatGPT的主要特点。OpenAI使用 RLHF（Reinforcement Learning from Human Feedbac，人类反馈强化学习） 技术对 ChatGPT 进行了训练，且加入了更多人工监督进行微调。图源：《陈巍谈芯》

但ChatGPT技术仍然有一些局限性。那么它的缺点是什么？

1）ChatGPT在其未经大量语料训练的领域缺乏“人类常识”和引申能力，甚至会一本正经的“胡说八道”。例如让ChatGPT做一道小学应用题，尽管它可以写出一长串计算过程，但最后答案却是错误的。

2）ChatGPT无法处理复杂冗长或者特别专业的语言结构。对于来自金融、自然科学或医学等非常专业领域的问题，如果没有进行足够的语料“喂食”，ChatGPT可能无法生成适当的回答。

NLP技术的应用领域。本质上，作为ChatGPT基础的GPT-3或GPT-3.5 是一个超大的统计语言模型或顺序文本预测模型（NLP)。图源：《陈巍谈芯》

根据最近大量出现的ChatGPT对话案例。在翻译领域，ChatGPT目前的翻译水平比起一流的翻译软件仍有差距，在一些有很多专业词汇的领域更是这样。

在搜索领域，ChatGPT目前只学习到2021年前的互联网知识，用他取代谷歌百度等搜索引擎当前还不现实的，通用人工智能的设计目的也完全不是取代搜索引擎。

在写作领域，ChatGPT只能写作水平非常一般的通行文字，哪怕是情书这样的应用文，要写得真正适用于普罗大众的个性化需求也很困难，不要提一份用于正式商业场合的ppt了。

8岁学会编程，16岁官宣出柜。人工智能实验室OpenAI及OpenAI首席执行官Sam Altman最近在全世界声名鹊起，他也被媒体称为ChatGPT之父。

虽然OpenAI公司CEO声称从来没有思考过这一人工智能技术的商业模式，但2月2日消息，由OpenAI开发的人工智能聊天平台ChatGPT通过官方账号宣布了会员制服务将在几周后到来。

每月20美元，约合人民币134元。据悉，ChatGPT Plus服务已知的特权仅仅是“更快的响应速度”，具体独占功能还未曝光。图源：openai.com

参考文献：

陈巍：《ChatGPT发展历程、原理、技术架构详解和产业未来》（作者曾担任华为系自然语言处理（ NLP ）企业的首席科学家。）

作者：框舅 I 编辑：框舅

点点

花粉社群VIP加油站