前言

由于最近看到 ChatGPT 非常的热门，所以对于稍微有玩 LINE BOT 的我来说，就想要来蹭一点热度了。
而又不想要花太多时间进行研究的我，就想要以最简单最直接的方式来用 LINE BOT 连结 GPT-3。

---

ChatGPT

反正交给 ChatGPT 来自我介绍就好了，我看我也不用说明了

广义来说 ChatGPT 是一种聊天机器人的技术（废话。

我想大部分的人应该都知道AI通常都是经过一系列大量数据来训练而成的，那我就来说一点其他的背景知识好了。
ChatGPT 是由 OpenAI 开发的自然语言处理（NLP）模型「GPT-3」延伸出的「GPT-3.5」製作的，基于 人类反馈强化学习(RLHF) 进行训练，简单来说就是人类提问机器答、机器提问人类答，并且不断迭代，再排除掉不健康的答案，透过人类干预以增强机器学习的效果，获得更为逼真的结果。

(图中又有一个新名词 " InstructGPT " 这里就不多说明，有兴趣的可以自己探索 )

自从 ChatGPT 开放公众使用以来，已经吸引超过100万人使用，而 ChatGPT 功能强大，从客服对话、故事创作、翻译、修改文法、写诗、歌词、文字整理，甚至是写程式都可以。（惨了我要失业了

ChatGPT 官方网站
https://chat.openai.com/chat
ChatGPT blog ( 下方有一些参考文件 )
https://openai.com/blog/chatgpt/

GPT-3 VS GPT-3.5

现在我们知道了 ChatGPT 是经过 GPT-3.5 训练而来的，那到底 GPT-3 跟 GPT-3.5 又是什么东西呢？

GPT-3
生成型预训练变换模型3（英语：Generative Pre-trained Transformer 3，简称 GPT-3）是一个自迴归语言模型，基于谷歌开发的语言模型，模型训练内容大部分来自网路，让 ChatGPT 能够相当自然地组织语句。
GPT-3 这个模型也是当前最大的语言处理模型之一，神经网路包含1750亿个参数，为有史以来参数最多的神经网路模型。

OpenAI 于2020年5月发表 GPT-3 的论文，微软在2020年9月22日宣布取得了 GPT-3 的独家授权。

GPT-3.5
GPT-3.5 与 GPT-3 最大的差别在于 GPT-3 主要扮演一个蒐集资料的角色，较单纯的使用网路上的资料进行训练。而 GPT-3.5 则利用人类反馈强化学习(RLHF)来训练(感谢大欧派萝莉修正)
GPT-3.5 则是由 GPT-3 微调出来的版本，而其中 GPT-3.5 使用与 GPT-3 不同的训练方式，所产生出来不同的模型，比起 GPT-3 来的更强大

官方文献中不同的 GPT-3.5 模型

ChatGPT
而 ChatGPT 又是建立 GPT-3.5 之上，且更加上使用更完整的 人类反馈强化学习(RLHF) 去训练。 (大致上可以想成 GPT-3 → GPT-3.5 → ChatGPT 酱子啦)
也因此 ChatGPT 除了能够準确理解问题，更能够将对话一路记住和按此调整内容，其中包括承认错误、纠正错处和拒绝不当要求等等较为複杂的互动内容，更符合道德要求的训练方式，达到更接近真人的效果，这也是 GPT-3 所没有的。

关于 GPT 各代的差异
https://www.techbang.com/posts/102473-openai-footprint-chatgpt

---

OpenAI

OpenAI 是美国一个人工智慧（AI）研究实验室，创始人为伊隆·马斯克（没错就是特斯拉那位）以及山姆·柯曼，原先为一个非营利组织，其使命是创造通用人工智能（英文：Artificial General Intelligence，简称 AGI），促进和发展友好的人工智慧，使人类整体受益，后来因为营运的成本所成立一个子公司营利组织 OpenAI LP。
OpenAI 每一年都会陆续推出自己所研发出的成果，从 GPT-1 到 GPT-3.5 都是他们所创造的成品。

OpenAI 官方网站
https://openai.com/

---

若以上有任何的错误都欢迎留言跟我说我会非常感谢你的(ﾉ>ω<)ﾉ

【GPT-3 LINE BOT】 系列

(1) 介绍 ChatGPT & GPT-3
(2) 玩坏 ChatGPT LINE BOT
(3) 创建属于自己的 ChatGPT LINE BOT
(4) 来人啊~ 上程式码 啦~~
(5) 同场加映：介绍 Hugging Face 及 Meta AI BlenderBot
(6) 同场加映：Hugging Face 串接 LINE BOT
(7) 同场加映：用 Python & Google Apps Script 玩 Hugging Face

---

接案 (☛´∀｀*)☛ LINE ID：albert20699