docGPT 的功能与特色
.pdf
档案应用程式
完全免费使用 OpenAI API,建立一个 Document GPT
前阵子,小弟分享过如何使用 Langchain
+Streamlit
建立一个 document GPT应用程式,可参考过去介绍。
大家都知道,调用 OpenAI
是需要 API key 的,尤其当我们利用 Langchain
实作一个 document GPT,所需的 API 用量非常可观,光是这点就让很多人却步,也让绝大部分使用者没办法体验应用程式。
在 Github 上有一个叫做 gpt4free
的开源专案,可以在不需要 OpenAI
API key 的情况下,免费调用(偷) OpenAI
GPT 模型。
这让我们得以实现一个完全免费的 document GPT,我们只需要把 Langchain
调用的 LLM 改写成 gpt4free
即可。此外,为了与 PDF 对话,有一个步骤需要将文本进行 embedding
,我们可以用 HuggingFaceEmbeddings
代替 OpenAIEmbeddings
(无须付费)。
使用 OpenAI API(付费) 与 gpt4free
(免费) 的结果如下:
补充
关于 gpt4free
:
gpt4free
,它有多个不同的 Provider,每个 Provider 的状态都会变化,有时你会无法正常使用,请记得更换!Python 版本最好在 3.9 以上 (3.8无法) -> (更)后来小弟发了个 PR,该问题已解决 :)gpt4free
是透过逆向工程方式,借用不同 Provider 的 API,这种行为不确定是否合法,且开发者有提到免责声明,建议不要拿此技术套用在商业产品上,避免惹祸上身。Github专案
应用程式