ChatGPT + Node.js | 聊天GPT + Node.js |克服代幣限制的 3 種方法

了解如何在 Node.js 中使用 OpenAI API 並超越令牌限制。

您可以在此處找到包含本教學中所有內容的儲存庫：https://github.com/BretCameron/nodejs-openai-memory-system-tutorial/

⏰ 時間戳
00:00 - 簡介
00:58 - 項目設置
02:53 - 建立 OpenAI 用戶端
04:01 - 取得憑證
05:22 - 使用 GPT-4 建立基本對話
11:25 - 為什麼代幣限制可能是個問題
13:00 - 策略 1：滾動上下文
17:03 - 策略 2：總結訊息歷史記錄
24:03 - 策略 3：依主題分為摘錄
39:16 - 額外提示：在 VSCode 中使用偵錯器
40:50 - 尾聲

📜 描述
現在，可以透過多個公共 API 來利用 LLM（大型語言模型）的強大功能，讓我們能夠存取 ChatGPT、Claude 和 Gemini 等，以便在我們自己的應用程式中使用。

在小規模情況下，使用這些 API 非常簡單。但是，如果我們想要支援更長的對話或更多的上下文，遲早我們會遇到令牌限制，並且我們需要實施我們自己的解決方法。

在本影片中，我將引導您了解克服這些令牌限制的三種策略，以便您可以支援更長的對話或更多的上下文 - 或兩者兼而有之！

我們將在 Node.js 中使用 OpenAI 的 API，但我們將學習的策略可以適用於任何伺服器端程式語言的幾乎所有主流 LLM。

#nodejs #openai #ai #llm #machinelearning #javascript #typescript

📝 文章
有關本教程的書面版本，請查看我在 Medium 上的文章：https://medium.com/@bretcameron/3-strategies-to-overcome-openai-token-limits-d60df946f93c

🔗 鏈接
• 儲存庫：https://github.com/BretCameron/nodejs-openai-memory-system-tutorial/

對於那些想要深入了解的人，我推薦這篇關於 Langchain 的 LLM 記憶體系統的文章：https://python.langchain.com/v0.1/docs/modules/memory/