GoonAssistant API 简介
Assistant API 是开发者的福音，它使创建与大型语言模型（LLMs）如 ChatGPT 的连续、富含上下文的对话变得简单。与传统方法需要将先前的响应作为输入传递不同，Assistant API 允许进行连续的对话线程，自动处理截断和上下文保留，无需依赖检索增强生成（RAG）或繁琐的提示链技术。
Assistant API 是什么？
Assistant API 是一种工具，允许开发者与 LLMs 在对话线程内进行连续对话。所有上下文都会自动记住，无需使用 RAG 或逐个传递每个提示的输出。这个 API 以更“人性化”的方式与 LLMs 进行对话，无需手动提示链来保留上下文。
传统提示方法的局限性
传统提示方法存在局限性。目前的 LLM 模型是无状态的，这意味着你想要考虑的每一个上下文信息都必须在每次交互时传递。这可以通过两种方式来实现：使用 RAG（检索增强生成）或将一个提示的输出传递给另一个提示。
Assistant API 的线程如何工作
Assistant API 引入了线程的概念，即助手和用户之间的对话会话。线程存储消息并自动处理截断以适应模型。这意味着你与 ChatGPT 的对话基本上都在一个“盒子”里，每条消息都可以被认为是线程中的一个消息。
自动上下文和截断
Assistant API 自动处理上下文和截断。即使在一条线程中有 50 条消息，所有消息都会自动包含所有上下文，包括每个模型的输入或输出令牌限制。API 提供了一个线程 ID，你可以随时引用它，线程内的任何消息都包含在这个线程中。
潜在的用例和应用
Assistant API 有多种潜在的用例和应用。它可以用于创建复杂的应用程序，如生成网页、着陆页等。使用 Assistant API，你真的可以开始构建复杂的应用程序，例如使用 AI 创建网页。
结论
总之，Assistant API 是一个强大的工具，帮助开发者创建与 LLMs 的连续、富含上下文的对话。它引入了线程的概念，存储消息并自动处理截断。API 有多种潜在的用例和应用，包括创建复杂的应用程序，如使用 AI 生成网页。
