由于其出众得自然语言理解能力，LLM 具有相当大的潜力，而开发者主要关注以下两个方面：

• 基于大量的上下文数据和内容，为用户提供准确的并且最新的答案

• 通过使用不同的代理和工具完成用户下达的特定任务

正是这两个方面让与 XX 聊天的 LLM 应用如雨后春笋般爆发。例如，与 PDF 聊天、与文档聊天以及与学术论文聊天。

随后，人们尝试将 LLM 与各种数据源融合。开发者已成功将平台，如 Github、Notion 和一些笔记软件与 LLM 整合。

为了克服 LLM 固有的限制，不同的工具被纳入了系统中。第一个这样的工具是搜索引擎，为 LLM 提供了访问最新知识的能力。进一步的进展将把 WolframAlpha、Google Suites 和 Etherscan 等工具与大型语言模型整合。

LLM Apps 的架构

下图概述了LLM应用在回应用户查询时的流程：首先，相关的数据源被转换为嵌入向量并存储在向量数据库中。LLM 适配器使用用户查询和相似性搜索从向量数据库中找到相关的上下文。相关的上下文被放入 Prompt 中并发送给 LLM 。LLM 将执行这些 Prompt，并使用工具生成回答。有时，LLM 会在特定数据集上进行调优，以提高准确性并降低成本。

LLM 应用的工作流程可以大致分为三个主要阶段：

1. 数据准备和嵌入：该阶段涉及将机密信息（例如项目备忘录）保留以供将来访问。通常，文件会被分割，并通过嵌入模型进行处理，保存在一种特殊类型的数据库中，称为向量数据库。

2. Prompt 的构建（Formulation）和提取（Extraction）：当用户提交搜索请求（在本例中，搜索项目信息）时，软件会创建一系列 Prompt，输入到语言模型中。最终的 Prompt 通常包含由软件开发人员硬编码的提示模板，作为 few-shot 示例的有效输出示例，以及从外部 API 获取的任何所需数以及向量数据库中提取的相关文件。

3. Prompt 的执行和推理：完成 Prompt 后，将它们提供给预先存在的语言模型进行推理，这可能包括专有模型 API 、开源或经过个别微调的模型。在此阶段，一些开发人员可能还会将操作系统（如日志记录、缓存和验证）整合到系统中。

将 LLM 引入加密领域

尽管加密领域（Web3）与Web2有一些类似的应用，但在加密领域中开发出优秀的 LLM 应用需要尤其谨慎。

加密生态系统独特，具有其特有的文化、数据和融合性。在这些加密限定的数据集上微调的 LLM 可以以相对较低的成本提供优越的结果。虽然数据丰富可得，但在类似 HuggingFace 等平台上明显缺乏开放数据集的。目前，只有一个与智能合约相关的数据集，其中包含 11.3 万个智能合约。

开发者还面临将不同工具整合到 LLM 中的挑战。这些工具与 Web2 中使用的工具不同，它们赋予 LLM 访问与交易相关的数据、与去中心化应用（Dapp）互动以及执行交易的能力。到目前为止，我们还没有在 Langchain 中找到任何 Dapp 的集成。

尽管开发高质量的加密 LLM 应用可能需要额外的投入，但 LLM 天然适合加密领域。这个领域提供了丰富的、干净的、结构化的数据。再加上 Solidity 代码通常简洁明了，这使得 LLM 更容易生成功能性的代码。

在《下部》中，我们将讨论 LLM 可以帮助区块链领域的8个潜在方向，如：

• 将内置的人工智能/LLM功能集成到区块链中

• 使用 LLM 分析交易记录

• 使用 LLM 识别潜在的机器人

• 使用 LLM 编写代码

• 使用 LLM 阅读代码

• 使用 LLM 帮助社区

• 使用 LLM 跟踪市场

• 使用 LLM 分析项目

敬请期待！