博客

技术分享

我们什么时候该对 LLM 进行微调和使用 RAG ？

2024.10.18 38分钟阅读

LLM 的微调与检索增强生成（RAG）

Finetuning vs. Retrieval-Augmented Generation (RAG) for LLMs

大型语言模型是 Transformer 模型，它从互联网、代码、论坛、社交媒体、出版物等中获取大量文本数据。LLM 中的参数有助于他们掌握语义含义并准确地产生相关输出。

然而，这并不意味着每一位受过培训的 LLM 都准备好跳出框框。最受欢迎的LLM，由 GPT-4 提供支持的 ChatGPT 可能会将缩写词误认为是不同研究领域的另一个缩写词。这就是为什么上下文和调整模型来执行特定任务是获得所需输出内容的理想选择的原因。

由于对大量文本数据进行了训练，这些 LLM 模型针对泛化进行了优化。为了进一步缩小其能力以适应特定领域，公司正在采用两种类型的人工智能增强：微调和检索增强生成。

这个决定不仅仅是关于偏好；这是一个影响性能、成本和适用性的战略选择。了解何时选择微调而不是 RAG 需要深入研究模型大小、功能、优缺点的复杂性，以及现实世界的应用程序和硬件，综合各种因素做考虑。

模型尺寸考量

Model Size Consideration

LLM 的大小是决定是否微调或利用 RAG 的一个基本因素。较小的模型，通常从数亿到几十亿个参数不等，通常更适合微调，因为它们较小的大小可以实现更高效的更新和更快的训练时间。微调这些模型可以使高度专业化的系统能够以令人印象深刻的精度执行 niche tasks。

相比之下，较大的模型，如具有数百亿或数千亿参数的模型，是 RAG 的主要候选者。这些模型擅长理解和生成类似人类的文本，但微调起来可能非常昂贵和耗时。相反，RAG 利用 LLM 庞大的知识库，同时整合来自外部数据源的最新、特定领域的信息，在广泛的知识和上下文相关性之间取得平衡。

了解模型功能

Understanding Model Capabilities

每种 LLM 规模都带来了不同的功能。较小的模型经过微调后，可以非常擅长特定的任务，如情绪分析、客户服务自动化或专业技术支持。其有限的规模确保了它们可以快速有效地进行微调，使其成为快速部署和迭代改进极其重要以及输出应一致可靠场景的理想选择。

另一方面，较大的模型在需要深入理解上下文和生成连贯、复杂文本的任务中表现出色。虽然微调这些庞然大物具有挑战性，但整合 RAG 使它们能够动态访问和集成来自外部数据库的信息。这种混合方法增强了他们回答查询、提供详细解释的能力，甚至在获得必要的上下文后生成创意内容的能力。

RAG 与微调

RAG vs Finetuning

	RAG	微调
信息刚性	灵活-集成实时、最新的信息，为提示提供上下文。	刚性-模型的知识在训练后是固定的，在重新训练之前不会更新。
培训时间	较少训练时长-主要依赖于预先训练的模型。	更长时间的训练-尤其是对于较大的模型。更新需要重新培训。
专业性	专业性较低；依赖于外部来源的广泛知识。	高专业性；通过微调数据为特定任务量身定制。
可扩展性	高可扩展性-添加、更新或引入新的数据源和主题域很容易。	可扩展性较低-需要针对新任务或新数据进行再培训或微调。
使用案例	需要广泛而深入的背景理解。	任务定义明确、具体，需要一致性。
动态性质	非常适合信息频繁变化的环境。	最适合信息在较长时间内保持一致的稳定环境。

RAG

RAG 将大型语言模型的生成能力与从外部来源检索和整合信息的能力相结合。这种方法最适合大型模型，通常具有数千亿个参数。当 RAG 成为首选时：

优势：

动态信息集成：RAG 可以通过访问外部数据源提供实时更新的信息，确保响应保持最新。

缩短训练时间：由于 RAG 依赖于预先存在的模型，因此对大量微调的需求被最小化，从而加快了部署速度。

可扩展性：RAG 可以利用大型模型，而无需相关的微调成本，使其可扩展到各种应用程序。

缺点：

复杂性：实施 RAG 需要强大的基础设施来管理数据检索和集成，这在技术上可能具有挑战性。

延迟：检索过程可能会引入延迟，影响响应生成的速度，特别是在实时应用程序中。

微调

微调涉及通过在专门的数据集上训练预先训练的模型来为特定任务量身定制模型。这个过程对于中小型模型特别有利，通常从数亿到几十亿个参数不等。以下是当微调是最佳选择的情况：

优势：

专业化：微调模型在特定领域表现出色，为特定任务提供高度准确和相关的响应。

效率：经过训练、微调的模型可以快速提供响应，而不需要外部数据检索。

缺点：

资源密集型：微调大型模型需要大量的计算资源、时间和专业知识。

知识停滞：微调模型仅限于它们所训练的数据，可能会导致过时或不太灵活的响应。

微调或 RAG LLM 的硬件注意事项

Hardware Considerations for Finetuning or RAG LLMs

在本地运行 RAG 或微调 LLM 需要仔细的进行硬件规划。

在微调 AI 模型时，工作负载需要用新的参数重新训练模型，并需要高性能 GPU、大量内存和高效的存储解决方案来管理、摄取和训练大型数据集。较小的模型可以用中档硬件进行管理，但扩展到较大的模型需要大量的计算投资。联泰集群提供定制的高性能计算解决方案，可随时处理任何人工智能训练工作负载，无论您的计算资源是保持静态还是需要进一步的可扩展性。