第1章：大模型精调基础入门概念

作为AIGC技术的基础支撑，大模型在自然语言处理领域展现出惊人的能力，随着大模型技术的日益成熟，探索AI在千行百业的落地正在被越来越多的群体关注。

1. 大语言模型（LLM）

大语言模型（LLM）是一种专注于处理语言数据的人工智能模型，通过分析和学习海量文本数据来掌握语言的语法、语义和上下文关系，从而实现自然语言的理解与生成。预训练好的大模型已经有了一定的知识和能力，但在面对特定任务时，可能还需要进一步的调整和优化。这个时候就需要用到大模型精调

2. 什么是大模型精调（Fine-Tuning）

精调（Fine-Tuning）是在一个已经训练好的模型基础上，针对特定任务进行进一步训练，使其在该任务上表现更好。这就像是让已经接受过基础教育的人，去参加一个特定领域的培训课程，以便在这个领域表现得更好

3. 大模型精调步骤

精调一个模型通常需要经过几个关键步骤，每个步骤都非常重要，直接影响到最终模型的表现

数据准备

数据准备是精调过程中非常重要的一步。你需要收集和整理与特定任务相关的数据集。这些数据集应该尽可能地多样化和全面，以便模型能够学习到各种不同的情况和模式。星辰MaaS针对不同场景提供多种数据构建功能，基于人机协作的工具可以大幅提升高质量数据集构建的效率。

模型选择

在数据准备好之后，你需要选择一个合适的预训练模型进行精调。不同的任务可能需要不同的模型，你需要根据具体情况来选择。讯飞星辰MaaS以星火优质大模型为核心，扩展支持主流开源大模型，为用户提供更多选择

训练方式

• LoRA：部分参数精调，每次只会对模型新增的少量数据即可进行更新，这种方法旨在减少计算资源和存储需求，同时保持较高的性能，还减少了过拟合的风险，所需数据和训练时长相对全量精调少很多
• **全量精调：**这种方式充分利用了基础模型的表示能力，通过调整所有参数使其更好地适应特定任务，在全量精调过程中，所有模型参数都会被优化，这意味着模型的每一层都会根据特定任务的数据进行调整

效果评估

训练完成后，需要对模型进行评估，以确定模型在特定任务上的表现，以此来判断是否需要持续迭代，星辰MaaS提供主观+客观评测指标来指引效果优化方向

模型部署

星辰MaaS对微调后的模型可以按需发布为API/SDK服务，提供标准开放、即用即销模式，赋能创新。

可以接入已有产品使用，可以开发创新产品，也可以在讯飞开放平台面向行业开放，共享百万开发者生态。开源模型支持下载满足本地运行需求。

接下来，通过实践来详细了解下如何使用星辰MaaS精调平台 (opens new window)定制自己的专属大模型吧~