大模型部署

LM Studio在加载大模型过程中，进度条一直缓慢的向前跑，这个过程中，LM Studio都在做什么？了解清楚LM Studio的调度细节，有利于理解大模型服务的流程。

本文实战基于本地部署RAG，演练构建企业内部知识库、产品问答系统 等应用，实战以下基本流程： “ 文档清洗→切块→嵌入向量化→存入向量数据库 →【构建可检索知识库】→用户查询→检索相关文本块→拼接为增强提示→输入 LLM 生成输出 ”