开源中国整理的LLM 技术图谱（LLM Tech Map）帮助技术人快速了解 LLM 的核心技术和关键方向

LLM 技术图谱（LLM Tech Map）从基础设施、大模型、Agent、AI 编程、工具和平台，以及算力几个方面，为开发者整理了当前 LLM 中最为热门和硬核的技术领域以及相关的软件产品和开源项目。

地图内容简要概述：

1. 数据库领域: 包括AquilaDB、marqo、MongoDB、Annoy、ROCKSET、supabase、elastic、redis等多种流行的数据库和搜索工具。

2. 模型微调 (Fine Tuning): LMFLOW、LMaMa-Efficient-Tuning、h2o-1mlstudio、ChatGLM-Efficient-Tuning等工具和方法。

3. 深度学习框架和工具: 例如deepspeed、TensorFlow、PyTorch、Transformers、PaddlePaddle、XGBoost等。

4. AI Agent (LLM Agent): 这部分展示了Rivet、JARVIS、Nexus、AutoGPT、Generative Agents、Amazon Bedrock Agents等AI代理工具和项目。

5. AI 代码: 包括CodeGeeX、Code Llama、Copilot、StableCode、Cursor等与编码和代码生成相关的工具。

6. 模型库: 包含了OpenLaMA、DALLE 3、ChatGPT、Llama 2、GLM-130B、Palm M2、StableLM、GPT-4等多种AI模型和相关的工具。

7. 工具和资源: 包括BentoML、http://Dify.AI、Phoenix、Hugging Face、MakerSuite、http://v0.dev、Jina、codium等工具和资源。

https://gitee.com/oschina/llm-map

基础设施

LLM 技术图谱（LLM Tech Map）的基础设施部分主要包括以下几个方面：

• 向量数据库：向量数据库是专门用于存储和检索向量数据的数据库，它可以为 LLM 提供高效的存储和检索能力。
• 数据库向量支持：传统数据库通常不支持向量数据的存储和检索，数据库向量支持可以为传统数据库添加向量数据的存储和检索能力。
• 大模型框架、微调 (Fine Tuning)：针对大模型的开发。
• 大模型训练平台与工具

大模型

LLM 技术图谱（LLM Tech Map）的大模型部分主要包括以下几个方面：

• 备案上线的中国大模型：有牌照提供服务的大模型，需要注意的是大模型和相应的产品多半名称不同。
• 知名大模型：在全球范围内，已经发布了多款知名大模型，这些大模型在各个领域都取得了突破性的进展。
• 知名大模型应用：LLM 已经在多种应用场景中得到了应用，包括文本生成、机器翻译、问答、自然语言推理等。

AI Agent（LLM Agent）

LLM Agent 是指基于 LLM 技术构建的智能代理，它可以用于各种任务，比如让机器与 ChatGPT 交互，一层一层挖掘信息，自动化完成任务；比如由机器人构成的虚拟小镇。

AI 编程

让 LLM 帮你编写代码。

工具和平台

LLM 技术图谱（LLM Tech Map）的工具和平台部分主要包括以下几个方面：

• LLMOps：简单点说（大家当前在说的），就是“快速从大模型到应用”。
• 大模型聚合平台：汇聚大模型能力，提供服务。
• 开发工具：其它开发相关的 LLM 工具。

算力

LLM 模型的训练和部署需要大量的算力，算力是 LLM 技术发展的关键因素。