小编点评

LLM 技术图谱（LLM Tech Map）是一个系统化和图形化的呈现，专注于技术人的视角。该图谱从基础设施、大模型、Agent、AI 编程、工具和平台，以及算力几个方面，为开发者整理了当前 LLM 中最为热门和硬核的技术领域以及相关的软件产品和开源项目。 核心价值在于帮助技术人快速了解 LLM 的核心技术和关键方向。主要内容包括： 1. 基础设施：包括向量数据库、数据库向量支持、大模型框架、微调 (Fine Tuning)、大模型训练平台与工具等。 2. 大模型：备案上线的中国大模型、知名大模型、知名大模型应用等。 3. AI Agent：包括自主性、交互性、目的性、适应性、进化性等技术特点，以及单Agent、多Agent、混合Agent（人机交互Agent）等类型。 4. AI 编程：涵盖数据的收集、清洗、转换以及算法的选择和应用。 5. 工具和平台：如LLMOps、大模型聚合平台（☆）、开发工具等。 6. 算力：包括英伟达昇腾、AMD海光、昆仑芯、天数智芯等。 通过这张图谱，技术人可以快速感知 LLM 的技术发展和应用现状。

正文

LLM技术全景图：技术人必备的技术指南，一张图带你掌握从基础设施到AI应用的全面梳理

LLM 技术图谱（LLM Tech Map）是将 LLM 相关技术进行系统化和图形化的呈现，此图谱主要特点是“专注于技术人视角”，不求从 LLM 产业角度汇聚信息，而是希望让从事相关工作或是想了解 LLM 的技术人有一个快速感知。

LLM 技术图谱（LLM Tech Map）从基础设施、大模型、Agent、AI 编程、工具和平台，以及算力几个方面，为开发者整理了当前 LLM 中最为热门和硬核的技术领域以及相关的软件产品和开源项目。

核心价值：帮助技术人快速了解 LLM 的核心技术和关键方向。

1.基础设施

LLM 技术图谱（LLM Tech Map）的基础设施部分主要包括以下几个方面：

• 向量数据库：向量数据库是专门用于存储和检索向量数据的数据库，它可以为 LLM 提供高效的存储和检索能力。
• 数据库向量支持：传统数据库通常不支持向量数据的存储和检索，数据库向量支持可以为传统数据库添加向量数据的存储和检索能力。
• 大模型框架、微调 (Fine Tuning)：针对大模型的开发。
• 大模型训练平台与工具

1.1向量数据库

• Milvus
• Pinecone
• Weaviate
• Chroma
• Qdrant
• Vespa
• Vald
• Faiss
• ScaNN
• Vearch
• AquilaDB
• Marqo
• LanceDB
• Annoy
• NucliaDB
• DeepLake
• MongoDB

1.2数据库向量支持

• pgvector
• Redis Vector
• Elastic
• SingleStoreDB
• Solr
• OpenSearch
• ClickHouse
• Rockset
• Cassandra
• Lucene
• Neo4j
• Kinetica
• Supabase
• Timescale

1.3大模型框架、微调 (Fine Tuning)

• OneFlow
• LMFlow
• LoRA
• Alpaca-LoRA
• PEFT
• ChatGLM-Efficient-Tuning
• LLaMA-Efficient-Tuning
• P-tuning v2
• OpenLLM
• h2o-llmstudio
• xTuring
• finetuner
• YiVal

1.4大模型训练平台与工具

• Pytorch
• BMtrain
• colossalAI
• Tensorflow
• PaddlePaddle
• MindSpore
• Deepspeed
• XGBoost
• Transformers
• Apache MXNet
• Ray

2.大模型

LLM 技术图谱（LLM Tech Map）的大模型部分主要包括以下几个方面：

• 备案上线的中国大模型：有牌照提供服务的大模型，需要注意的是大模型和相应的产品多半名称不同。
• 知名大模型：在全球范围内，已经发布了多款知名大模型，这些大模型在各个领域都取得了突破性的进展。
• 知名大模型应用：LLM 已经在多种应用场景中得到了应用，包括文本生成、机器翻译、问答、自然语言推理等。

2.1中国大模型

• 文心一言
• 云雀
• GLM
• 紫东太初
• 百川
• 日日新
• ABAB 大模型
• 书生通用大模型
• 混元大模型

2.2知名大模型

• Llama 2
• OpenLLaMA
• 百川
• 通义大模型
• 文心一言
• StableLM
• MOSS
• Dolly
• BLOOM
• Falcon LLM
• ChatGLM
• PaLM 2
• 盘古
• GPT-4
• Stable Diffusion
• DALL·E 3

2.3 知名大模型应用

• ChatGPT
• Claude
• Cursor
• Mochi Diffusion
• Midjourey
• DragGAN
• Bard
• Bing

3.AI Agent（LLM Agent）

AI Agent是一种能够自主运作并完成特定任务的计算实体或程序。它能够通过传感器感知周围环境，并根据感知到的信息做出决策，然后通过执行器采取行动。LLM Agent 是指基于 LLM 技术构建的智能代理，它可以用于各种任务，比如让机器与 ChatGPT 交互，一层一层挖掘信息，自动化完成任务；比如由机器人构成的虚拟小镇。

• 核心特点

  • 自主性：AI Agent具有独立思考和行动的能力，能够在没有人类直接指导的情况下完成任务。
  • 交互性：AI Agent能够与环境或其他Agent进行交互，这在游戏、对话系统、推荐系统等场景中尤为重要。
  • 目的性：AI Agent设计有明确的目标或意图，其行为是为了实现这些目标。
  • 适应性：AI Agent能够根据环境的变化调整自己的行为，以适应新的情境。
  • 进化性：随着技术的发展，AI Agent的功能和智能水平也在不断提升。

• 技术特点

  • AI Agent与大模型的主要区别在于，大模型与人类之间的交互是基于prompt实现的，而AI Agent仅需给定一个目标，它就能够针对目标独立思考并做出行动。
  • AI Agent的核心驱动力是大模型，并在此基础上增加了规划（Planning）、记忆（Memory）和工具使用（Tool Use）三个关键组件。

• 类型从工作模式来看，AI Agent可以分为以下三种类型：

  • 单Agent：侧重于执行单一任务或一系列相关任务，且不需要与其他智能体进行交互。
  • 多Agent：涉及多个智能体之间的协作和交互，以完成更复杂的任务。
  • 混合Agent（人机交互Agent）：结合了人类和智能体的交互，以实现更高效的任务执行。

• Rivet

• JARVIS

• MetaGPT

• AutoGPT

• BabyAGI

• NexusGPT

• Generative Agents

• Voyager

• GPTeam

• GPT Researcher

• Amazon Bedrock Agents

4.AI 编程

AI编程是指利用计算机编程语言和技术来创建、训练和优化人工智能算法的过程。它涵盖了数据的收集、清洗、转换以及算法的选择和应用。AI编程是构建未来智能系统的关键，通过模拟人类智能的能力，使计算机能够执行类似于人类的决策和任务。编程语言如Python因其强大的数据处理库和简洁的语法，成为AI编程的常用工具。

• codeium.vim
• Cursor
• GitHub Copilot
• Comate
• StableCode
• CodeGeeX
• TabbyML
• CodeArts Snap
• Code Llama
• CodeFuse
• 姜子牙
• CodeShell

5.工具和平台

LLM 技术图谱（LLM Tech Map）的工具和平台部分主要包括以下几个方面：

• LLMOps：简单点说（大家当前在说的），就是“快速从大模型到应用”。
• 大模型聚合平台：汇聚大模型能力，提供服务。
• 开发工具：其它开发相关的 LLM 工具。

5.1 LLMOps

• BentoML
• LangChain
• Dify.ai
• Semantic Kernel
• Arize-Phoenix
• GPTCache
• Flowise

5.2 大模型聚合平台（☆）

• Gitee AI
• SOTA！模型
• 魔搭ModelScope
• Hugging Face

5.3 开发工具

• v0
• txtai
• Jina-AI
• Deco
• imgcook
• Quest AI
• CodiumAI
• Codeium Vim
• Project IDX
• MakerSuite

6.算力

LLM 模型的训练和部署需要大量的算力，算力是 LLM 技术发展的关键因素。

• 英伟达
• 昇腾
• AMD
• 海光
• 昆仑芯
• 天数智芯