跳转至

MindIE-LLM 支持模型列表

图例说明

  • ●：充分验证支持
  • ●：仅功能支持
  • ✅：支持该列的特性
  • ❌：不支持该列特性

文本生成模型

DeepSeek 系列

模型 Support 最大上下文长度 W8A8 W4A8 W8A16 LoRA atbgraph aclgraph 硬件规格 README 链接 Hugging Face 链接 ModelScope 链接
DeepSeek-R1-Distill-Llama-8B ● 128k ✅ ❌ ❌ ✅ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐2卡）
Atlas 800I A3：1/2/4卡（推荐1卡）
Atlas 300I Duo：1/2/4卡（推荐1卡）		 README deepseek-ai/DeepSeek-R1-Distill-Llama-8B deepseek-ai/DeepSeek-R1-Distill-Llama-8B
DeepSeek-R1-Distill-Llama-70B ● 128k ✅ ❌ ❌ ✅ ✅ ❌ Atlas 800I A2：8卡
Atlas 800I A3：4卡		 README deepseek-ai/DeepSeek-R1-Distill-Llama-70B deepseek-ai/DeepSeek-R1-Distill-Llama-70B
DeepSeek-R1-Distill-Qwen-1.5B ● 128k ✅ ❌ ❌ ✅ ✅ ❌ Atlas 800I A2：1/2/4卡（推荐2卡）
Atlas 800I A3：1/2卡（推荐1卡）
Atlas 300I Duo：1/2卡（推荐1卡）		 README deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B
DeepSeek-R1-Distill-Qwen-7B ● 128k ✅ ❌ ❌ ✅ ✅ ❌ Atlas 800I A2：1/2/4卡（推荐2卡）
Atlas 800I A3：1/2卡（推荐1卡）
Atlas 300I Duo：1/2卡（推荐1卡）		 README deepseek-ai/DeepSeek-R1-Distill-Qwen-7B deepseek-ai/DeepSeek-R1-Distill-Qwen-7B
DeepSeek-R1-Distill-Qwen-14B ● 128k ✅ ❌ ❌ ✅ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐4卡）
Atlas 800I A3：1/2/4卡（推荐2卡）
Atlas 300I Duo：2/4卡（推荐2卡）		 README deepseek-ai/DeepSeek-R1-Distill-Qwen-14B deepseek-ai/DeepSeek-R1-Distill-Qwen-14B
DeepSeek-R1-Distill-Qwen-32B ● 128k ✅ ❌ ❌ ✅ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐4卡）
Atlas 800I A3：1/2/4卡（推荐2卡）
Atlas 300I Duo：1/2/4卡（推荐2卡）		 README deepseek-ai/DeepSeek-R1-Distill-Qwen-32B deepseek-ai/DeepSeek-R1-Distill-Qwen-32B
DeepSeek-MoE-16B-Chat ● 4k ❌ ❌ ❌ ❌ ✅ ❌ Atlas 800I A2：4/8卡（推荐4卡）
Atlas 800I A3：不支持
Atlas 300I Duo：不支持		 README deepseek-ai/deepseek-moe-16b-chat deepseek-ai/deepseek-moe-16b-chat
DeepSeek-V2-Chat-236B ● 128k ✅ ❌ ❌ ❌ ✅ ❌ Atlas 800I A2：16卡
Atlas 800I A3：8卡
Atlas 300I Duo：不支持		 README deepseek-ai/DeepSeek-V2-Chat deepseek-ai/DeepSeek-V2-Chat
DeepSeek-V3-0324 ● 128k ✅ ✅ ❌ ❌ ✅ ❌ Atlas 800I A2：16卡
Atlas 800I A3：8卡
Atlas 300I Duo：不支持		 README deepseek-ai/DeepSeek-V3-0324 deepseek-ai/DeepSeek-V3-0324
DeepSeek-R1-0528 ● 128k ✅ ✅ ❌ ❌ ✅ ❌ Atlas 800I A2：16卡
Atlas 800I A3：8卡
Atlas 300I Duo：不支持		 README deepseek-ai/DeepSeek-R1-0528 deepseek-ai/DeepSeek-R1-0528
DeepSeek-V3.1 ● 128k ✅ ✅ ❌ ❌ ✅ ❌ Atlas 800I A2：16卡
Atlas 800I A3：8卡
Atlas 300I Duo：不支持		 README deepseek-ai/DeepSeek-V3.1 deepseek-ai/DeepSeek-V3.1
DeepSeek-V3.1-Terminus ● 128k ✅ ✅ ❌ ❌ ✅ ❌ Atlas 800I A2：16卡
Atlas 800I A3：8卡
Atlas 300I Duo：不支持		 README deepseek-ai/DeepSeek-V3.1-Terminus deepseek-ai/DeepSeek-V3.1-Terminus
DeepSeek-V3.2 ● 64k ✅ ❌ ❌ ❌ ❌ ✅ Atlas 800I A2：32卡
Atlas 800I A3：16卡
Atlas 300I Duo：不支持		 README deepseek-ai/DeepSeek-V3.2 deepseek-ai/DeepSeek-V3.2

Qwen 系列

模型 Support 最大上下文长度 W8A8 W4A8 W8A16 LoRA atbgraph aclgraph 硬件规格 README 链接 Hugging Face 链接 ModelScope 链接
Qwen2-1.5B ● 128k ❌ ❌ ❌ ❌ ✅ ❌ Atlas 800I A2：1/2/4卡（推荐2卡）
Atlas 800I A3：1/2卡（推荐1卡）
Atlas 300I Duo：1/2卡（推荐1卡）		 README Qwen/Qwen2-1.5B Qwen/Qwen2-1.5B
Qwen2-7B-Instruct ● 128k ✅ ❌ ❌ ✅ ✅ ❌ Atlas 800I A2：1/2/4（推荐2卡）
Atlas 800I A3：1/2卡（推荐1卡）
Atlas 300I Duo：1/2卡（推荐1卡）		 README Qwen/Qwen2-7B-Instruct Qwen/Qwen2-7B-Instruct
Qwen2-72B-Instruct ● 128k ✅ ❌ ✅ ✅ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐8卡）
Atlas 800I A3：1/2/4卡（推荐4卡）
Atlas 300I Duo：1/2/4卡（推荐4卡）		 README Qwen/Qwen2-72B-Instruct Qwen/Qwen2-72B-Instruct
Qwen2.5-0.5B-Instruct ● 128k ❌ ❌ ❌ ❌ ✅ ❌ Atlas 800I A2：1/2卡（推荐2卡）
Atlas 800I A3：1卡
Atlas 300I Duo：1卡		 README Qwen/Qwen2.5-0.5B-Instruct Qwen/Qwen2.5-0.5B-Instruct
Qwen2.5-1.5B-Instruct ● 128k ❌ ❌ ❌ ❌ ✅ ❌ Atlas 800I A2：1/2/4卡（推荐2卡）
Atlas 800I A3：1/2卡（推荐1卡）
Atlas 300I Duo：1/2卡（推荐1卡）		 README Qwen/Qwen2.5-1.5B-Instruct Qwen/Qwen2.5-1.5B-Instruct
Qwen2.5-3B-Instruct ● 128k ❌ ❌ ❌ ❌ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐2卡）
Atlas 800I A3：1/2/4卡（推荐1卡）
Atlas 300I Duo：1/2/4卡（推荐1卡）		 README Qwen/Qwen2.5-3B-Instruct Qwen/Qwen2.5-3B-Instruct
Qwen2.5-7B-Instruct ● 128k ✅ ❌ ❌ ✅ ✅ ❌ Atlas 800I A2：1/2/4（推荐2卡）
Atlas 800I A3：1/2卡（推荐1卡）
Atlas 300I Duo：1/2卡（推荐1卡）		 README Qwen/Qwen2.5-7B-Instruct Qwen/Qwen2.5-7B-Instruct
Qwen2.5-14B-Instruct ● 128k ✅ ❌ ❌ ✅ ✅ ❌ Atlas 800I A2：2/4/8卡（推荐4卡）
Atlas 800I A3：1/2/4卡（推荐2卡）
Atlas 300I Duo：1/2/4卡（推荐2卡）		 README Qwen/Qwen2.5-14B-Instruct Qwen/Qwen2.5-14B-Instruct
Qwen2.5-32B-Instruct ● 128k ✅ ❌ ❌ ✅ ✅ ❌ Atlas 800I A2：4/8卡（推荐4卡）
Atlas 800I A3：2/4卡（推荐2卡）		 README Qwen/Qwen2.5-32B-Instruct Qwen/Qwen2.5-32B-Instruct
Qwen2.5-72B-Instruct ● 128k ❌ ❌ ❌ ✅ ✅ ❌ Atlas 800I A2：8卡
Atlas 800I A3：4卡		 README Qwen/Qwen2.5-72B-Instruct Qwen/Qwen2.5-72B-Instruct
Qwen3-0.6B ● 32k ❌ ❌ ❌ ✅ ✅ ❌ Atlas 800I A2：1卡
Atlas 800I A3：1卡
Atlas 300I Duo：1卡		 README Qwen/Qwen3-0.6B Qwen/Qwen3-0.6B
Qwen3-1.7B ● 32k ❌ ❌ ❌ ✅ ✅ ❌ Atlas 800I A2：1卡
Atlas 800I A3：1卡
Atlas 300I Duo：1卡		 README Qwen/Qwen3-1.7B Qwen/Qwen3-1.7B
Qwen3-4B ● 128k ❌ ❌ ❌ ✅ ✅ ❌ Atlas 300I Duo：1卡 README Qwen/Qwen3-4B Qwen/Qwen3-4B
Qwen3-8B ● 128k ❌ ❌ ❌ ✅ ✅ ❌ Atlas 800I A2：1卡
Atlas 800I A3：1卡
Atlas 300I Duo：1卡		 README Qwen/Qwen3-8B Qwen/Qwen3-8B
Qwen3-14B ● 128k ✅ ❌ ❌ ✅ ✅ ❌ Atlas 800I A2：2卡
Atlas 800I A3：1卡
Atlas 300I Duo：1卡		 README Qwen/Qwen3-14B Qwen/Qwen3-14B
Qwen3-32B ● 128k ✅ ❌ ❌ ✅ ✅ ❌ Atlas 800I A2：4卡
Atlas 800I A3：2卡
Atlas 300I Duo：2卡		 README Qwen/Qwen3-32B Qwen/Qwen3-32B
Qwen3-30B-A3B-Instruct-2507 ● 128k ❌ ❌ ❌ ❌ ✅ ❌ Atlas 800I A2：4/8卡（推荐4卡）
Atlas 800I A3：2/4卡（推荐2卡）
Atlas 300I Duo：2卡		 README Qwen/Qwen3-30B-A3B-Instruct-2507 Qwen/Qwen3-30B-A3B-Instruct-2507
Qwen3-235B-A22B-Instruct-2507 ● 128k ✅ ❌ ❌ ❌ ✅ ❌ Atlas 800I A2：16卡
Atlas 800I A3：8卡
Atlas 300I Duo：4卡8芯		 README Qwen/Qwen3-235B-A22B-Instruct-2507 Qwen/Qwen3-235B-A22B-Instruct-2507
Qwen3-Coder-30B-A3B-Instruct ● 128k ✅ ❌ ❌ ❌ ✅ ❌ Atlas 800I A2：16卡
Atlas 800I A3：8卡
Atlas 300I Duo：4卡8芯		 README Qwen/Qwen3-Coder-30B-A3B-Instruct Qwen/Qwen3-Coder-30B-A3B-Instruct
Qwen3-Coder-480B-A35B-Instruct ● 128k ✅ ❌ ❌ ❌ ✅ ❌ Atlas 800I A2：16卡
Atlas 800I A3：8卡
Atlas 300I Duo：4卡8芯		 README Qwen/Qwen3-Coder-480B-A35B-Instruct Qwen/Qwen3-Coder-480B-A35B-Instruct

Llama 系列

模型 Support 最大上下文长度 W8A8 W4A8 W8A16 LoRA atbgraph aclgraph 硬件规格 README 链接 Hugging Face 链接 ModelScope 链接
Llama3-8B ● 8k ❌ ❌ ❌ ✅ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐2卡）
Atlas 800I A3：1/2/4卡（推荐1卡）
Atlas 300I Duo：1/2/4卡（推荐1卡）		 README meta-llama/Meta-Llama-3-8B LLM-Research/Meta-Llama-3-8B-Instruct
Llama3-70B ● 8k ❌ ❌ ✅ ✅ ✅ ❌ Atlas 800I A2：8卡
Atlas 800I A3：4卡		 README meta-llama/Meta-Llama-3-70B LLM-Research/Meta-Llama-3-70B
Llama3.1-8B ● 128k ✅ ❌ ❌ ✅ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐2卡）
Atlas 800I A3：1/2/4卡（推荐1卡）
Atlas 300I Duo：1/2/4卡（推荐1卡）		 README meta-llama/Llama-3.1-8B LLM-Research/Meta-Llama-3.1-8B
Llama3.1-70B ● 128k ✅ ❌ ❌ ✅ ✅ ❌ Atlas 800I A2：8卡
Atlas 800I A3：4卡		 README meta-llama/Llama-3.1-70B LLM-Research/Meta-Llama-3.1-70B/Meta-Llama-3.1-70B
Llama3.1-405B ● 128k ✅ ❌ ❌ ❌ ✅ ❌ Atlas 800I A2：16卡
Atlas 800I A3：8卡		 README meta-llama/Llama-3.1-405B LLM-Research/Meta-Llama-3.1-405B-Instruct

ERNIE 系列

模型 Support 最大上下文长度 W8A8 W4A8 W8A16 LoRA atbgraph aclgraph 硬件规格 README 链接 Hugging Face 链接 ModelScope 链接
ERNIE-4.5-300B-A47B ● 32k ✅ ❌ ❌ ❌ ✅ ❌ Atlas 800I A2：16卡
Atlas 800I A3：8卡
Atlas 300I Duo：不支持		 README baidu/ERNIE-4.5-300B-A47B-PT baidu/ERNIE-4.5-300B-A47B

KIMI 系列

模型 Support 最大上下文长度 W8A8 W4A8 W8A16 LoRA atbgraph aclgraph 硬件规格 README 链接 Hugging Face 链接 ModelScope 链接
Kimi-K2-Instruct ● 32k ✅ ✅ ❌ ❌ ✅ ❌ Atlas 800I A2：32卡
Atlas 800I A3：16卡
Atlas 300I Duo：不支持		 README moonshotai/Kimi-K2-Instruct ❌
Kimi-K2-Thinking ● 32k ✅ ✅ ❌ ❌ ✅ ❌ Atlas 800I A2：32卡
Atlas 800I A3：16卡
Atlas 300I Duo：不支持		 README moonshotai/Kimi-K2-Thinking ❌

GLM 系列

模型 Support 最大上下文长度 W8A8 W4A8 W8A16 LoRA atbgraph aclgraph 硬件规格 README 链接 Hugging Face 链接 ModelScope 链接
ChatGLM2-6B ● 32k ✅ ❌ ❌ ❌ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐2卡）
Atlas 800I A3：1/2/4卡（推荐1卡）
Atlas 300I Duo：1/2/4卡（推荐1卡）		 README THUDM/chatglm2-6b ZhipuAI/chatglm2-6b
ChatGLM3-6B ● 8k ✅ ❌ ❌ ❌ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐2卡）
Atlas 800I A3：1/2/4卡（推荐1卡）
Atlas 300I Duo：1/2卡（推荐1卡）		 README THUDM/chatglm3-6b ZhipuAI/chatglm3-6b
ChatGLM3-6B-32K ● 32k ❌ ❌ ❌ ❌ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐2卡）
Atlas 800I A3：1/2/4卡（推荐1卡）
Atlas 300I Duo：1/2/4卡（推荐1卡）		 README THUDM/chatglm3-6b-32k ZhipuAI/chatglm3-6b-32k
GLM4-9B ● 128k ✅ ❌ ❌ ❌ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐2卡）
Atlas 800I A3：1/2/4卡（推荐1卡）
Atlas 300I Duo：1/2卡（推荐1卡）		 README THUDM/glm-4-9b ZhipuAI/glm-4-9b
GLM-4.5 ● 32k ✅ ❌ ❌ ❌ ✅ ❌ Atlas 800I A2：16卡
Atlas 800I A3：待测试
Atlas 300I Duo：不支持		 README zai-org/GLM-4.5 ❌

Bloom

模型 Support 最大上下文长度 W8A8 W4A8 W8A16 LoRA atbgraph aclgraph 硬件规格 README 链接 Hugging Face 链接 ModelScope 链接
Bloom-7B ● 4096 ❌ ❌ ❌ ❌ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐2卡）
Atlas 800I A3：1/2/4卡（推荐1卡）
Atlas 300I Duo：4卡（推荐1卡）		 README bigscience/bloom-7b1 bigscience/bloom-7b1

Baichuan

模型 Support 最大上下文长度 W8A8 W4A8 W8A16 LoRA atbgraph aclgraph 硬件规格 README 链接 Hugging Face 链接 ModelScope 链接
Baichuan2-7B ● 4096 ✅ ❌ ❌ ❌ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐2卡）
Atlas 800I A3：1/2/4卡（推荐1卡）
Atlas 300I Duo：1卡		 README baichuan-inc/Baichuan2-7B baichuan/Baichuan2-7B
Baichuan2-13B ● 4096 ✅ ❌ ✅ ❌ ✅ ❌ Atlas 800I A2：2/4/8卡（推荐2卡）
Atlas 800I A3：1/2/4卡（推荐1卡）
Atlas 300I Duo：1/2卡（推荐1卡）		 README baichuan-inc/Baichuan2-13B baichuan/Baichuan2-13B

多模态理解模型

Qwen 系列

模型 Support 最大上下文长度 W8A8 atbgraph aclgraph 硬件规格 README 链接 Hugging Face 链接 ModelScope 链接
Qwen2-VL-2B ● 32k ✅ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐1卡）
Atlas 800I A3：1/2/4卡（推荐1卡）		 README Qwen/Qwen2-VL-2B-Instruct Qwen/Qwen2-VL-2B-Instruct
Qwen2-VL-7B ● 32k ✅ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐2卡）
Atlas 800I A3：1/2/4卡（推荐1卡）		 README Qwen/Qwen2-VL-7B-Instruct Qwen/Qwen2-VL-7B-Instruct
Qwen2-VL-72B ● 32k ✅ ✅ ❌ Atlas 800I A2：4/8卡（推荐8卡）
Atlas 800I A3：2/4卡（推荐4卡）		 README Qwen/Qwen2-VL-72B-Instruct Qwen/Qwen2-VL-72B-Instruct
Qwen2.5-VL-3B ● 32k ✅ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐1卡）
Atlas 800I A3：1/2/4卡（推荐1卡）
Atlas 300I Duo：1/2/4卡（推荐1卡）		 README Qwen/Qwen2.5-VL-3B-Instruct Qwen/Qwen2.5-VL-3B-Instruct
Qwen2.5-VL-7B ● 32k ✅ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐2卡）
Atlas 800I A3：1/2/4卡（推荐1卡）
Atlas 300I Duo：1/2/4卡（推荐1卡）		 README Qwen/Qwen2.5-VL-7B-Instruct Qwen/Qwen2.5-VL-7B-Instruct
Qwen2.5-VL-32B ● 32k ✅ ✅ ❌ Atlas 800I A2：4/8卡（推荐4卡）
Atlas 800I A3：2/4卡（推荐2卡）
Atlas 300I Duo：2/4卡（推荐2卡）		 README Qwen/Qwen2.5-VL-32B-Instruct Qwen/Qwen2.5-VL-32B-Instruct
Qwen2.5-VL-72B ● 32k ✅ ✅ ❌ Atlas 800I A2：4/8卡（推荐8卡）
Atlas 800I A3：2/4卡（推荐4卡）
Atlas 300I Duo：2/4卡（推荐4卡）		 README Qwen/Qwen2.5-VL-72B-Instruct Qwen/Qwen2.5-VL-72B-Instruct
QVQ-72B-Preview ● 32k ❌ ✅ ❌ Atlas 800I A2：4/8卡（推荐8卡）
Atlas 800I A3：2/4卡（推荐4卡）		 README Qwen/QVQ-72B-Preview Qwen/QVQ-72B-Preview
Qwen2-Audio-7B ● 32k ❌ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐2卡）
Atlas 800I A3：1/2/4卡（推荐1卡）		 README Qwen/Qwen2-Audio-7B-Instruct Qwen/Qwen2-Audio-7B-Instruct
Qwen3-VL-2B ● 256K ❌ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐1卡）
Atlas 300I Duo：1/2/4/8卡（推荐1卡）		 README Qwen/Qwen3-VL-2B-Instruct Qwen/Qwen3-VL-2B-Instruct
Qwen3-VL-4B ● 256K ❌ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐1卡）
Atlas 300I Duo：1/2/4/8卡（推荐1卡）		 README Qwen/Qwen3-VL-4B-Instruct Qwen/Qwen3-VL-4B-Instruct
Qwen3-VL-8B ● 256K ✅ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐2卡）
Atlas 300I Duo：1/2/4/8卡（推荐2卡）		 README Qwen/Qwen3-VL-8B-Instruct Qwen/Qwen3-VL-8B-Instruct
Qwen3-VL-32B ● 256K ✅ ✅ ❌ Atlas 800I A2：2/4/8卡（推荐4卡）
Atlas 300I Duo：2/4/8卡（推荐4卡）		 README Qwen/Qwen3-VL-32B-Instruct Qwen/Qwen3-VL-32B-Instruct
Qwen3-VL-30B-A3B ● 256k ✅ ✅ ❌ Atlas 800I A2：2/4卡（推荐2卡）
Atlas 300I Duo：2/4卡（推荐2卡）		 README Qwen/Qwen3-VL-30B-A3B-Instruct Qwen/Qwen3-VL-30B-A3B-Instruct

InternVL 系列

模型 Support 最大上下文长度 W8A8 atbgraph aclgraph 硬件规格 README 链接 Hugging Face 链接 ModelScope 链接
InternVL2-8B ● 8k ❌ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐2卡）
Atlas 800I A3：1/2/4卡（推荐1卡）		 README OpenGVLab/InternVL2-8B OpenGVLab/InternVL2-8B
InternVL2-40B ● 8k ❌ ✅ ❌ Atlas 800I A2：2/4/8卡（推荐4卡）
Atlas 800I A3：1/2/4卡（推荐2卡）		 README OpenGVLab/InternVL2-40B OpenGVLab/InternVL2-40B
InternVL2.5-8B ● 32k ❌ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐2卡）
Atlas 800I A3：1/2/4卡（推荐1卡）		 README OpenGVLab/InternVL2_5-8B OpenGVLab/InternVL2_5-8B
InternVL2.5-78B ● 32k ❌ ✅ ❌ Atlas 800I A2：8卡
Atlas 800I A3：4卡		 README OpenGVLab/InternVL2_5-78B OpenGVLab/InternVL2_5-78B

GLM 系列

模型 Support 最大上下文长度 W8A8 atbgraph aclgraph 硬件规格 README 链接 Hugging Face 链接 ModelScope 链接
GLM-4V-9B ● 128k ❌ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐2卡）
Atlas 800I A3：1/2/4卡（推荐1卡）		 README zai-org/glm-4v-9b ZhipuAI/glm-4v-9b
GLM-4.1V-9B-Thinking ● 64k ✅ ✅ ❌ Atlas 800I A2：1/2卡（推荐2卡）
Atlas 800I A3：1卡
Atlas 300I Duo：1卡		 README zai-org/GLM-4.1V-9B-Thinking ZhipuAI/GLM-4.1V-9B-Thinking

MiniCPM-V

模型 Support 最大上下文长度 W8A8 atbgraph aclgraph 硬件规格 README 链接 Hugging Face 链接 ModelScope 链接
MiniCPM-V 2.6 ● 32k ❌ ✅ ❌ Atlas 800I A2：1/2卡（推荐2卡）
Atlas 800I A3：1卡
Atlas 300I Duo：1卡		 README openbmb/MiniCPM-V-2_6 OpenBMB/MiniCPM-V-2_6

VITA

模型 Support 最大上下文长度 W8A8 atbgraph aclgraph 硬件规格 README 链接 Hugging Face 链接 ModelScope 链接
VITA-1.5 ● 32k ❌ ✅ ❌ Atlas 800I A2：1卡
Atlas 800I A3：1卡		 README VITA-MLLM/VITA-1.5 VITA-MLLM/VITA-1.5

LLaVa 系列

模型 Support 最大上下文长度 W8A8 atbgraph aclgraph 硬件规格 README 链接 Hugging Face 链接 ModelScope 链接
LLaVa-1.5-7B ● 4k ❌ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐2卡）
Atlas 800I A3：1/2/4卡（推荐1卡）
Atlas 300I Duo：1/2/4卡（推荐1卡）		 README llava-hf/llava-1.5-7b-hf llava-hf/llava-1.5-7b-hf
LLaVa-1.5-13B ● 4k ❌ ✅ ❌ Atlas 800I A2：2/4/8卡（推荐4卡）
Atlas 800I A3：1/2/4卡（推荐2卡）
Atlas 300I Duo：2/4卡（推荐2卡）		 README llava-hf/llava-1.5-13b-hf llava-hf/llava-1.5-7b-hf
LLaVa-v1.6-7B ● 4k ❌ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐2卡）
Atlas 800I A3：1/2/4卡（推荐1卡）
Atlas 300I Duo：1/2/4卡（推荐1卡）		 README llava-hf/llava-v1.6-vicuna-7b-hf llava-hf/llava-v1.6-vicuna-7b-hf
LLaVa-v1.6-13B ● 4k ❌ ✅ ❌ Atlas 800I A2：2/4/8卡（推荐4卡）
Atlas 800I A3：1/2/4卡（推荐2卡）
Atlas 300I Duo：1/2/4卡（推荐2卡）		 README llava-hf/llava-v1.6-vicuna-13b-hf llava-hf/llava-v1.6-vicuna-13b-hf
LLaVa-v1.6-34B ● 4k ❌ ✅ ❌ Atlas 800I A2：4/8卡（推荐4卡）
Atlas 800I A3：2/4卡（推荐2卡）
Atlas 300I Duo：2/4卡（推荐2卡）		 README llava-hf/llava-v1.6-34b-hf llava-hf/llava-v1.6-34b-hf
LLaVa-NeXT-Video-7B ● 4k ❌ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐2卡）
Atlas 800I A3：1/2/4卡（推荐1卡）
Atlas 300I Duo：1/2/4卡（推荐1卡）		 README llava-hf/LLaVA-NeXT-Video-7B-hf llava-hf/LLaVA-NeXT-Video-7B-hf
LLaVa-NeXT-Video-34B ● 4k ❌ ✅ ❌ Atlas 800I A2：4/8卡（推荐4卡）
Atlas 800I A3：2/4卡（推荐2卡）
Atlas 300I Duo：2/4卡（推荐2卡）		 README llava-hf/LLaVA-NeXT-Video-34B-hf llava-hf/LLaVA-NeXT-Video-34B-hf

Llama 系列

模型 Support 最大上下文长度 W8A8 atbgraph aclgraph 硬件规格 README 链接 Hugging Face 链接 ModelScope 链接
Llama 3.2-Vision-11B ● 128k ❌ ✅ ❌ Atlas 800I A2：1/2/4/8卡（推荐2卡）
Atlas 800I A3：1/2/4卡（推荐1卡）		 README meta-llama/Llama-3.2-11B-Vision-Instruct LLM-Research/Llama-3.2-11B-Vision-Instruct
Llama 3.2-Vision-90B ● 128k ❌ ✅ ❌ Atlas 800I A2：4/8卡（推荐8卡）
Atlas 800I A3：2/4卡（推荐4卡）		 README meta-llama/Llama-3.2-90B-Vision-Instruct LLM-Research/Llama-3.2-90B-Vision-Instruct

Yi-VL 系列

模型 Support 最大上下文长度 W8A8 atbgraph aclgraph 硬件规格 README 链接 Hugging Face 链接 ModelScope 链接
Yi-VL-6B ● 4k ❌ ✅ ❌ Atlas 800I A2：1/2/4/8卡(推荐2卡)
Atlas 800I A3：1/2/4卡(推荐1卡)
Atlas 300I Duo：1/2/4卡（推荐1卡）		 README 01-ai/Yi-VL-6B 01ai/Yi-VL-6B
Yi-VL-34B ● 4k ❌ ✅ ❌ Atlas 800I A2：4/8卡(推荐4卡)
Atlas 800I A3：2/4卡(推荐2卡)
Atlas 300I Duo：2/4卡（推荐2卡）		 README 01-ai/Yi-VL-34B 01ai/Yi-VL-34B