LMDeploy

LLMs

VLMs

• Llama (7B - 65B)

• Llama2 (7B - 70B)

• Llama3 (8B, 70B)

• InternLM (7B - 20B)

• InternLM2 (7B - 20B)

• QWen (1.8B - 72B)

• QWen1.5 (0.5B - 110B)

• QWen1.5 - MoE (0.5B - 72B)

• Baichuan (7B)

• Baichuan2 (7B-13B)

• Code Llama (7B - 34B)

• ChatGLM2 (6B)

• Falcon (7B - 180B)

• YI (6B-34B)

• Mistral (7B)

• DeepSeek-MoE (16B)

• Mixtral (8x7B, 8x22B)

• Gemma (2B - 7B)

• Dbrx (132B)

• StarCoder2 (3B - 15B)

• Phi-3-mini (3.8B)

• LLaVA(1.5,1.6) (7B-34B)

• InternLM-XComposer2 (7B, 4khd-7B)

• QWen-VL (7B)

• DeepSeek-VL (7B)

• InternVL-Chat (v1.1-v1.5)

• MiniGeminiLlama (7B)

• CogVLM-Chat (17B)

• CogVLM2-Ch