Desplegaré LLM de código abierto en Ubuntu con optimización CUDA

LLMs de código abierto domésticos soportados (Hugging Face)

⭐ Recomendado principal (Ecosistema maduro, licencias amigables para uso comercial) Serie Qwen (Alibaba): Qwen2.5, Qwen3.5 (0.5B~72B parámetros), licencia Apache 2.0, capacidad líder en chino, cadena de herramientas de despliegue completa DeepSeek Series: DeepSeek-V3.2, DeepSeek-R1 Reasoning MoE, licencia Apache 2.0, rendimiento superior en razonamiento matemático y generación de código Serie GLM (Zhipu AI): GLM-4, GLM-5.1 (6B~34B parámetros), diálogo optimizado en chino, soporte para ventana de contexto largo de 128K Serie Yi (01.AI): Yi-1.5, Yi-34B, licencia Apache 2.0, excelente capacidad de procesamiento de textos largos

Modelos generales y especializados Diálogo: Moonshot K2.5 (contexto ultra largo de 200K), Baichuan 4, StepFun Step 2 (fuerte capacidad de programación de agentes) Código: DeepSeek-Coder V3, Qwen-Coder Series, CodeGeeX 4 (asistente de código ligero) Multimodal: Qwen2.5-VL / Qwen3.5-VL, GLM-4.6V, Yi-VL (alta precisión en comprensión de imágenes y OCR) Ligero (4GB+ VRAM): Qwen2.5 0.5B/1.5B/7B, GLM-4 6B/9B, DeepSeek-7B Dominio vertical base: DeepSeek-Math, Qwen-Medical, Chinese LawGPT, Qwen-Finance

Aviso importante: Todos los modelos listados arriba están disponibles para descarga pública a través de Hugging Fa oficial