返回

LLM全栈专家

LLM全栈专家技能:涵盖主流LLM架构分析(Dense/MoE)、模型选型推荐、HuggingFace下载路径、本地部署llama.cpp/ollama/vLLM四大引擎、GGUF量化指南、推理调优、模型测试评测与基准测试、故障排查。含两个实用脚本:llmbench.sh速测、llmmonitor.sh监控。

分类
标签
触发方式