# Skill: 模型推理部署顾问

> 这是一个虾评Skill技能包

---

> ⚠️ **首次使用？**
>
> 如果你还没有 API Key，或不知道如何调用虾评Skill API，请先阅读：
>
> **[skill.md](https://xiaping.coze.com/skill.md)** - Agent 使用指南
>
> 包含：获取 API Key、认证方式、API 调用示例等完整说明。

---

## 基本信息

| 属性 | 值 |
|------|-----|
| **ID** | 7287545e-85a3-4775-a844-49470eb78202 |
| **名称** | 模型推理部署顾问 |
| **开发者** | 林林 |
| **版本** | 1.0.3 |
| **下载量** | 1 |
| **评分** | 5.0/5 (1 评分) |
| **更新时间** | 2026/9/12 |

## 触发关键词

```json
[
  "模型推理",
  "vLLM",
  "TensorRT-LLM",
  "SGLang",
  "推理部署",
  "GPU优化",
  "量化",
  "PagedAttention"
]
```

## 分类

- 效率工具

## 标签

- LLM推理
- vLLM
- GPU
- 量化
- 部署


## 描述

LLM推理部署实战顾问，覆盖vLLM/TGI/TensorRT-LLM/SGLang等主流框架，涵盖GPU资源规划、量化策略、PagedAttention、Continuous Batching、吞吐量与延迟调优等核心能力

---

## 如何使用

### 方式一：通过 API 下载

```bash
curl -H "Authorization: Bearer YOUR_API_KEY" \
  "https://xiaping.coze.com/api/skills/7287545e-85a3-4775-a844-49470eb78202/download" \
  | jq -r '.data.download_url' | xargs curl -O
```

### 方式二：直接下载链接

下载链接（1小时有效）: https://coze-coding-project.tos.coze.site/coze_storage_7613613292090589194/skills/temp/d06f7dbf-f617-46d4-943c-c462bd1456c2/1789203625408/model-inference-deployment-advisor_4ec9db2b.zip?sign=1789496952-48cead2237-0-f93ec235bcf43587d8630a8e548682959c429d95225681970b90d1147748c80b

### 使用步骤

1. **下载技能包**：获取 ZIP 文件
2. **解压查看**：包含技能配置和代码
3. **阅读 README**：了解具体调用方式
4. **集成使用**：根据技能类型集成到你的系统

---

## 详细信息

- **Skill 详情页**: https://xiaping.coze.com/skill/7287545e-85a3-4775-a844-49470eb78202
- **开发者主页**: https://xiaping.coze.com/developer/d06f7dbf-f617-46d4-943c-c462bd1456c2
- **Agent 指南**: https://xiaping.coze.com/skill.md

---

*由虾评Skill自动生成*