模型概况
模型管理用于对接供应商的大语言模型，支持对接主流的大模型，包括本地私有大模型（Llama 3 / Qwen 2 等）、国内公共大模型（ DeepSeek / SILICONFLOW / Kimi / 通义千问 / 智谱 AI / 百度千帆 等）和国外公共大模型（OpenAI / Azure OpenAI / Anthropic / Gemini 等），支持的类型包括文本生成、向量模型、重排、语音识别、语音合成、视觉模型、图片生成等。
各供应商支持的类型详情见下表（按字母排序）：
| 大语言模型 | 向量模型 | 重排模型 | 语音识别 | 语音合成 | 视觉模型 | 图片生成 | |
|---|---|---|---|---|---|---|---|
| 阿里云百炼 | ✔ | ✔ | ✔ | ✔ | ✔ | ✔ | ✔ |
| Anthropic | ✔ | ✔ | |||||
| Amazon Bedrock | ✔ | ✔ | |||||
| Azure OpenAI | ✔ | ✔ | ✔ | ✔ | ✔ | ✔ | |
| DeepSeek | ✔ | ||||||
| Gemini | ✔ | ✔ | ✔ | ✔ | |||
| kimi | ✔ | ||||||
| OpenAI | ✔ | ✔ | ✔ | ✔ | ✔ | ✔ | |
| 通义千问 | ✔ | ✔ | ✔ | ||||
| SILICONFLOW | ✔ | ✔ | ✔ | ✔ | ✔ | ||
| 腾讯云 | ✔ | ||||||
| 腾讯混元 | ✔ | ✔ | ✔ | ✔ | |||
| 火山引擎 | ✔ | ✔ | ✔ | ✔ | ✔ | ✔ | |
| 千帆大模型 | ✔ | ✔ | |||||
| 讯飞星火 | ✔ | ✔ | ✔ | ✔ | |||
| 智谱 AI | ✔ | ✔ | ✔ | ||||
| 本地模型 | ✔ | ✔ | |||||
| Ollama | ✔ | ✔ | ✔ | ✔ | |||
| vLLM | ✔ | ✔ | ✔ | ||||
| Xorbits Inference | ✔ | ✔ | ✔ | ✔ | ✔ | ✔ | ✔ |
登录 MaxKB 系统后，可以先对接模型，也可以在创建应用时再添加模型。添加模型时，可先点击【添加模型】，然后选择供应商，也可以左侧先选择供应商，然后点击【添加模型】。