是否可以使用自己本地部署的大模型 #57

Open

opened

我看官方推荐的是GPT4

我想使用自己本地部署的一些模型，openai接口的，用vllm推理的（如Qwen、deepseekCoder等）

Metadata

Assignees

No one assigned

Labels

No labels

No labels

Type

No type

Fields

No fields configured for issues without a type.

Projects

No projects

Milestone

No milestone

Relationships

None yet

Development

No branches or pull requests