LLM_develop_generate.md 857 B
背景
我需要基于FastAPI框架构建智创空间项目的后端，一共分为模型广场、文本交互舱（LLM模型调试台）、图像生成室（VLM模型调试台）、声音创作坊（声音合成）、视频合成站（视频模型调试台）
现状
目前已实现模型广场后端API、全局数据库管理器、全局异常处理器
需求
用户模块、鉴权模块先暂时不用管
现在先实现LLM调试台（大模型对话调试台）模块： 参考backend\docs\Outside\bailian\千问大模型对话.md，这是百炼平台的官方SDK文档，讲解了如何调用Qwen大模型进行对话
注意事项：
- 流式输出和非流式输出需要使用参数控制
- 需要封装为统一的API端点，通过模型名称进行不同大模型的调用（模型广场中所有的Qwen LLM均需要可调用）