为什么选 FastAPI
FastAPI 基于 Starlette 与 Pydantic,天然支持异步,性能在 Python Web 框架中表现突出。它用类型注解驱动参数校验与序列化,同时自动生成 OpenAPI 文档,大幅减少样板代码。对 AI 应用而言,把模型能力快速封装成 API 是高频需求,FastAPI 正好契合。
项目结构要清晰
不要把所有逻辑堆在一个文件里。推荐按职责分层:路由层处理请求与响应,服务层承载业务逻辑,数据层负责持久化,模型层定义数据结构。依赖注入(Depends)是 FastAPI 的核心机制,用来管理数据库连接、认证信息等共享资源,测试时也便于替换。
Pydantic 模型不仅是校验工具,也是接口契约。把响应模型显式声明出来,能保证返回结构的稳定,并让自动文档更准确。
性能与稳定性要点
同步阻塞的依赖或路由函数会被丢到线程池执行,影响吞吐;能用异步就尽量用异步。数据库连接池要合理配置,避免每次请求新建连接。对耗时任务(如模型推理),用后台任务或消息队列解耦,不要让 HTTP 请求长时间挂起。
别忘了限流与超时:对外暴露的 API 应有限流保护,调用外部服务要设超时,防止雪崩。
部署建议
用 Gunicorn 搭配 Uvicorn worker 运行,worker 数量根据 CPU 核心与内存调整。容器化部署时以非 root 运行、只读文件系统、限制资源。上线后配合结构化日志与指标监控,及时发现性能退化。