Python
在
Python里编写模型推理服务并提供API时，Flask与FastAPI这两个Web框架都挺常用的，它们对并发处理请求的支持都很不错。FastAPI往往被视作比Flask更具现代感，性能也更优，其内置的路由系统和自动文档生成功能也更好。FastAPI以Starlette为底层基础，启动速度更快，性能上限更高，在大规模并发的情形下，它的异步特性能够更有效地利用多核CPU来提升效率。Flask虽然也支持异步，但和FastAPI相比，设计更为简洁直接，对于中小规模的应用，二者在实际并发性能方面的差异可能并不显著。要是你对并发性和性能有较高要求，或者需要像Swagger支持这类更现代的功能，FastAPI或许是更好的选择。但要是项目规模小，或者把学习曲线当作首要考量因素，Flask也是个很成熟的选择。
