任何模型,任何框架,甚至一个函数,您都可以使用Pinferencia
需要最少的代码,需要最少的转换.
仅仅基于你已有的代码.
包括语句和分支覆盖率,绝对不开玩笑.
全程python实现. 模型直接注册.
热重载. 充分利用Python3 Type Hints。可同时开发、服务和调试.
只是一个python库. 轻巧.
基于 FastAPI 构建, 快速.
具有内置streamlit支持, 精彩.
使用 streamlit 制作的内置模板为您提供开箱即用的非凡用户体验. 所有 API 都通过在线试用功能进行了详细解释。感谢 FastAPI 和 Starlette.
Pinferencia旨在要求开发人员提供最少的代码和提供了一种同时注册模型的清晰方法.请看右边的例子.
也许现在你在想: 看起来很眼熟!
我们知道您不是不会编程的人. 同时我们也知道您是一位能够编写代码来训练、评估和测试的开发人员. 无需切换语言,在 Python 中并编写一些代码对你来说再舒服不过了.
这就是为什么我们带给你Pinferencia.
我们让您在 Python 中以编程方式提供模型,而不是使用模型文件和配置文件,更容易调试.
Pinferencia 使用 Streamlit 和内置模板提供了一个漂亮的图形用户界面.
每个人都喜欢 Streamlit, 我们也喜欢。即使找不到合适的模板,您也可以自定义自己的模板. 借助 Pinferencia 和 Streamlit 的强大功能,您的应用会让人眼前一亮.
Pinferencia不仅仅用于演示您的模型. 支持功能齐全的 REST API 集部署您的模型.
当前实现了两个API集:默认API和Kserve API.
服务上线后,您可以访问后端地址并找到 REST API 的所有规范. 您甚至可以使用交互式文档网页试用API.
了解更多 Pinferencia 由前端和后端组成.
可以选择前端和后端一起启动,或者只启动前端或后端.
这使您能够构建服务网格,或在云中部署后端并且仅在本地启动前端.
了解更多