Pinferencia

直接. 简单. 强大.
只需要三行代码,模型即刻上线.
Pinferencia (python + inference) 旨在以最简单的方式来为您的任何机器学习模型提供具有功能齐全的图形 UI 和 Rest API服务.

开始 GitHub
  • 服务任何模型

    任何模型,任何框架,甚至一个函数,您都可以使用Pinferencia

  • 快速编码,快速上线

    需要最少的代码,需要最少的转换.
    仅仅基于你已有的代码.

  • 100% 测试覆盖率

    包括语句和分支覆盖率,绝对不开玩笑.

  • 易于使用,易于理解

    全程python实现. 模型直接注册.
    热重载. 充分利用Python3 Type Hints。可同时开发、服务和调试.

  • 轻巧、快速、精彩

    只是一个python库. 轻巧.
    基于 FastAPI 构建, 快速.
    具有内置streamlit支持, 精彩.

  • 自动图形 UI 和 API 文档页面

    使用 streamlit 制作的内置模板为您提供开箱即用的非凡用户体验. 所有 API 都通过在线试用功能进行了详细解释。感谢 FastAPI 和 Starlette.

不仅仅是一个 API,而是一个强大的工具

Built-in search

简单且便捷

Pinferencia旨在要求开发人员提供最少的代码和提供了一种同时注册模型的清晰方法.请看右边的例子.

也许现在你在想: 看起来很眼熟!

我们知道您不是不会编程的人. 同时我们也知道您是一位能够编写代码来训练、评估和测试的开发人员. 无需切换语言,在 Python 中并编写一些代码对你来说再舒服不过了.

这就是为什么我们带给你Pinferencia.

我们让您在 Python 中以编程方式提供模型,而不是使用模型文件和配置文件,更容易调试.

更多例子

GUI

内置模板的图形用户界面

Pinferencia 使用 Streamlit 和内置模板提供了一个漂亮的图形用户界面.

每个人都喜欢 Streamlit, 我们也喜欢。即使找不到合适的模板,您也可以自定义自己的模板. 借助 Pinferencia 和 Streamlit 的强大功能,您的应用会让人眼前一亮.

swagger-ui

带有详细交互式文档的 REST API

Pinferencia不仅仅用于演示您的模型. 支持功能齐全的 REST API 集部署您的模型.

当前实现了两个API集:默认API和Kserve API.

服务上线后,您可以访问后端地址并找到 REST API 的所有规范. 您甚至可以使用交互式文档网页试用API.

了解更多

frontend-backend

前端还是后端?

Pinferencia 由前端和后端组成.
可以选择前端和后端一起启动,或者只启动前端或后端.

这使您能够构建服务网格,或在云中部署后端并且仅在本地启动前端.

了解更多

Pinferencia来源?

Pinferencia 是我们的一个小团队的兼职项目. 我们正在尝试制作对其他人有用的工具.
因此,我们非常需要你能提出你的想法、建议和发现的错误,我们将不胜感激.