揽睿·知用平台简介
揽睿·知用,是一个专为大模型开发者提供的一站式开发平台。
我们提供了丰富的预训练模型、数据集、推理服务、社区镜像等功能,帮助开发者快速的学习、构建和部署大模型。
如果您想快速的使用大模型,或者想快速的部署自己的大模型,揽睿知用是您的最佳选择。
主要功能和服务
1. 推理服务
可一键部署的生产级推理服务,支持用户上传自有模型,支持多种模态的模型,支持多种推理引擎框架。
此外还支持异步调用、推理结果回调,并拥有完善的排队策略、负载均衡、动态扩缩容等功能。
推理结果可持久化,推理出的图片、视频拥有独立 URL、可以支持 CDN 分发。
1.1 星舟推理引擎
星舟推理引擎 是 揽睿·知用
自研的高性能推理引擎,支持文本生成、图片生成、视频生成等多种模态的模型推理。
相较于其他推理引擎,星舟推理引擎 具有更高的性能、更低的延迟、更大的吞吐量、更好的稳定性。
1.2 SD-WebUI API
SD-WebUI API 是 揽睿·知用
在 SD-WebUI 基础上二次开发的推理服务。
1.3 ComfyUI API
ComfyUI API 是 揽睿·知用
在 ComfyUI 基础上二次开发的推理服务。
1.4 自定义推理服务
支持用户上传私有推理镜像,利用平台负载均衡、动态扩缩容等能力,快速部署自有模型服务。
2. 工作空间
通过工作空间,用户可以快速搭建一个完整的开发环境,支持 JupyterLab
、VS Code
、TensorBoard
等工具。
3. 星舟 API
揽睿知用自营的 API 服务,提供了主流大模型的推理服务,无需关注复杂的模型部署和维护,只需几行代码即可开始使用。
4. 推理社区
您可以在这里分享自己利用 星舟 API 搭建的应用原型,也可以发现探索其他用户分享的应用原型。
5. 镜像社区
您可以在这里分享自己构建的镜像,也可以发现探索其他用户分享的镜像。
联系我们
扫码添加客服: