应用版用户点这里跳转应用版文档,SD WebUI专区、ComfyUI专区
揽睿星舟平台专业版简介
揽睿星舟专业版,是一个专为大模型开发者、大模型应用开发者及其他对AI感兴趣的开发者提供的一站式大模型训推平台。
我们提供了丰富的预训练模型、数据集、推理服务、社区镜像等功能,帮助开发者快速的学习、构建和部署大模型。
如果您想快速的使用大模型,或者想快速的部署自己的大模型,揽睿星舟专业版是您的最佳选择。
主要功能和服务
1. 推理服务
可一键部署的生产级推理服务,支持用户上传自有模型,支持多种模态的模型,支持多种推理引擎框架。
此外还支持异步调用、推理结果回调,并拥有完善的排队策略、负载均衡、动态扩缩容等功能。
推理结果可持久化,推理出的图片、视频拥有独立 URL、可以支持 CDN 分发。
1.1 星舟推理引擎
星舟推理引擎 是 揽睿星舟
自研的高性能推理 引擎,支持文本生成、图片生成、视频生成等多种模态的模型推理。
相较于其他推理引擎,星舟推理引擎 具有更高的性能、更低的延迟、更大的吞吐量、更好的稳定性。
1.2 SD-WebUI API
SD-WebUI API 是 揽睿星舟
在 SD-WebUI 基础上二次开发的推理服务。
1.3 ComfyUI API
ComfyUI API 是 揽睿星舟
在 ComfyUI 基础上二次开发的推理服务。
1.4 自定义推理服务
支持用户上传私有推理镜像,利用平台负载均衡、动态扩缩容等能力,快速部署自有模型服务。
2. 工作空间
通过工作空间,用户可以快速搭建一个完整的开发环境,支持 JupyterLab
、VS Code
、TensorBoard
等工具。
3. 星舟 API
揽睿星舟自营的 API 服务,提供了主流大 模型的推理服务,无需关注复杂的模型部署和维护,只需几行代码即可开始使用。
4. 推理社区
您可以在这里分享自己利用 星舟 API 搭建的应用原型,也可以发现探索其他用户分享的应用原型。
5. 镜像社区
您可以在这里分享自己构建的镜像,也可以发现探索其他用户分享的镜像。
联系我们
扫码添加客服: