跳到主要内容

揽睿·知用平台简介

揽睿·知用,是一个专为大模型开发者提供的一站式开发平台。

我们提供了丰富的预训练模型、数据集、推理服务、社区镜像等功能,帮助开发者快速的学习、构建和部署大模型。

如果您想快速的使用大模型,或者想快速的部署自己的大模型,揽睿知用是您的最佳选择。

主要功能和服务

1. 推理服务

可一键部署的生产级推理服务,支持用户上传自有模型,支持多种模态的模型,支持多种推理引擎框架。

此外还支持异步调用、推理结果回调,并拥有完善的排队策略、负载均衡、动态扩缩容等功能。

推理结果可持久化,推理出的图片、视频拥有独立 URL、可以支持 CDN 分发。

1.1 星舟推理引擎

星舟推理引擎揽睿·知用 自研的高性能推理引擎,支持文本生成、图片生成、视频生成等多种模态的模型推理。

相较于其他推理引擎,星舟推理引擎 具有更高的性能、更低的延迟、更大的吞吐量、更好的稳定性。

1.2 SD-WebUI API

SD-WebUI API揽睿·知用SD-WebUI 基础上二次开发的推理服务。

1.3 ComfyUI API

ComfyUI API揽睿·知用ComfyUI 基础上二次开发的推理服务。

1.4 自定义推理服务

支持用户上传私有推理镜像,利用平台负载均衡、动态扩缩容等能力,快速部署自有模型服务。

2. 工作空间

通过工作空间,用户可以快速搭建一个完整的开发环境,支持 JupyterLabVS CodeTensorBoard 等工具。

3. 星舟 API

揽睿知用自营的 API 服务,提供了主流大模型的推理服务,无需关注复杂的模型部署和维护,只需几行代码即可开始使用。

4. 推理社区

您可以在这里分享自己利用 星舟 API 搭建的应用原型,也可以发现探索其他用户分享的应用原型。

5. 镜像社区

您可以在这里分享自己构建的镜像,也可以发现探索其他用户分享的镜像。

联系我们

扫码添加客服:

image-1.png