Baihai AI Factory

白海 AI 工厂
同样的算力,产出更多 Token

通过 Wind 调度内核统一调度算力、模型与任务,让同一批 GPU 产出更多 Token。相较 Kubernetes 默认调度器,并发吞吐提升 46.6%,相同负载少用 25% 的机器。可部署在您的算力上,也可直接使用白海的算力。

  • 共建 AI 工厂
  • 私有化部署
  • IDP 云服务
  • 模型服务 MaaS
原料 GPUGPUCPUCPU 异构算力 多代际 · 多厂商 白海 AI 工厂 模型服务MaaS · 私有模型服务 训推平台IDP Studio · IDP LM 算力调度IDP Engine · Wind 调度内核 产出 Token 模型 API 按量调用 专属模型 训练 · 微调 · 发布 算力服务 按需切分 · 对外供给 向下统一调度算力,向上稳定交付模型服务 原料 · 异构算力 GPUGPUCPUCPU 白海 AI 工厂 模型服务MaaS · 私有模型服务 训推平台IDP Studio · IDP LM 算力调度IDP Engine · Wind 调度内核 产出 Token模型 API 专属模型训练 · 微调 算力服务按需切分
Why AI Factory

落地大模型,常见的三个难题

算力利用率低

GPU 分散在不同团队和机房,一边任务排队,一边资源闲置。

白海方案将全部算力纳入统一资源池,按需切分与调度;生产验证中集群 GPU 利用率稳定在 82% 以上。

Token 成本高、去向难说清

智能体(Agent)应用上线后,模型调用量成倍增长,成本去向和优化空间难以说清。

白海方案用量统一计量,并在保持任务质量不变的前提下,降低每个 Token 的生成成本与延迟。

数据必须留在本地

核心业务数据受合规约束,无法使用公有云模型服务。

白海方案平台整体私有化部署,支持封闭网络环境下离线交付。

What We Build

一座 AI 工厂,三层能力

IDP 平台是 AI 工厂的生产线,覆盖算力调度、模型训推和模型服务三层,可按层选购,也可整体交付。

Service

服务层

将模型以服务形式交付业务系统

模型服务 MaaS

通过统一 API 调用多种主流模型,兼容主流接口规范,现有应用只需少量改动即可接入。

了解 MaaS →

私有模型服务

在企业内部部署和托管模型服务,覆盖创建、启停、扩缩容到下线的完整生命周期。

灰度发布

支持按比例分流、新旧版本切换和限流保护,降低新模型上线对在线业务的影响。

Training & Inference

训推层

完成模型训练、微调与发布

Compute

算力层

统一管理分散的异构算力

IDP Engine 调度引擎

GPU 与 CPU 算力统一管理,兼容多代际、多厂商卡型,节点接入后自动注册。

产品详情 →

GPU 切分

单张 GPU 可按 1/2、1/4 切分使用,轻量任务无需独占整卡。

多团队配额

按团队、队列、用户三级分配配额,可设置任务优先级和最长运行时长,资源用量统一计量。

Core Technology

Wind 调度内核:六个环节联合优化

Wind 是白海 IDP 的调度内核。它先预测每个任务要用多少资源、跑多久,再在算力、模型、任务、缓存、Token 与网络六个环节一起优化,让同样的硬件产出更多 Token。

+46.6%
并发吞吐量提升
K8s
白海
33–48%
平均响应延迟缩减
K8s
白海
82%+
集群 GPU 利用率
25%
节省物理机器需求
相同负载

生产验证,对比基线为 Kubernetes 默认调度器

01

算力调度

不同型号的 GPU 合成一个资源池

02

模型调度

按预测的资源消耗,选模型、选位置

03

任务调度

一次推理拆成两段,分别调度

04

缓存优化

复用重复的前缀与中间结果

05

Token 优化

质量不变,单 Token 成本更低

06

网络链路优化

调度所需状态微秒级送达

Wind

调度内核

预测驱动的多维资源调度框架,纵向贯穿六个环节

How We Work

两种路径,四种合作方式

部署在您的算力上项目制交付,平台部署在您的机房或算力中心

共建 AI 工厂

智算中心园区算力持有方

合作方提供算力与机房,白海部署平台并提供运营支持,将算力转化为可对外销售的算力服务与模型服务。

  • 多地域、多卡型统一调度
  • 资源用量计量与计费
  • 对外提供算力租用与模型 API
了解共建方案

私有化 AI 工厂

央国企大型企业科研机构

整套平台部署在企业自有机房,数据和模型留在内部,可配合企业安全合规体系落地。

  • 支持封闭网络离线交付
  • 操作审计与访问管控
  • 模型和数据所有权归企业
了解私有化方案
使用白海的算力无需自建,注册或开通即可使用

IDP 云服务

算法团队个人开发者企业团队

无需自建,在白海云上直接使用 IDP 平台和 GPU 算力,完成 AI 开发、大模型微调与训练推理,按 BHU 计费。

  • IDP Studio、IDP LM、IDP Engine 一个账号全部可用
  • NVIDIA GPU 按需使用,国产 GPU 联系购买
  • 公开注册,价格公开
了解云服务

模型服务 MaaS

业务团队技术团队

无需自建部署,通过 API 直接调用白海 AI 工厂提供的模型服务,按调用量计费。

  • 兼容主流接口规范,接入成本低
  • 多种主流模型统一入口
  • 邀请制开通,邮件申请即可获取账号
了解 MaaS
In Production

行业实践

数据中心机柜通道
Computing Center

智算中心

为区域智算中心提供算力调度与多租户运营,提升 GPU 利用率,对外统一供给算力和模型服务。

自动化产线上的工业机器人
Industrial

工业制造

在生产现场本地部署,完成模型训练、推理与质量监测,生产数据留在厂内。

高压输电塔
Energy

能源电力

为大型能源企业定制行业模型与智能应用,覆盖生产巡检、设备运维和知识检索。

工程设计蓝图
Design & Content

工程设计与内容生产

在工程制图、标书审查、文案生成等场景中,将模型能力接入日常工作流程,缩短出稿与审查周期。

查看行业实践详情 →
合作伙伴查看全部 →
阿里云登临科技电子工业出版社首都在线国家超级计算长沙中心清华大学算能UCloud 优刻得万界数据紫光云
  • 国家高新技术企业
  • 北京市专精特新中小企业
  • 核心团队来自清华大学、百度
  • 20 余项专利与顶会论文
  • 查看资质证书 →

与我们沟通您的需求

需要共建合作、私有化部署或开通模型服务?发送邮件给我们,商务团队将尽快与您联系。

contact@baihai.ai
发邮件给我们