ABOUT

内结构大模型

「内结构」指的是先把自己内部的结构理顺 —— 模型放哪、设备怎么连、密钥怎么发、 日志怎么留 —— 然后再对外提供能力。这样做出来的东西,是一个能长期自己维护的工作台, 而不是一个演示用的聊天框。

能力矩阵

llm

语言理解与生成

对话、长文写作、代码、工具调用;支持流式输出与多轮上下文。

image

图像生成与编辑

文生图、图生图;按后端实际算力开放,带用量统计。

video

视频生成

文生视频 / 图生视频,走异步任务队列,生成完通知。

agent

设备与工具编排

把指令下发给联网设备上的 Agent,取回执行结果与日志。

技术路线 · 三层解耦

  1. L1

    模型层

    一个适配器接口收口所有模型后端;换模型不改前端。首版接服务器本地模型服务(OpenAI 兼容)。

  2. L2

    通道层

    站内 API 统一收发:对外的连接器密钥、对内的设备长连接,都收敛到同一条通道上做鉴权与限流。

  3. L3

    设备层

    每台设备跑一个轻量 Agent:心跳、指令、文件、隧道。设备只出站连接,不开放入站端口。

模型清单

llm语言模型对话 / 补全 / 工具调用
image图像模型文生图 / 图生图
video视频模型文生视频 / 图生视频
audio语音模型语音合成(规划中)

具体可用模型以占位后端 /v1/models 返回为准,未接入的类别在界面上显示「即将开放」。

边界 · 做与不做

  • ✓自己的数据、自己的服务器、自己的模型
  • ✓连接器密钥可限额、可吊销、可看用量
  • ✓所有敏感动作全部留痕,可查可导出
  • ✕不做公开的多租户 SaaS,账号只发给自己人
  • ✕不把模型密钥、设备凭据下发给浏览器
  • ✕不暴露带默认口令的设备管理口(如 BMC)到公网