企业专属模型：让企业放心调用大模型的架构最佳实践

安全保障强度 ─────────────────────────────────────────→

模式 1        模式 2          模式 3        模式 4         模式 5
共享 API     零数据留存       专属实例      VPC 私有部署    本地私有化
(Shared)     (Zero Retention) (Dedicated)  (VPC Private)  (On-Premise)

成本: 最低    成本: 低         成本: 中      成本: 高        成本: 最高
延迟: 最低    延迟: 最低       延迟: 低      延迟: 低        延迟: 取决于硬件

企业应用 → HTTPS → 厂商公共 API 端点 → 共享 GPU 集群
                                        (多租户共享)

企业应用 → HTTPS → 厂商 API → GPU 推理 → 返回结果
                                          ↓
                               数据立即销毁，不写入任何存储

企业应用 → HTTPS → 厂商 API 网关 → 企业专属 GPU 集群
                                    (硬件级隔离，不共享)

企业 VPC
┌─────────────────────────────────────────────┐
│                                             │
│  企业应用 → VPC Endpoint / PrivateLink      │
│                    │                        │
│                    ▼                        │
│         模型推理服务（在 VPC 内）              │
│                                             │
│  数据全程在 VPC 内流转，不经过公网             │
└─────────────────────────────────────────────┘

企业数据中心
┌─────────────────────────────────────────────┐
│                                             │
│  企业应用 → 本地推理服务 → 企业 GPU 集群     │
│                                             │
│  模型权重存储在本地                           │
│  数据全程在数据中心内                         │
│  完全不依赖外部网络                           │
│                                             │
└─────────────────────────────────────────────┘

Agent 层
  │
  ▼
OpenClaw Gateway
  │
  ▼
LiteLLM Proxy (统一代理)
  │
  ├── 路由 1 → Azure OpenAI (VPC 私有部署的 GPT-4o)
  ├── 路由 2 → AWS Bedrock (VPC 私有部署的 Claude Opus)
  ├── 路由 3 → 本地 vLLM (私有部署的 Qwen3-72B)
  └── 路由 4 → 阿里云百炼 API (共享 API 的 Qwen-Plus)

{
  "models": {
    "providers": {
      "azure": {
        "baseUrl": "https://my-company.openai.azure.com",
        "apiKey": "${AZURE_API_KEY}",
        "models": [
          {
            "id": "gpt-4o",
            "api": "openai-completions",
            "deployment": "my-gpt4o-ptu"
          }
        ]
      },
      "local": {
        "baseUrl": "http://192.168.1.100:8000",
        "models": [
          {
            "id": "qwen3-72b",
            "api": "openai-completions",
            "contextWindow": 128000
          }
        ]
      }
    }
  },
  "agents": {
    "list": [
      {
        "id": "internal",
        "model": {
          "primary": "local/qwen3-72b",
          "fallbacks": ["azure/gpt-4o"]
        }
      },
      {
        "id": "external",
        "model": {
          "primary": "azure/gpt-4o"
        }
      }
    ]
  }
}

Q1: 数据是否涉及国家安全或军工？
  → 是 → 模式五（本地私有化），且只能用国产模型
  → 否 → 继续

Q2: 数据是否受到严格的数据出境限制？
  → 是 → 模式四（VPC 私有部署，使用国内云厂商）
        或 模式五（本地私有化）
  → 否 → 继续

Q3: 所在行业是否有明确的数据留存禁止要求？
  → 是 → 模式二（零数据留存）或更高
  → 否 → 继续

Q4: 是否需要硬件级隔离来满足审计要求？
  → 是 → 模式三（专属实例）或更高
  → 否 → 继续

Q5: 是否已有"不训练"的合同保障？
  → 是 → 模式一（共享 API）已经足够
  → 否 → 至少要模式一 + 签署 DPA（数据处理协议）

数据分级                   推荐架构                   典型模型选择
──────────                ─────────                  ────────────
最高密级（核心商业机密）    模式五: 本地私有化          Qwen3-72B / DeepSeek-V3
高密级（客户数据）         模式四: VPC 私有部署         Claude Opus (Bedrock)
中密级（内部文档）         模式三: 专属实例             GPT-4o (Azure PTU)
低密级（公开信息处理）      模式一: 共享 API            Qwen-Plus / GPT-4o-mini

国际认证:
  SOC 2 Type II    → 证明安全控制经过第三方审计
  ISO 27001        → 信息安全管理体系认证
  HIPAA BAA        → 医疗数据处理合规（美国）
  GDPR DPA         → 数据处理协议（欧盟）
  FedRAMP          → 美国联邦政府云安全认证

中国认证:
  等保三级          → 信息系统安全等级保护（必需）
  数据安全法合规     → 数据分级分类、出境评估
  个人信息保护法     → 个人数据处理的合法性基础
  大模型备案        → 生成式 AI 服务的备案登记
  算法备案          → 算法推荐服务的备案

微调数据流:
  企业训练数据 → 上传到厂商平台 → 微调训练 → 生成专属模型权重

需要确认:
  ✓ 训练数据只用于本企业的微调，不会被其他租户使用
  ✓ 微调后的模型权重归企业所有
  ✓ 基础模型厂商无法逆向工程出微调数据
  ✓ 微调训练过程在隔离环境中进行
  ✓ 训练数据在微调完成后是否删除