microchip-ai快速接入 AI 自动驾驶

AnyInt 是通往 AI 自动驾驶的快速入门通道。它提供与 OpenAI 兼容的统一 API,访问数百个专有和开源 AI 模型。此外,它允许个人通过贡献 GPU、本地或边缘计算资源或闲置的 API 成为提供者。

我们在解决哪些问题?

  • 统一的多模型接入:开发者不再需要逐一集成每个模型/供应商、计费方案和速率限制——使用单一网关和统一协议。

  • 端到端的可靠性与低成本:流量会根据价格、可用性和延迟自动路由,在稳定性和成本控制之间取得平衡。

  • 开放的供应端:社区成员可以贡献计算资源和上游 API 密钥。零信任加密和可验证的结算确保安全与公平。

关键组件

3.1 AI 网关(统一 API、计费、调度)

  • 类 OpenAI 的端点聚合多个封闭/开放模型。

  • 按价格/可用性/延迟自动路由。

  • 统一的余额、计费与对账。

  • 你传入的模型会映射到最佳提供者;网关完成执行链(网关 → 执行器 → 上游模型)。

3.2 AIO(自适应推理编排器)

  • 节点指标:延迟、成功/失败、吞吐量;心跳(30/60 秒)、多窗口观察。

  • 候选过滤与容量控制:跟踪空闲/忙碌/离线状态,避免过载。

  • 分层调度:优先选择表现超出 5 分钟平均值的节点;否则回退到阈值集并重试。

3.3 执行器(无状态适配器)

  • 执行实际的上游调用(OpenAI/Anthropic/DeepSeek 等)。

  • 在 etcd 中注册至 /executors/{region}/{model_type}/{executor_id} 并使用 TTL 发送心跳;定期上报延迟和负载。

  • 调度器使用组合成本(例如:延迟 × 负载)来进行路由。

3.4 BYOK / 共享 API 密钥(供应市场)

  • 零信任加密:提供者在客户端使用 X25519 + ChaCha20-Poly1305 对密钥进行加密。网关仅存储密文;只有持有私钥的执行器才能解密并使用它。

  • 公钥和密文结构支持多区域注册与撤销。

3.5 结算与审计(可验证)

  • 每个周期,平台生成快照(包含 Merkle 根和价格表),以便所有人本地验证基于使用量的费用和收入分配。

  • 在本地验证后,通过 EIP-712 签名最终确定索赔。导出的日志和模式支持可复现的检查。

目标受众与价值主张

受众

他们关心的点

我们提供的内容

AI 应用开发者

一站式接入、模型聚合、可预测的成本

类 OpenAI 的 API + 按价格/可用性/延迟的自动路由 + 完整的计费与对账

计算/边缘资源所有者

低摩擦的变现、透明的状态信息

一键矿工/客户端;用于作业、收益、设备健康(CPU/GPU/内存/在线时长)的仪表板

API 提供者

安全性与公平的收入分配

客户端加密(静态无明文)、快照 + Merkle 验证、链上签名的索赔

最后更新于