快速接入 AI 自动驾驶
AnyInt 是通往 AI 自动驾驶的快速入门通道。它提供与 OpenAI 兼容的统一 API,访问数百个专有和开源 AI 模型。此外,它允许个人通过贡献 GPU、本地或边缘计算资源或闲置的 API 成为提供者。
我们在解决哪些问题?
统一的多模型接入:开发者不再需要逐一集成每个模型/供应商、计费方案和速率限制——使用单一网关和统一协议。
端到端的可靠性与低成本:流量会根据价格、可用性和延迟自动路由,在稳定性和成本控制之间取得平衡。
开放的供应端:社区成员可以贡献计算资源和上游 API 密钥。零信任加密和可验证的结算确保安全与公平。
关键组件
3.1 AI 网关(统一 API、计费、调度)
类 OpenAI 的端点聚合多个封闭/开放模型。
按价格/可用性/延迟自动路由。
统一的余额、计费与对账。
你传入的模型会映射到最佳提供者;网关完成执行链(网关 → 执行器 → 上游模型)。
3.2 AIO(自适应推理编排器)
节点指标:延迟、成功/失败、吞吐量;心跳(30/60 秒)、多窗口观察。
候选过滤与容量控制:跟踪空闲/忙碌/离线状态,避免过载。
分层调度:优先选择表现超出 5 分钟平均值的节点;否则回退到阈值集并重试。
3.3 执行器(无状态适配器)
执行实际的上游调用(OpenAI/Anthropic/DeepSeek 等)。
在 etcd 中注册至 /executors/{region}/{model_type}/{executor_id} 并使用 TTL 发送心跳;定期上报延迟和负载。
调度器使用组合成本(例如:延迟 × 负载)来进行路由。
3.4 BYOK / 共享 API 密钥(供应市场)
零信任加密:提供者在客户端使用 X25519 + ChaCha20-Poly1305 对密钥进行加密。网关仅存储密文;只有持有私钥的执行器才能解密并使用它。
公钥和密文结构支持多区域注册与撤销。
3.5 结算与审计(可验证)
每个周期,平台生成快照(包含 Merkle 根和价格表),以便所有人本地验证基于使用量的费用和收入分配。
在本地验证后,通过 EIP-712 签名最终确定索赔。导出的日志和模式支持可复现的检查。
目标受众与价值主张
受众
他们关心的点
我们提供的内容
AI 应用开发者
一站式接入、模型聚合、可预测的成本
类 OpenAI 的 API + 按价格/可用性/延迟的自动路由 + 完整的计费与对账
计算/边缘资源所有者
低摩擦的变现、透明的状态信息
一键矿工/客户端;用于作业、收益、设备健康(CPU/GPU/内存/在线时长)的仪表板
API 提供者
安全性与公平的收入分配
客户端加密(静态无明文)、快照 + Merkle 验证、链上签名的索赔
最后更新于