Hacker News · AI 最新· aliyunazeer07·· 8 天前AI 评分54
CloudGrip:开源 AI 代理网关,为 LLM API 预算设置上限
Show HN: CloudGrip – Open-source AI proxy to cap LLM API budgets
AI 导读
CloudGrip 是一个基于 Node.js、Express 和 SQLite 的自托管 AI 代理网关,用于管理 LLM API 预算并控制执行循环。其预算熔断功能会在支出达到配置上限时自动停止请求,同时提供实时遥测、请求日志和管理后台。
来源:Hacker News · AI 最新 · github.com