# 《WaLiAPI - 本地 LLM API 网关》开篇:学习指引

作者:小傅哥
博客:https://bugstack.cn (opens new window)
视频:https://t.zsxq.com/8KuU6 (opens new window)

沉淀、分享、成长,让自己和他人都能有所收获!😄

# 一、项目介绍

大家好,我是技术UP主小傅哥。

今天开启一个 VibeCoding 新项目 ——《WaLiAPI - 本地 LLM API 网关》。该套项目,使用 AI IDE 工具完成,章节内带有开发提示词。帮助大家在一个具体场景下,通过 AI IDE 完成项目实现。

你是否遇到过这样的场景?

  • 想用 Claude 的模型,但 Claude 的 API 格式和 OpenAI 不一样,要改代码。
  • 想同时用 OpenAI、DeepSeek、Claude、Gemini,但每家 API Key、Base URL、调用方式都不同。
  • 想做个负载均衡,让请求自动分配到不同的 API 供应商,一个挂了自动切换。
  • 想知道每次 AI 对话花了多少 Token、调用了什么参数、消耗了多少配额。
  • 担心发给 AI 的请求中泄露了 API Key、私钥、敏感文件路径。

WaLiAPI 就是来解决这些问题的! 它是一个本地运行的 LLM API 网关桌面软件,将各供应商 API 统一转换为 OpenAI 兼容协议,提供多渠道管理、密钥管理、负载均衡、请求日志、安全审计等完整能力。

# 二、项目能做什么

# 2.1 核心功能

🔌 多渠道管理

  • 支持 OpenAI、DeepSeek、Claude、Gemini、智谱、通义、Moonshot、豆包、Ollama 及自定义渠道
  • 优先级 + 权重的负载均衡策略
  • 模型映射(渠道级别 model mapping,请求模型名 → 上游模型名)

🔑 密钥管理

  • 为下游应用生成 sk-waliapi-* 格式的本地访问密钥
  • 支持配额限制与启用/禁用
  • 自定义删除确认弹窗,避免误操作

📊 仪表盘

  • 请求统计、Token 消耗一览
  • 渠道状态与服务可用率
  • 平均延迟监控

📝 请求日志

  • 完整记录每次 API 调用的请求体、模型参数、工具调用、Token 消耗与响应状态
  • 支持按关键词、密钥、渠道、模型、日期范围搜索筛选
  • 日志详情展示对话构成、工具标签、请求参数、网关路由与原始 JSON

🛡️ 安全审计中心

  • 风险检测引擎:自动扫描请求中的敏感信息泄露(API Key、私钥、JWT、Cookie、Bearer Token)、敏感文件路径、Unicode 隐写字符、可疑工具调用、网络风险、追踪像素
  • 风险等级:clean / info / low / medium / high / critical,综合评分 0-100
  • 策略模式:只审计 / 警告 / 脱敏 / 阻断
  • 规则管理:内置 25 条风险规则 + 自定义黑白名单
  • 日志展示:请求列表新增安全等级 Badge,详情页展示风险摘要

⚙️ 设置中心

  • 深色 / 浅色 / 跟随系统主题切换
  • 最小化到托盘、关闭到托盘、开机自启
  • 失败自动重试策略配置

📡 流式响应

  • 完整 SSE 流式转发,兼容 ChatBox / NextChat / OpenAI SDK 等下游客户端