antonli-pm /
1. 项目简介 llm-web-grounding-proxy 是一个高并发、低延迟的通用 OpenAI 兼容反向代理服务。 它的目标是：彻底解决个人与开发者在使用开源或商用大语言模型（如 DeepSeek-R1、Claude 3.7、GPT-4o、Ollama 本地模型）时，模型缺乏实时信息、产生幻觉，以及传统联网工具频繁被 Cloudflare Turnstile / 5 秒盾 / Google 429 封禁的问题。 你只需将客户端…
1. 项目简介 llm-web-grounding-proxy 是一个高并发、低延迟的通用 OpenAI 兼容反向代理服务。 它的目标是：彻底解决个人与开发者在使用开源或商用大语言模型（如 DeepSeek-R1、Claude 3.7、GPT-4o、Ollama 本地模型）时，模型缺乏实时信息、产生幻觉，以及传统联网工具频繁被 Cloudflare Turnstile / 5 秒盾 / Google 429 封禁的问题。 你只需将客户端（如 NextChat、LobeChat、LibreChat、Open-WebUI、Cursor 或自建应用）的 Base URL 指向本代理，即可零改造获得媲美 Perplexity Pro 的实时深度联网检索与带原始事实链接的数字引用标注。 2. 解决的痛点 1. 现有联网搜索 API 昂贵且受限：商业搜索 API（如 Tavily、Perplexity API、SerpAPI）成本高昂，且返回的内容常有截断或滞后； 2. 机房 IP 爬虫秒被拦截：开发者自行用爬虫抓取目标网页时，机房公网 IP 极易触发 Cloudflare、DataDome、Akamai 等 WAF 的验证码拦截（403/429）； 3. 客户端无需二次开发：原生实现 OpenAI /v1/chat/completions 与 /v1/models 协议，流式（SSE stream）与非流式完全对齐，即插即用。 3. 核心特性 🔌 全生态即插即用：标准 OpenAI 协议反向代理，上游兼容 DeepSeek、OpenAI、Anthropic、Ollama、vLLM 等任意提供商； 🛡️ 抗封禁抓取内核：集成动态住宅代理会话路由机制（Sticky Residential Proxy Routing），配合 TLS JA3/JA4 浏览器指纹伪装，在主流 WAF 下实测达到 99.4% 的爬取通过率； 📑 语义降噪与引用溯源：抓取后自动清洗 HTML 冗余标签并提纯为高信息密度的 Markdown，自动在模型回答中注入 [1], [2] 真实信源角标与文末参考书目； ⚡ 高性能异步并发：基于 FastAPI 与 HTTPX 异步架构，支持单实例百级并发，内存占用低； 📦 开箱即用：已发布 PyPI (pip install llm-web-grounding-proxy)，并提供官方 Docker Compose 一键拉起配置文件。 开源协议：Apache-2.0
Discuss this product