MCP Llm Bridge

🚀 MCP LLM 桥接器

MCP LLM 桥接器是一个连接模型上下文协议（MCP）服务器与 OpenAI 兼容大语言模型 (LLM) 的桥梁。它主要支持 OpenAI API，同时也兼容实现 OpenAI API 规范的本地端点，让不同环境下的模型都能借助标准化接口使用 MCP 兼容工具。

🚀 快速开始

# 安装
curl -LsSf https://astral.sh/uv/install.sh | sh
git clone https://github.com/bartolli/mcp-llm-bridge.git
cd mcp-llm-bridge
uv venv
source .venv/bin/activate
uv pip install -e .

# 创建测试数据库
python -m mcp_llm_bridge.create_test_db

✨ 主要特性

• 提供双向协议转换层，能在 MCP 和 OpenAI 的函数调用接口之间进行转换。
• 将 MCP 工具规范转换为 OpenAI 函数架构，并处理函数调用映射回 MCP 工具执行的过程。
• 支持任何 OpenAI 兼容的语言模型，无论是云端模型还是本地实现（如 Ollama）。

📦 安装指南

# 安装
curl -LsSf https://astral.sh/uv/install.sh | sh
git clone https://github.com/bartolli/mcp-llm-bridge.git
cd mcp-llm-bridge
uv venv
source .venv/bin/activate
uv pip install -e .

# 创建测试数据库
python -m mcp_llm_bridge.create_test_db

📚 详细文档

配置

OpenAI（主要支持）

创建 .env 文件：

OPENAI_API_KEY=your_key
OPENAI_MODEL=gpt-4o # 或其他支持工具的 OpenAI 模型

注意：如果需要使用 .env 中的密钥，请重新激活环境：source .venv/bin/activate

然后在 src/mcp_llm_bridge/main.py 配置桥接器：

config = BridgeConfig(
    mcp_server_params=StdioServerParameters(
        command="uvx",
        args=["mcp-server-sqlite", "--db-path", "test.db"],
        env=None
    ),
    llm_config=LLMConfig(
        api_key=os.getenv("OPENAI_API_KEY"),
        model=os.getenv("OPENAI_MODEL", "gpt-4o"),
        base_url=None
    )
)

额外端点支持

桥接器还适用于任何实现 OpenAI API 规范的端点：

• Ollama

llm_config=LLMConfig(
    api_key="不需要",
    model="mistral-nemo:12b-instruct-2407-q8_0",
    base_url="http://localhost:11434/v1"
)

注意：经过测试，发现 mistral-nemo:12b-instruct-2407-q8_0 更擅长处理复杂查询。

• LM Studio

llm_config=LLMConfig(
    api_key="不需要",
    model="local-model",
    base_url="http://localhost:1234/v1"
)

尚未测试此配置，但理论上应该可以使用。

💻 使用示例

python -m mcp_llm_bridge.main

# 示例问题：数据库中最昂贵的产品是什么？
# 输入 'quit' 或 Ctrl+C 退出

🔧 技术细节

该实现提供了一个双向协议转换层，在 MCP 和 OpenAI 的函数调用接口之间进行转换。它将 MCP 工具规范转换为 OpenAI 函数架构，并处理函数调用映射回 MCP 工具执行的过程。这使得任何 OpenAI 兼容的语言模型都可以通过一个标准化接口使用 MCP 兼容工具，无论是云端模型还是本地实现（如 Ollama）。

更多关于 MCP 的信息，请参考以下链接：

• 资源
• 提示词
• 工具
• 采样

🔧 运行测试

安装带有测试依赖的包：

uv pip install -e ".[test]"

然后运行测试：

python -m pytest -v tests/

📄 许可证

MIT

贡献指南

如需贡献，请参考项目仓库：https://github.com/bartolli/mcp-llm-bridge