agent-service-toolkit: 构建 AI 代理服务的完整工具包

在现代人工智能领域，构建和运行自定义 AI 代理变得越来越重要。agent-service-toolkit，是一个基于 LangGraph、FastAPI 和 Streamlit 的开源工具包。该工具包旨在简化 AI 代理的开发流程，提供从代理定义到用户界面的完整解决方案。

项目概述

agent-service-toolkit 提供了以下关键功能：

• LangGraph 代理：一个可定制的代理，使用 LangGraph 框架构建。
• FastAPI 服务：为代理提供流式和非流式端点的服务。
• Streamlit 界面：提供用户友好的聊天界面与代理进行交互。
• 内容审核：实现了 LlamaGuard 的内容审核功能。
• 多代理支持：在服务中运行多个代理，并通过 URL 路径调用。

该项目还支持 Docker，方便开发和部署，使开发者能够快速上手。

要开始使用这个工具包，请按照以下步骤操作：

1. 克隆仓库：

   git clone https://github.com/JoshuaC215/agent-service-toolkit.git
   cd agent-service-toolkit

2. 设置环境变量 ：
   创建一个 .env 文件并添加至少一个 LLM API 密钥。
3. 运行服务：

• 使用 Python 直接运行：
  bash pip install uv uv sync --frozen source .venv/bin/activate python src/run_service.py
• 在另一个终端中运行 Streamlit 应用：
  bash streamlit run src/streamlit_app.py

2. 使用 Docker 运行（推荐）：

   docker compose watch

访问 Streamlit 应用程序，通常在 http://localhost:8501，而 FastAPI 服务 API 则在 http://localhost:80。

定制化与扩展

开发者可以根据自己的需求定制代理，只需在 src/agents 目录中添加新的代理文件，然后将其添加到 src/agents/agents.py 的代理字典中，以便通过特定路径调用。

此外，该工具包支持 LangGraph Studio，一个用于开发 LangGraph 代理的新 IDE，使得开发过程更加高效。