演示示例

基础指令

知识库问答 执行工具

功能

1 基础模型托管及扩展

• [x] 提供 通义千问、ChatGLM2-6b、ChatGLM3-6b、llama2(in4 量化 13b)、Stable-diffusion等基础模型的一键部署
• [x] 支持基础模型的公开访问API
• [x] 支持托管任意模型的代理服务函数比如ChatGPT
• [x] 提供扩展自定义模型，开放构建模型镜像的源码
• [ ] 模型服务计费，日志查看等

2 数据集

• [x] 支持精准问答数据集和文档数据集混合使用
• [x] 支持数据集自动向量化处理
• [x] 支持多种源文件类型录入
• [x] 支持手动输入单文档数据源或者QA数据源
• [ ] url 读取，本地目录上传
• [ ] mysql, oss等多数据源动态导入

3 智能体编排和调试

• [x] 支持实时调试知识库等智能体效果
• [x] 支持问答记录查询，修正
• [x] 支持提示词预置模版
• [x] 支持指令、LLM、数据集自由组合
• [x] 指令、LLM、数据集、工具，上下文自由组合
• [x] 工具能力在线构建和发布
• [x] 可视化编排Agent

4 API透出

• [x] 支持 Agent Api token访问
• [ ] 接入网关增强 安全，限流等能力

5 客户端连接

• [x] 提供引导式方案接入钉钉机器人
• [x] 提供微信个人助手一键部署服务
• [x] 提供独立web站一键部署服务
• [ ] 嵌入脚本，sdk等接入方式
• [ ] 其他平台对接

6 生成式UI

• [x] 支持内置自定义渲染组件
• [x] 支持自定义组件LUI渲染
• [x] 生成式UI能力集成

部署

• 云端 AgentCraft 基于Serverless架构构建，在阿里云函数计算上提供一键部署应用的模版，帮助您快速部署专属的服务，您可以随时进行公共服务转化，详情参考

• 私有化

  使用docker-compose.yml 一键部署AgentCraft 服务，请确保已经安装了Docker 和 Docker Compose 如果您需要访问插件扩展能力以及接入钉钉微信登能力，需要补充docker-compose.yml 中阿里云环境变量相关的信息 如 MAIN_ACCOUNT_ID、 ALIBABA_CLOUD_ACCESS_KEY_ID、 ALIBABA_CLOUD_ACCESS_KEY_SECRET 不需要请直接执行

   docker compose up -d

开发

克隆本项目到本地

git clone https://github.com/devsapp/agentcraft.git

启动后端服务 agentcraft-be

部署后端服务需要先准备好embedding 和 pg

embedding

• 云端创建，访问函数计算embedding应用模版一键创建,并获取域名
• 本地创建, 执行docker-compose up embedding -d, 该服务地址为 http://localhost:8001/embedding

pg

• 云端创建， 通过RDS PostgreSQL实例 https://rdsbuy.console.aliyun.com/create/rds/mysql?spm=5176.19907444.0.0.64b11450FHIgeU 获取，相关教程参考
• 本地创建，执行docker-compose up pg -d

# 注python 版本 >= 3.11
cd agentcraft/src/agentcraft-all/agentcraft-be
cp .env.example .env
python3 -m venv venv
source venv/bin/activate
pip install -r  requirements.txt
export PYTHONPATH="${PYTHONPATH}:$(pwd)"
python3 -u app/main.py

启动前端服务 agentcraft-fe

cd agentcraft/src/agentcraft-all/agentcraft-fe
cp .env.example .env
npm install -f
npm run dev

特性相关

与同类智能体平台相比，AgentCraft最大的特性在于构建跟云上资源的链接，提供云上资源管理能力，可以构建和部署任意需要被依赖的组件，比如基础模型、数据持续集成、自定义执行工具、客户端接入、工作流等,皆在帮助企业级开发者自由构建可以落地到业务里的AI应用

如何贡献

欢迎为AgentCraft贡献，一起推进AI应用的落地。 欢迎各种方式的贡献，提交代码、问题、新想法.

联系我们

如果您有任何问题、建议或合作意向，可以用以下方式联系我们：

• GithubRepo 提交 Issue 或 PR
• 加入AgentCraft 项目交流钉群讨论

Citation

本软件使用以下开源软件

• Nextjs [nodejs]
• FastApi [python]
• LangChain

License 开源协议

Apache2.0协议