# dify-docker-compose

**Repository Path**: fly-llm/dify-docker-compose

## Basic Information

- **Project Name**: dify-docker-compose
- **Description**: dify + fastchat chatglm3 服务
- **Primary Language**: Unknown
- **License**: Apache-2.0
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 13
- **Forks**: 12
- **Created**: 2023-12-18
- **Last Updated**: 2025-02-26

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README


#### 开源Dify.ai

Dify.ai是一个易于使用的LLMOps（Large Language Model Operations）平台，
它可以帮助您的团队基于诸如GPT-4等模型开发AI应用，并通过视觉操作来进行操作​。
这个平台让你能够简单地创建并运营基于GPT-4的AI本地应用​。

github 地址：

https://github.com/langgenius/dify.git


#### 大模型知识库系统，使用 dify+fastchat+milvus+mysql实现

| 项目 | 介绍 | 端口 |
|--|--| --|
| dify | dify | 80 |
| mysql | 数据库 | 3306 |
| milvus | 向量数据库 | 19530 |
| fastchat | 模型服务ChatGLM3，BGE-zh，对外API | 8000 |


## 启动 dify 启动


```bash
cd dify-docker-compose
docker-compose up -d
```

## 启动 fastchat LLM+embedding 的api 服务

需要执行下载模型脚本再启动才可以，只支持linux系统。
前提要安装docker和nvidia-docker 才可以，只能在GPU上运行

```bash
cd fastchat-docker-compose
sh download_and_run.sh
```

## 配置 doker 

```json
{
    "runtimes": {
        "nvidia": {
            "path": "nvidia-container-runtime",
            "runtimeArgs": []
        }
  },
  "registry-mirrors": [ 
	  "https://mirror.ccs.tencentyun.com"
  ]
}
```

## postgres 数据库文件导出方法

```
pg_dump -d dify -U postgres -f /var/lib/postgresql/data/dify_all.sql
```