# bisheng-docker-compose

**Repository Path**: honghuayi/bisheng-docker-compose

## Basic Information

- **Project Name**: bisheng-docker-compose
- **Description**: Bisheng是一款领先的开源大模型应用开发平台，赋能和加速大模型应用开发落地，
帮助用户以最佳体验进入下一代应用开发模式。
- **Primary Language**: Unknown
- **License**: Apache-2.0
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 0
- **Forks**: 9
- **Created**: 2024-03-01
- **Last Updated**: 2024-03-01

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

# bisheng-docker-compose

#### 介绍
Bisheng是一款领先的开源大模型应用开发平台，赋能和加速大模型应用开发落地，帮助用户以最佳体验进入下一代应用开发模式。

“毕昇”是活字印刷术的发明人，活字印刷术为人类知识的传递起到了巨大的推动作用。我们希望“毕昇”同样能够为智能应用的广泛落地提供有力的支撑。欢迎大家一道参与。

Bisheng 基于 Apache 2.0 License 协议发布，于 2023 年 8 月底正式开源。

产品亮点
便捷：即使是业务人员，基于我们预置的应用模板，通过简单直观的表单填写方式快速搭建以大模型为核心的智能应用。
灵活：对大模型技术有了解的人员，我们紧跟最前沿大模型技术生态提供数百种开发组件，基于可视化且自由的流程编排能力，可开发出任意类型的大模型应用，而不仅是简单的提示词工程。
可靠与企业级：当前许多同类的开源项目仅适用于实验测试场景，缺少真正生产使用的企业级特性，包括：高并发下的高可用、应用运营及效果持续迭代优化、贴合真实业务场景的实用功能等，这些都是毕昇平台的差异化能力；另外，更直观的是，企业内的数据质量参差不齐，想要真正把所有数据利用起来，首先需要有完备的非结构化数据治理能力，而这是过去几年我们团队所积累的核心能力，在毕昇的demo环境中您可以通过相关组件直接接入这些能力，并且这些能力免费不限量使用。
产品应用
使用毕昇平台，我们可以搭建各类丰富的大模型应用：

分析报告生成
知识库问答
对话
要素提取

使用文档地址：https://dataelem.feishu.cn/wiki/BSCcwKd4Yiot3IkOEC8cxGW7nPc


#### 大模型知识库系统，使用bisheng+fastchat+milvus+mysql实现

| 项目 | 介绍 | 端口 |
|--|--| --|
| bisheng | 前后端 | 3001 |
| mysql | 数据库 | 3306 |
| milvus | 向量数据库 | 19530 |
| fastchat | 模型服务ChatGLM3，BGE-zh，对外API | 8000 |


## 启动 bisheng 知识库

注释掉了onlyoffice/documentserver 镜像，需要的可以打开：

```bash
cd bisheng-docker-compose
docker-compose up -d
```

## 启动 fastchat LLM+embedding 的api 服务

需要执行下载模型脚本再启动才可以，只支持linux系统。
前提要安装docker和nvidia-docker 才可以，只能在GPU上运行

```bash
cd fastchat-docker-compose
sh download_and_run.sh
```

## 启动 milvus 向量数据库

需要时候再启动：

```bash
cd milvus-docker-compose
docker-compose up -d
```