MindSpore Transformers套件的目标是构建一个大模型训练、推理、部署的全流程套件: 提供业内主流的Transformer类预训练模型, 涵盖丰富的并行特性。 期望帮助用户轻松的实现大模型训练。
Triton-Ascend面向昇腾平台,旨在让Triton代码能够在昇腾硬件上高效运行。
cann-ops,是基于昇腾硬件的基础算子库,同时接受外部基础算子贡献。
TorchAir 支持用户基于PyTorch框架和torch_npu插件在昇腾NPU上使用图模式进行训练和推理
本仓库仅作为 flagtree 项目 github 仓库的镜像版本,FlagTree 团队根据生态惯例、项目管理等实际情况综合研判,暂不开放本 gitee 仓库的 issue、pull request等功能,如有需求请移步 https://github.com/FlagTree/flagtree 进行提交,同时感谢您对 FlagTree 生态/项目的关心与支持。
LLaMA Box is an LM inference server(pure API, w/o frontend assets) based on the llama.cpp and stable-diffusion.cpp.