add LLMs
This commit is contained in:
yzfly
47
README.md
47
README.md
@ -1,8 +1,8 @@
|
||||
# 🤖 ChatGPT 中文指南 🤖
|
||||
|
||||
[](https://awesome.re)
|
||||
[](https://github.com/yzfly/awesome-chatgpt-zh/blob/main/LICENSE)
|
||||
[](https://t.me/AwesomeChatGPT)
|
||||
[](https://github.com/yzfly/awesome-chatgpt-zh/blob/main/LICENSE)
|
||||
[](https://t.me/AwesomeChatGPT)
|
||||
|
||||
[GitHub 持续更新，欢迎关注，欢迎 star ~](https://github.com/yzfly/awesome-chatgpt-zh)
|
||||
|
||||
@ -100,8 +100,8 @@ ChatGPT 中文指南项目旨在帮助中文用户了解和使用ChatGPT。我
|
||||
- [OpenAI 服务替代品](#openai-服务替代品)
|
||||
- [其他开发资源](#其他开发资源)
|
||||
- [类 ChatGPT 开源模型](#类-chatgpt-开源模型)
|
||||
- [大模型](#大模型)
|
||||
- [模型列表](#模型列表)
|
||||
- [开源可商用 LLM：dolly](#开源可商用-llmdolly)
|
||||
- [中文LLaMA\&Alpaca大语言模型+本地部署: Chinese-LLaMA-Alpaca](#中文llamaalpaca大语言模型本地部署-chinese-llama-alpaca)
|
||||
- [Visual OpenLLM](#visual-openllm)
|
||||
- [高效微调一个聊天机器人：LLaMA-Adapter🚀](#高效微调一个聊天机器人llama-adapter)
|
||||
@ -875,11 +875,35 @@ OpenAI 现已经支持插件功能，可以预见这个插件平台将成为新
|
||||
|[rebuff](https://github.com/woop/rebuff) ||Rebuff.ai - Prompt Injection Detector.|Prompt 攻击检测，内容检测|
|
||||
|[text-generation-webui](https://github.com/oobabooga/text-generation-webui)||-|一个用于运行大型语言模型(如LLaMA, LLaMA .cpp, GPT-J, Pythia, OPT和GALACTICA)的 web UI。|
|
||||
|[MLC LLM](https://github.com/mlc-ai/mlc-llm)||Enable everyone to develop, optimize and deploy AI models natively on everyone's devices.|陈天奇大佬力作——MLC LLM，在各类硬件上原生部署任意大型语言模型。可将大模型应用于移动端（例如 iPhone）、消费级电脑端（例如 Mac）和 Web 浏览器。|
|
||||
|[LlamaIndex](https://github.com/jerryjliu/llama_index) |  | Provides a central interface to connect your LLMs with external data. |将llm与外部数据连接起来。|
|
||||
|
||||
## 类 ChatGPT 开源模型
|
||||
|
||||
OpenAI 的 ChatGPT 大型语言模型（LLM）并未开源，这部分收录一些深度学习开源的 LLM 供感兴趣的同学学习参考。
|
||||
|
||||
### 大模型
|
||||
|
||||
|名称|Stars|简介| 备注 |
|
||||
|-------|-------|-------|------|
|
||||
|[Alpaca](https://github.com/tatsu-lab/stanford_alpaca) |  | Code and documentation to train Stanford's Alpaca models, and generate the data. |-|
|
||||
|[BELLE](https://github.com/LianjiaTech/BELLE) |  | A 7B Large Language Model fine-tune by 34B Chinese Character Corpus, based on LLaMA and Alpaca. |-|
|
||||
|[Bloom](https://github.com/bigscience-workshop/model_card) |  | BigScience Large Open-science Open-access Multilingual Language Model |-|
|
||||
|[dolly](https://github.com/databrickslabs/dolly) |  | Databricks’ Dolly, a large language model trained on the Databricks Machine Learning Platform |Databricks 发布的 Dolly 2.0 大语言模型。业内第一个开源、遵循指令的 LLM，它在透明且免费提供的数据集上进行了微调，该数据集也是开源的，可用于商业目的。这意味着 Dolly 2.0 可用于构建商业应用程序，无需支付 API 访问费用或与第三方共享数据。|
|
||||
|[Falcon 40B](https://huggingface.co/tiiuae/falcon-40b-instruct) | | Falcon-40B-Instruct is a 40B parameters causal decoder-only model built by TII based on Falcon-40B and finetuned on a mixture of Baize. It is made available under the Apache 2.0 license. |-|
|
||||
|[FastChat (Vicuna)](https://github.com/lm-sys/FastChat) |  | An open platform for training, serving, and evaluating large language models. Release repo for Vicuna and FastChat-T5. |继草泥马（Alpaca）后，斯坦福联手CMU、UC伯克利等机构的学者再次发布了130亿参数模型骆马（Vicuna），仅需300美元就能实现ChatGPT 90%的性能。|
|
||||
|[GLM-6B (ChatGLM)](https://github.com/THUDM/ChatGLM-6B) |  | An Open Bilingual Pre-Trained Model, quantization of ChatGLM-130B, can run on consumer-level GPUs. |
|
||||
|[GLM-130B (ChatGLM)](https://github.com/THUDM/GLM-130B) |  | An Open Bilingual Pre-Trained Model (ICLR 2023) |
|
||||
|[GPT-NeoX](https://github.com/EleutherAI/gpt-neox) |  | An implementation of model parallel autoregressive transformers on GPUs, based on the DeepSpeed library. |
|
||||
|[Luotuo](https://github.com/LC1332/Luotuo-Chinese-LLM) |  | An Instruction-following Chinese Language model, LoRA tuning on LLaMA| 骆驼，中文大语言模型开源项目，包含了一系列语言模型。|
|
||||
|[minGPT](https://github.com/karpathy/minGPT) ||A minimal PyTorch re-implementation of the OpenAI GPT (Generative Pretrained Transformer) training。|karpathy大神发布的一个 OpenAI GPT(生成预训练转换器)训练的最小 PyTorch 实现，代码十分简洁明了，适合用于动手学习 GPT 模型。|
|
||||
|[ChatGLM-6B](https://github.com/THUDM/ChatGLM-6B) ||ChatGLM-6B: An Open Bilingual Dialogue Language Model |ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM) 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存）。 ChatGLM-6B 使用了和 ChatGPT 相似的技术，针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62 亿参数的 ChatGLM-6B 已经能生成相当符合人类偏好的回答。|
|
||||
|[Open-Assistant](https://github.com/LAION-AI/Open-Assistant)||-|知名 AI 机构 LAION-AI 开源的聊天助手，聊天能力很强，目前中文能力较差。|
|
||||
|[llama.cpp](https://github.com/ggerganov/llama.cpp)||-|实现在MacBook上运行模型。|
|
||||
|[EasyLM](https://github.com/young-geng/EasyLM#koala)||在羊驼基础上改进的新的聊天机器人考拉。|[介绍页](https://bair.berkeley.edu/blog/2023/04/03/koala/)|
|
||||
|[FreedomGPT](https://github.com/ohmplatform/FreedomGPT) ||-|自由无限制的可以在 windows 和 mac 上本地运行的 GPT，基于 Alpaca Lora 模型。|
|
||||
|[FinGPT](https://github.com/AI4Finance-Foundation/FinGPT)||Data-Centric FinGPT. Open-source for open finance! Revolutionize 🔥 We'll soon release the trained model.|金融领域大模型|
|
||||
|[baichuan-7B](https://github.com/baichuan-inc/baichuan-7B) ||A large-scale 7B pretraining language model developed by Baichuan |baichuan-7B 是由百川智能开发的一个开源可商用的大规模预训练语言模型。基于 Transformer 结构，在大约1.2万亿 tokens 上训练的70亿参数模型，支持中英双语，上下文窗口长度为4096。在标准的中文和英文权威 benchmark（C-EVAL/MMLU）上均取得同尺寸最好的效果。|
|
||||
|
||||
### 模型列表
|
||||
|名称|Stars|简介| 备注 |
|
||||
-|-|-|-
|
||||
@ -889,29 +913,12 @@ OpenAI 的 ChatGPT 大型语言模型（LLM）并未开源，这部分收录一
|
||||
|[FindTheChatGPTer](https://github.com/chenking2020/FindTheChatGPTer) ||-|本项目旨在汇总那些ChatGPT的开源平替们，包括文本大模型、多模态大模型等|
|
||||
|[LLMsPracticalGuide](https://github.com/Mooler0410/LLMsPracticalGuide) ||亚马逊科学家杨靖锋等大佬创建的语言大模型实践指南，收集了许多经典的论文、示例和图表，展现了 GPT 这类大模型的发展历程等|-|
|
||||
|[awesome-decentralized-llm](https://github.com/imaurer/awesome-decentralized-llm) ||能在本地运行的资源 LLMs。|-|
|
||||
|[minGPT](https://github.com/karpathy/minGPT) ||karpathy大神发布的一个 OpenAI GPT(生成预训练转换器)训练的最小 PyTorch 实现，代码十分简洁明了，适合用于动手学习 GPT 模型。|-|
|
||||
|[OpenChatKit](https://github.com/togethercomputer/OpenChatKit) ||开源了数据、模型和权重，以及提供训练，微调 LLMs 教程。|-|
|
||||
|[ChatGLM-6B](https://github.com/THUDM/ChatGLM-6B) ||ChatGLM-6B: An Open Bilingual Dialogue Language Model |ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM) 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存）。 ChatGLM-6B 使用了和 ChatGPT 相似的技术，针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62 亿参数的 ChatGLM-6B 已经能生成相当符合人类偏好的回答。|
|
||||
|[Stanford Alpaca](https://github.com/tatsu-lab/stanford_alpaca) ||来自斯坦福，建立并共享一个遵循指令的LLaMA模型。|-|
|
||||
|[gpt4all](https://github.com/nomic-ai/gpt4all) ||基于 LLaMa 的 LLM 助手，提供训练代码、数据和演示，训练一个自己的 AI 助手。|-|
|
||||
|[FreedomGPT](https://github.com/ohmplatform/FreedomGPT) ||自由无限制的可以在 windows 和 mac 上本地运行的 GPT，基于 Alpaca Lora 模型。|-|
|
||||
|[LMFlow](https://github.com/OptimalScale/LMFlow) ||共建大模型社区，让每个人都训得起大模型。|-|
|
||||
|[FastChat](https://github.com/lm-sys/FastChat) ||继草泥马（Alpaca）后，斯坦福联手CMU、UC伯克利等机构的学者再次发布了130亿参数模型骆马（Vicuna），仅需300美元就能实现ChatGPT 90%的性能。FastChat 是Vicuna 的GitHub 开源仓库。|-|
|
||||
|[Open-Assistant](https://github.com/LAION-AI/Open-Assistant)||知名 AI 机构 LAION-AI 开源的聊天助手，聊天能力很强，目前中文能力较差。|-|
|
||||
|[llama.cpp](https://github.com/ggerganov/llama.cpp)||实现在MacBook上运行模型。|-|
|
||||
|[EasyLM](https://github.com/young-geng/EasyLM#koala)||在羊驼基础上改进的新的聊天机器人考拉。|[介绍页](https://bair.berkeley.edu/blog/2023/04/03/koala/)|
|
||||
|[Alpaca-CoT](https://github.com/PhoebusSi/Alpaca-CoT/blob/main/CN_README.md)||Alpaca-CoT项目旨在探究如何更好地通过instruction-tuning的方式来诱导LLM具备类似ChatGPT的交互和instruction-following能力。|-|
|
||||
|[OpenFlamingo](https://github.com/mlfoundations/open_flamingo)||OpenFlamingo 是一个用于评估和训练大型多模态模型的开源框架，是 DeepMind Flamingo 模型的开源版本，也是 AI 世界关于大模型进展的一大步。|大型多模态模型训练和评估开源框架。|
|
||||
|[FinGPT](https://github.com/AI4Finance-Foundation/FinGPT)||Data-Centric FinGPT. Open-source for open finance! Revolutionize 🔥 We'll soon release the trained model.|金融领域大模型|
|
||||
|
||||
|
||||
### [开源可商用 LLM：dolly](https://github.com/databrickslabs/dolly)
|
||||
|
||||
在 ChatGPT 的问题上 OpenAI 并不 Open， Meta 开源的羊驼系列模型也因为数据集等问题「仅限于学术研究类应用」。
|
||||
|
||||
Databricks 发布的 Dolly 2.0 大语言模型（LLM）的又一个新版本。
|
||||
|
||||
Databricks 表示，Dolly 2.0 是业内第一个开源、遵循指令的 LLM，它在透明且免费提供的数据集上进行了微调，该数据集也是开源的，可用于商业目的。这意味着 Dolly 2.0 可用于构建商业应用程序，无需支付 API 访问费用或与第三方共享数据。
|
||||
|
||||
|
||||
### [中文LLaMA&Alpaca大语言模型+本地部署: Chinese-LLaMA-Alpaca](https://github.com/ymcui/Chinese-LLaMA-Alpaca)
|
||||
|
||||
Reference in New Issue
Block a user