中文LLaMA-2 & Alpaca-2大语言模型 (Chinese LLaMA-2 & Alpaca-2 LLMs)
本项目基于Meta发布的可商用大模型Llama-2开发，是中文LLaMA&Alpaca大模型的第二期项目，开源了中文LLaMA-2基座模型和Alpaca-2指令精调大模型。
这些模型在原版Llama-2的基础上扩充并优化了中文词表，使用了大规模中文数据进行增量预训练，进一步提升了中文基础语义和指令理解能力，相比一代相关模型获得了显著性能提升。相关模型支持4K上下文并可通过NTK方法最高扩展至18K+。
本项目主要内容：
🚀针对Llama-2模型增加了新版中文词表，开源了中文LLaMA-2和Alpaca-2大模型
🚀 了预训练脚本、开源指令精调脚本，用户可根据需要进一步训练模型
🚀使用个人电脑的CPU/GPU在本地快速进行大模型仿真和部署体验
🚀支持🤗Transformers , llama.cpp , text- Generation-webui , LangChain , vLLM等LLaMA生态
目前已开源的模型：Chinese-LLaMA-2-7B, Chinese-Alpaca-2-7B
本项目基于Meta发布的可商用大模型Llama-2开发，是中文LLaMA&Alpaca大模型的第二期项目，开源了中文LLaMA-2基座模型和Alpaca-2指令精调大模型。
这些模型在原版Llama-2的基础上扩充并优化了中文词表，使用了大规模中文数据进行增量预训练，进一步提升了中文基础语义和指令理解能力，相比一代相关模型获得了显著性能提升。相关模型支持4K上下文并可通过NTK方法最高扩展至18K+。
本项目主要内容：
🚀针对Llama-2模型增加了新版中文词表，开源了中文LLaMA-2和Alpaca-2大模型
🚀 了预训练脚本、开源指令精调脚本，用户可根据需要进一步训练模型
🚀使用个人电脑的CPU/GPU在本地快速进行大模型仿真和部署体验
🚀支持🤗Transformers , llama.cpp , text- Generation-webui , LangChain , vLLM等LLaMA生态
目前已开源的模型：Chinese-LLaMA-2-7B, Chinese-Alpaca-2-7B
