LLama实战本地CPU推理大语言模型-C++开发实战资源介绍:
│ 1-1.课程介绍_
│ 1-2.推演程序演示，基于130亿参数模型_
│ 2-1.llama模型分析和训练数据分析_
│ 2-2.git和msys2安装和llama模型下载_
│ 2-3.llama推理测试程序演示_
│ 3-1.llama.cpp构建环境说明_
│ 3-2.visutal_studio_2022安装_
│ 3-3.llama.cpp构建和项目分析_
│ 3-4.cmake windows安装二进制版本_
│ 4-1.ggml格式介绍_
│ 4-2.conda在windows中的安装和使用_
│ 4-3.conda的python环境安装_
│ 4-4.llama的pth格式转换为ggml的bin_
│ 4-5.llama量化模型到Q4_0_
│ 5-1.Chinese-LLaMA-Alpaca 中文模型分析和下载_
│ 5-2.Transformers安装和llama模型格式转换_
│ 5-3.合并中文LoRA权重和llama生成全量模型权重_
│ 5-4.使用Transformer和Web图形界面实现推理_
│ 5-5.使用llama.cpp量化和推理中文模型_
│ 6-1.llama参数ctx-size上下文大小相关代码分析_
│ 6-2.predict和batch-size回复数和推理批次代码_
│ 6-3.增加结果多样性-重复惩罚repeat-penalty_
│ 6-4.21温度改变随机性top-k和top-p算法分析_
│ 7-1.开源llamaqt项目分析说明_
│ 7-10.XGptFac工厂类创建_
│ 7-11.基于cmake配置了推理QT项目_
│ 7-12.完成了基于QT的推理交互程序_
│ 7-2.基于llama.cpp的cmake项目配置和模型加载代码实现_
│ 7-3.完成了推理预处理prompt代码_
│ 7-4.完成了推理结果逻辑表采样并输出_
│ 7-5.完成了精简版的推理示例程序_
│ 7-6.xllama接口类图设计说明_
│ 7-7.XGp测试项目和线程启动停止代码完成_
│ 7-8.XGpt用户输入和线程接收和回调反馈完成_
│ 7-9.完成xllama的推理和反馈接口并测试_
