在大语言模型 (LLM) 快速发展的今天，注意力机制 (Attention Mechanism) 始终是核心技…

1. 为什么使用 RAG 大语言模型 (LLM) 虽然在海量数据上训练，但并不包含我们的私有数据。为了让 LL…

最新更新，模型是 Llama 3.1 70B lora 微调，纯粹为了刷榜。实际使用上只是 reflectio…

这里简单记录 dynamically_quantize_per_channel 中对称量化实现。更详细的量化知…

源码来源于:meta-llama/llama3 1.RMSNorm RMSNorm（Root Mean Squ…

Baichuan ChatGLM ChatGLM1 ChatGLM2 ChatGLM3 LLama Qwen …

Qwen 和 Qwen-VL web 部署 1. 安装环境 项目开源地址： 这里不拉取整个仓库，只使用相应的 …

采用 gemini 模型实现语言学习模型（llm）的 SQL 问答功能，将自然语言转化为 SQL 语句（即 n…

1. 导入 pdf 这里使用 PyPDF2 来读取 pdf, 而不使用 from langchain.docu…

Chatglm 论文地址:GLM: General Language Model Pretraining wi…