大模型-编程基础 常见依赖库几功能

知名仓库

平滑量化
量化技术Quantization原理学习

常用依赖包

pip install torch
pip torchdata  # 帮助 torch 加载数据库
pip install transformers 

# 用于微调的依赖包
pip install loralib
pip install peft

# 用于模型打分的依赖包
pip install  evaluates # 计算ROUGE 分值
pip install rouge_score # 计算ROUGE 分值

torch

PyTorch是一个开源的深度学习框架，由Facebook的AI研究团队于2016年发布。它提供了丰富的工具和库，用于构建、训练和部署深度神经网络模型。PyTorch采用动态计算图的设计，使得构建和调试模型变得直观而灵活。它的自动求导功能也使得实现反向传播算法变得简单，是训练深度学习模型的关键组件。后续会有相关章节，具体介绍pyTorch的相关内容。

1. 使用pytorch 进行张量运算
2. 使用pytorch 进行神经网络的构建

数据库相关

数据处理相关

import

模型微调小关

pip install loralib
pip install peft

性能评估相关