Skip to content

TT-JT/BERT-TRAIN

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

2 Commits
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

BERT-TRAIN

some code made for quickly training bert model

实现的功能:bert模型的便捷训练 将整个bert模型训练拆解为多个模块,以便在训练其他模型时可以直接使用

something you must do:

1、修改模型路径 2、修改数据路径 3、给出列名,一般是包括content和label两列 4、训练参数配置 device 训练集占比 batch size epoch 保存的epoch lr lora/qlora参数 5、训练模型保存路径

something you can decide whether use or not

1、训练指定标签种类:只训练label中指定标签的数据

第一版实现

1、训练时可指定使用标签种类 2、训练时的验证集来自传入的数据集划分得到 3、

About

some code made for quickly training bert model

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

 
 
 

Contributors

Languages