英文

finbert-tone-finetuned-fintwitter-classification

此模型是对 yiyanghkust/finbert-tone 数据集进行的fine-tuned版本,它在评估集上取得以下结果:

  • 损失:1.4078
  • 准确率:0.8840
  • F1值:0.8838
  • 精确度:0.8838
  • 召回率:0.8840

模型描述

模型用于确定给定推文的金融情绪。考虑到类别标签的不平衡分布,权重进行了调整,以关注采样较少的标签,从而提高整体性能。

预期用途和限制

需要更多信息。

训练和评估数据

需要更多信息。

训练过程

训练超参数

在训练过程中使用了以下超参数:

  • 学习率:2e-05
  • 训练批大小:16
  • 评估批大小:16
  • 种子:42
  • 优化器:Adam,beta值为(0.9,0.999),epsilon为1e-08
  • lr_scheduler_type: linear
  • 训练轮次:20
  • mixed_precision_training: Native AMP

训练结果

Training Loss Epoch Step Validation Loss Accuracy F1 Precision Recall
0.6385 1.0 597 0.3688 0.8668 0.8693 0.8744 0.8668
0.3044 2.0 1194 0.3994 0.8744 0.8726 0.8739 0.8744
0.1833 3.0 1791 0.6212 0.8781 0.8764 0.8762 0.8781
0.1189 4.0 2388 0.8370 0.8740 0.8743 0.8748 0.8740
0.0759 5.0 2985 0.9107 0.8807 0.8798 0.8796 0.8807
0.0291 6.0 3582 0.9711 0.8836 0.8825 0.8821 0.8836
0.0314 7.0 4179 1.1305 0.8819 0.8811 0.8812 0.8819
0.0217 8.0 4776 1.0190 0.8811 0.8813 0.8816 0.8811
0.0227 9.0 5373 1.1940 0.8844 0.8832 0.8838 0.8844
0.0156 10.0 5970 1.2595 0.8752 0.8768 0.8801 0.8752
0.0135 11.0 6567 1.1931 0.8760 0.8768 0.8780 0.8760
0.009 12.0 7164 1.2154 0.8857 0.8852 0.8848 0.8857
0.0058 13.0 7761 1.3874 0.8748 0.8759 0.8776 0.8748
0.009 14.0 8358 1.4193 0.8740 0.8754 0.8780 0.8740
0.0042 15.0 8955 1.2999 0.8807 0.8800 0.8796 0.8807
0.0028 16.0 9552 1.3428 0.8802 0.8805 0.8817 0.8802
0.0029 17.0 10149 1.3959 0.8807 0.8807 0.8810 0.8807
0.0022 18.0 10746 1.4149 0.8827 0.8823 0.8824 0.8827
0.0037 19.0 11343 1.4078 0.8840 0.8838 0.8838 0.8840
0.001 20.0 11940 1.4236 0.8823 0.8823 0.8825 0.8823

框架版本

  • Transformers 4.25.1
  • Pytorch 1.13.0+cu116
  • Datasets 2.8.0
  • Tokenizers 0.13.2