怎样在Python的深度学习库Keras中使用度量

2017年09月04日 由 yuxiangyu 发表 481153 0

接着,创建4个度量在训练周期的折线图。

怎样在Python的深度学习库Keras中使用度量

请注意,度量使用字符串别名值[‘mse’,‘mae','‘mape',‘cos']指定,并使用扩展函数名称将其作为历史对象的键值引用。

我们还可以使用扩展名指定度量,如下所示:
model.compile(loss='mse', optimizer='adam', metrics=['mean_squared_error', 'mean_absolute_error', 'mean_absolute_percentage_error', 'cosine_proximity'])

或者你也可以使用损失函数作为度量

例如,您可以使用均方对数误差(mean_squared_logarithmic_error,MSLE或msle)损失函数作为度量,如下所示:
model.compile(loss='mse', optimizer='adam', metrics=['msle'])

Keras分类度量


以下是可以在Keras中使用的关于分类问题的度量列表。

  • 二进制精度:binary_accuracy,

  • 分类准确度:categorical_accuracy, acc

  • 稀疏分类精度:sparse_categorical_accuracy

  • top k分类精度:top_k_categorical_accuracy(需要指定一个k参数)

  • 稀疏Top k分类精度:sparse_top_k_categorical_accuracy(需要指定一个k参数)


精度是指定好的。

无论你的问题是二进制还是多分类问题,都可以指定“ acc ”度量来报告精度。

下面是一个内置的精度度量演示的二进制分类问题的示例。
from numpy import array
from keras.models import Sequential
from keras.layers import Dense
from matplotlib import pyplot
# prepare sequence
X = array([0.1, 0.2, 0.3, 0.4, 0.5, 0.6, 0.7, 0.8, 0.9, 1.0])
y = array([0, 0, 0, 0, 0, 1, 1, 1, 1, 1])
# create model
model = Sequential()
model.add(Dense(2, input_dim=1))
model.add(Dense(1, activation='sigmoid'))
model.compile(loss='binary_crossentropy', optimizer='adam', metrics=['acc'])
# train model
history = model.fit(X, y, epochs=400, batch_size=len(X), verbose=2)
# plot metrics
pyplot.plot(history.history['acc'])
pyplot.show()

运行这个示例,在每个周期结束时记录精度
...
Epoch 396/400
0s - loss: 0.5934 - acc: 0.9000
Epoch 397/400
0s - loss: 0.5932 - acc: 0.9000
Epoch 398/400
0s - loss: 0.5930 - acc: 0.9000
Epoch 399/400
0s - loss: 0.5927 - acc: 0.9000
Epoch 400/400
0s - loss: 0.5925 - acc: 0.9000

创建一个精度的折线图。

怎样在Python的深度学习库Keras中使用度量

自定义Keras的度量


你还可以定义自己的度量并且在为“metrics”参数调用compile()函数时在函数列表中指定函数名。

我通常喜欢跟踪的度量是RMSE(均方根误差)。

你可以通过检查现有度量的代码来了解如何编写自定义的度量。

例如,下面是Keras中mean_squared_error损失函数和度量的代码。
def mean_squared_error(y_true, y_pred):
return K.mean(K.square(y_pred - y_true), axis=-1)

K是Keras使用的后端。

在该示例、其他的损失函数示例和度量中,这个方法是在后端使用标准数学函数来计算兴趣度量。

例如,我们可以编写一个自定义度量来计算RMSE,如下所示:
from keras import backend

def rmse(y_true, y_pred):
return backend.sqrt(backend.mean(backend.square(y_pred - y_true), axis=-1))

你可以看到函数与添加了sqrt()包含结果的代码MSE相同。

我们可以在我们的回归示例中进行如下测试。请注意,我们只是直接列出了函数名,而不是将其作为Keras的字符串或别名来解决。
from numpy import array
from keras.models import Sequential
from keras.layers import Dense
from matplotlib import pyplot
from keras import backend

def rmse(y_true, y_pred):
return backend.sqrt(backend.mean(backend.square(y_pred - y_true), axis=-1))

# prepare sequence
X = array([0.1, 0.2, 0.3, 0.4, 0.5, 0.6, 0.7, 0.8, 0.9, 1.0])
# create model
model = Sequential()
model.add(Dense(2, input_dim=1, activation='relu'))
model.add(Dense(1))
model.compile(loss='mse', optimizer='adam', metrics=[rmse])
# train model
history = model.fit(X, X, epochs=500, batch_size=len(X), verbose=2)
# plot metrics
pyplot.plot(history.history['rmse'])
pyplot.show()

运行示例记录每个训练周期结束时自定义的RMSE度量。

...
Epoch 496/500
0s - loss: 1.2992e-06 - rmse: 9.7909e-04
Epoch 497/500
0s - loss: 1.2681e-06 - rmse: 9.6731e-04
Epoch 498/500
0s - loss: 1.2377e-06 - rmse: 9.5562e-04
Epoch 499/500
0s - loss: 1.2079e-06 - rmse: 9.4403e-04
Epoch 500/500
0s - loss: 1.1788e-06 - rmse: 9.3261e-04

在运行结束时,创建自定义RMSE度量的折线图。

怎样在Python的深度学习库Keras中使用度量

你自定义度量函数必须对Keras内部数据结构进行操作,这些内部数据结构可能会因使用的后端不同而有所差别(例如,在使用tensorflow时为tensorflow.python.framework.ops.Tensor),而不是直接使用原始yhat值和y值。

因此,我建议尽可能使用后端数学函数来保持一致性和执行速度。

拓展阅读


如果你想学的更多,可以访问以下的资源。

  • Keras度量API文档:https://keras.io/metrics/

  • Keras度量源代码:https://github.com/fchollet/keras/blob/master/keras/metrics.py

  • Keras Loss API文档:https://keras.io/losses/

  • Keras Loss 源代码:https://github.com/fchollet/keras/blob/master/keras/losses.py


总结


在本教程中,你已经学会如何在训练深度学习模型时使用Keras度量。

具体来说,你学到了:

  • Keras度量如何原理,以及如何配置模型以在训练期间报告度量。

  • 如何使用Keras内置的分类和回归度量。

  • 如何有效地定义和报告自定义度量,同时训练的深度学习模型。

欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
写评论取消
回复取消