当前位置：网站首页>交叉熵损失函数

交叉熵损失函数

2022-07-22 09:24:00 【沙子是沙子】

交叉熵是一个信息论中的概念，它原来是用来估算平均编码长度的。给定两个
概率分布p和q，通过q来表示p的交叉熵为

交叉熵刻画的是两个概率分布之间的距离， p代表正确答案， q代表的是预测值，
交叉熵越小，两个概率的分布约接近

其中： 𝒚𝒊为标签值， 𝑦𝑖′为预值测

假设有一个3分类问题，某个样例的正确答案是（1， 0， 0）
甲模型经过softmax回归之后的预测答案是（0.5， 0.2， 0.3）
乙模型经过softmax回归之后的预测答案是（0.7， 0.1， 0.2）

版权声明
本文为[沙子是沙子]所创，转载请带上原文链接，感谢
https://blog.csdn.net/shazi4399/article/details/121179131