シグモイド関数とどのように分類されるソフトマックスに対処するには?

HowNetビジネスの新しいソースを、元のタイトル:機能分類ビッグPK:S状結腸とソフトマックスは、それぞれ、どのように使用するには?

 

(このような疾患または手書きのデジタル分類に胸部X線など)の分類タスクを実行するためにモデルを設計するとき、8時にはあなたは、(同時選択肺炎及び膿瘍など)複数回答を選択する必要があり、時にはだけ(例えば」数として1つの解答を選択することができます「)。この記事では、生の出力値ソフトマックスシグモイド関数や機能処理分類器を使用する方法について説明します。

知識マップ、分類機能の大きなPK:シグモイドとソフトマックス、それぞれ、どのように使用するには?

ニューラルネットワーク分類器

そこに多くの分類アルゴリズムがありますが、この記事での議論は、ニューラルネットワーク分類器に制限されています。分類問題は、フィードフォワードニューラルネットワークと畳み込みニューラルネットワークなどの異なるニューラルネットワークにより解決することができます。

シグモイド関数やアプリケーション機能ソフトマックス

ニューラルネットワーク分類器は、最終的な結果は、胸部X線検査を発見した4つの出力値肺炎、心肥大に対応し、例えば[-0.5、1.2、-0.1、2.4]のようなベクター、即ち、「生出力値」であります腫瘍や膿瘍。しかし、これらの生の出力値は、それが何を意味するのでしょうか?

出力値は、理解しやすいかもしれ確率に変換されます。「2.4」一見ランダムに比べて、糖尿病に罹患する可能性を理解することは、この文の患者で91%簡単でした。

ソフトマックスシグモイド関数、または、元の関数の出力値は、確率分類器にマッピングすることができます。

図は、元の出力値(青)のシグモイド関数によるニューラルネットワークマッピングは確率(赤)であるフィードフォワードを示します。

知識マップ、分類機能の大きなPK:シグモイドとソフトマックス、それぞれ、どのように使用するには?

その後、プロセスは、ソフトマックス関数を使用して繰り返されます。

知識マップ、分類機能の大きなPK:シグモイドとソフトマックス、それぞれ、どのように使用するには?

示されるように、シグモイド関数及びソフトマックス関数が異なる結果を返します。

その理由は、したがって、結果は確率は必ずしも1との和ではなく、独立しており、シグモイド関数は、それぞれの生出力値を処理する図。0.37 + 0.77 + 0.48 + 0.91 = 2.53です。

対照的に、ソフトマックスの相関関数の出力値は、確率の和は、0.04 + 0.21 + 0.05 + 0.70 = 1.00のように、常に1です。このように、ソフトマックス関数の中で、カテゴリの確率を高めるために、確率が他のカテゴリの対応する減少でなければなりません。

知識マップ、分類機能の大きなPK:シグモイドとソフトマックス、それぞれ、どのように使用するには?

シグモイド関数の応用:

例えば、胸部X線、入院と

胸部X線:胸部X線が同時に種々の疾患を表示することが可能であり、胸部X線ソーターは、従って、様々な症状を表示する必要があります。次の図は、表示肺炎、膿瘍および胸部X線を示し、二つの「1」はラベルの右側の列にあります。

知識マップ、分類機能の大きなPK:シグモイドとソフトマックス、それぞれ、どのように使用するには?

入院 :目标是根据患者的健康档案,判断该患者将来入院的可能性。因此,分类问题可设计为:根据诊断可能导致患者未来入院的病症(如果有的话),对该患者现有的健康档案进行分类。导致患者入院的疾病可能有多种,因此答案可能有多个。

图表 :下面两个前馈神经网络分别对应上述问题。在最后计算中,由Sigmoid函数处理原始输出值,得出相应概率,允许多种可能性并存——因胸部X射线可能反映出多种异常状态,则患者入院的病因可能不止一种。

知識マップ、分類機能の大きなPK:シグモイドとソフトマックス、それぞれ、どのように使用するには?

知識マップ、分類機能の大きなPK:シグモイドとソフトマックス、それぞれ、どのように使用するには?

Softmax函数应用:

以手写数字和Iris(鸢尾花)为例

手 写数字 :在区别手写数字(MNIST数据集:https://en.wikipedia.org/wiki/MNIST_database)时,分类器应采用Softmax函数,明确数字为哪一类。毕竟,数字8只能是数字8,不能同时是数字7。

知識マップ、分類機能の大きなPK:シグモイドとソフトマックス、それぞれ、どのように使用するには?

Iris :Iris数据集于1936年引入(https://en.wikipedia.org/wiki/Iris_flower_data_set),一共包含150个数据集,分为山鸢尾、杂色鸢尾、维吉尼亚鸢尾3类,每类各有50个数据集,每个数据包含花萼长度、花萼宽度、花瓣长度、花瓣宽度4个属性。

以下9个示例摘自Iris数据集:

知識マップ、分類機能の大きなPK:シグモイドとソフトマックス、それぞれ、どのように使用するには?

数据集中没有任何图像,但下图的杂色鸢尾(https://en.wikipedia.org/wiki/Iris_flower_data_set#/media/File:Iris_versicolor_3.jpg),可供你欣赏:

知識マップ、分類機能の大きなPK:シグモイドとソフトマックス、それぞれ、どのように使用するには?

Iris数据集的神经网络分类器,要采用Softmax函数处理原始输出值,因为一朵鸢尾花只能是某一个特定品种——将其分为几个品种毫无意义。

知識マップ、分類機能の大きなPK:シグモイドとソフトマックス、それぞれ、どのように使用するには?

关于“e”的注解

要理解Sigmoid和Softmax函数,应先引入 “e”。在本文中,只需了解e是约等于2.71828的数学常数。

下面是关于e的其他信息:

• e的十进制表示永远存在,数字出现完全随机——类似于pi。

• e常用于复利、赌博和某些概率分布的研究中。

• 下面是e的一个公式:

知識マップ、分類機能の大きなPK:シグモイドとソフトマックス、それぞれ、どのように使用するには?

但e的公式不止一个。其计算方法有多种。

有关示例:https://www.intmath.com/exponential-logarithmic-functions/calculating-e.php

• 2004年,谷歌公司首次公开募股达2,718,281,828美元,即“e百万美元”。

• 维基百科中人类历史上著名的十进制数字e的演变

(https://en.wikipedia.org/wiki/E_%28mathematical_constant%29#Bernoulli_trials),从1690年的一位数字开始,持续到1978年的116,000位数字:

知識マップ、分類機能の大きなPK:シグモイドとソフトマックス、それぞれ、どのように使用するには?

知識マップ、分類機能の大きなPK:シグモイドとソフトマックス、それぞれ、どのように使用するには?

Sigmoid函数和Softmax函数

Sigmoid =多标签分类问题=多个正确答案=非独占输出(例如胸部X光检查、住院)

• 构建分类器,解决有多个正确答案的问题时,用Sigmoid函数分别处理各个原始输出值。

• Sigmoid函数如下所示(注意e):

知識マップ、分類機能の大きなPK:シグモイドとソフトマックス、それぞれ、どのように使用するには?

在该公式中,σ表示Sigmoid函数,σ(zj)表示将Sigmoid函数应用于数字Zj。 “Zj”表示单个原始输出值,如-0.5。 j表示当前运算的输出值。如果有四个原始输出值,则j = 1,2,3或4。在前面的例子中,原始输出值为[-0.5,1.2,-0.1,2.4],则Z1 = -0.5,Z2 = 1.2,Z3 = -0.1,Z4 = 2.4。

所以,

知識マップ、分類機能の大きなPK:シグモイドとソフトマックス、それぞれ、どのように使用するには?

Z2,Z3、Z4 的计算过程同上。

由于Sigmoid函数分别应用于每个原始输出值,因此可能出现的输出情况包括:所有类别概率都很低(如“此胸部X光检查没有异常”),一种类别的概率很高但是其他类别的概率很低(如“胸部X光检查仅发现肺炎”),多个或所有类别的概率都很高(如“胸部X光检查发现肺炎和脓肿”)。

下图为Sigmoid函数曲线:

知識マップ、分類機能の大きなPK:シグモイドとソフトマックス、それぞれ、どのように使用するには?

https://en.wikipedia.org/wiki/Sigmoid_function#/media/File:Logistic-curve.svg

Softmax =多类别分类问题=只有一个正确答案=互斥输出(例如手写数字,鸢尾花)

分類器を構築する場合•、問題を解決するための様々な生の出力値ソフトマックス関数に対処するための唯一の正しい答えがあります。

•ソフトマックス分母機能が異なる確率ソフトマックス関数との間の結合が得られることを意味する元の出力値のすべての要素を組み合わせました。

•次のようにソフトマックス関数が表現されています。

知識マップ、分類機能の大きなPK:シグモイドとソフトマックス、それぞれ、どのように使用するには?

分母に加えて、すべての要因は、元の出力値E ^事のほか、ほとんど差とソフトマックス関数シグモイド関数の組み合わせとして。次のように言い換えると、ソフトマックス機能付き生出力値算出個体(例えばZ1)も計算しなければならないだけZ1、Z1、Z2、Z3及びZ4の分母を計算することができません。

知識マップ、分類機能の大きなPK:シグモイドとソフトマックス、それぞれ、どのように使用するには?

機能のソフトマックス利点は、すべての出力確率の合計が1であるということです。

知識マップ、分類機能の大きなPK:シグモイドとソフトマックス、それぞれ、どのように使用するには?

サンプルは「8」に分割される確率を増大させるような、生出力値ソフトマックス関数を処理する、デジタル手書きの区別は、(割り当てられた他のサンプルの数を減らすことが必要である0,1,2,3,4,5 、6、7及び/又は9)確率。

S状結腸とソフトマックスの他の例

知識マップ、分類機能の大きなPK:シグモイドとソフトマックス、それぞれ、どのように使用するには?

知識マップ、分類機能の大きなPK:シグモイドとソフトマックス、それぞれ、どのように使用するには?

概要

•モデル出力は、ネットワークを使用して計算した生出力シグモイド関数値の非相互排他的なカテゴリであり、同時に複数のカテゴリを選択することができる場合。

•モデル出力は、相互に排他的なカテゴリです、とだけ、元の出力値ソフトマックス関数の計算は、ネットワークを使用してカテゴリを選択した場合。

おすすめ

転載: www.cnblogs.com/xinzhihao/p/11077704.html