Undergraduate
數學與統計

softmax

0

48

0

nini_520_

nini_520_

コメント

コメントはまだありません。

ノートテキスト

ページ1:

den x
人
dx
den(a+b)
2.-
da
T
我今天有一群數字
A set of number S
我要怎麼算最大值 有一個
x
den (K) dk
where
k=a+b迷之方法
dk
da
a+b
= K Ja
3、en (e(x)) = x
d en (e(x))
= 1
=
a+b
d (e(a)+ab))
= e(a)
da
x
4.
dx
d en (e(a)+e(b))
den kdk
x max(S') =ln(e(s)+e(s2)
+... e (Sn))
(當然之所以這東西是人
\max的原因是個坑???)
5.
ela
da
dk
da
e(a)+e(6)
max
對於max的
貢獻
兩個世界
P
with in ON I
如果考慮
ΣP = 1
選出max
同學
被選為Max同學
/的機率
任意兩兩不相交事件E、E的可數序列滿足
然後對這個方法做梯度的意
思
痾 要想像喔 我現在
有一個函數 max (
嘛 他這個東西的輸入是
一個 set of number 嘛就
是想說他是 an array of
number (無序)
P(EUER U--)=2P(E)
不管 我的輸出會是 個
值嘛 所以是 R^n-> RI 的
函數
取梯度就是 dim i對最大
值的貢獻(dimi的微小改
變量 如何改變最大值)
News