逆伝播（Backward Propagation）ってなぁに

16 Dec, 2025

Backward Propagation 略して Backprop

Propagationは「広げていく」とか「増やしていく」っていう意味

挿木もPropagationっていうよぃ

Backpropのやり方

$J (a, b, c) = 3 (a + b c)$

みたいな関数があったとして

現時点の座標は

$a = 5$

$b = 3$

$c = 2$

ここから、

aをちょっと動かしたらJがどうなるか

bをちょっと動かしたらJがどうなるか

cをちょっと動かしたらJがどうなるか

、を知りたい

$u = b c$

$v = a + u$

$j = 3 v$

と置きまして

$j = 3 v$ だから

vをちょっと動かしたら

$d J / d v = 3$

で、Jは3倍動く

$j = 3 (a + u)$ だから

aをちょっと動かしたら、チェーンルールで

$d J / d a = (d J / d v) (d v / d a) = 3 \cdot 1 = 3$

で3倍動く

同様にuも

$d J / d u = (d J / d v) (d v / d u) = 3 \cdot 1 = 3$

で3倍動く

$u = b c$ だから

$d u / d b = c = 2$

$d J / d b = (d J / d u) (d u / d b) = 3 \cdot 2 = 6$

で、bがちょっと動いたらJは6倍動く

同様に

$d u / d c = b = 3$

$d J / d c = (d J / d u) (d u / d c) = 3 \cdot 3 = 9$

で、cがちょっと動いたらJは9倍動く

まとめると、

aをちょっと動かしたらJは3倍うごく

bをちょっと動かしたらJは6倍うごく

cをちょっと動かしたらJは9倍うごく

というわけでJに対する影響度がわかる