델타 규칙 대 그래디언트 강하?

그래디언트 디센트와 델타 규칙의 차이점은 무엇입니까?델타 규칙 대 그래디언트 강하?

2011-02-04 user602774

http://en.wikipedia.org/wiki/Delta_rule –

http://en.wikipedia.org/wiki/Gradient_descent –

그래, 내가 그 기사를 읽었지 만, 그들은 내가 이해하기에 너무 앞서 있습니다. 누군가는 이것에 대해 약간의 빛을 비춰 줄 수 있습니까? – user602774

계산하지 않음 : 델타 규칙은 퍼셉트론 네트워크의 가중치로 인한 오류를 최소화하기 위해 그래디언트 디센트를 사용합니다.

그라디언트 디센트는 목적 함수를 최소화하기 위해 매개 변수 벡터를 점진적으로 변경하는 일반적인 알고리즘입니다. 이것은 최소의 저항 방향, 즉 가장 큰 (네거티브) 구배를 갖는 방향으로 이동시킴으로써이를 수행한다.

이 방향은 목적 함수의 미분을 취함으로써 알 수 있습니다. 그것은 언덕이 부드러운 언덕에 대리석을 떨어 뜨리는 것과 같습니다. 지역 최저 가격만을 보증합니다. 따라서 델타 규칙은 일반 알고리즘의 그래디언트 디센트를 사용하는 특정 알고리즘입니다.

2011-02-08 04:35:30

답변