Gradiente Descendente

Descrição

Computação Notas sobre Gradiente Descendente, criado por Letícia Flauzino em 15-04-2018.
Letícia Flauzino
Notas por Letícia Flauzino, atualizado more than 1 year ago
Letícia Flauzino
Criado por Letícia Flauzino mais de 6 anos atrás
13
0

Resumo de Recurso

Página 1

Para estimar os parâmetros θ da nossa função hipótese, usamos o Gradiente Descendente. Precisamos que o custo (erro) de nossa função seja o mais próximo de 0 possível, ou seja, se supormos uma função que use como parâmetros θ_0 e θ_1, podemos plotar um gráfico tridimensional com θ_0 no eixo x, θ_1 no eixo y e o resultado da função de custo para os parâmetros θ específicos no eixo z, para visualizar onde essa função se aproxima mais de 0. Para isso, pegamos a derivada da nossa função de custo. A inclinação da tangente no ponto nos dirá em que direção no gráfico seguir para alcançar o ponto mais baixo de nossa função, e assim vamos dando passos. O tamanho de cada passo é determinado pelo parâmetro α, que é chamado de taxa de aprendizagem. Assim, o algoritmo para o gradiente descendente é:   repeat until convergence: θ_j := θ_j - α (d/(dθ_j) J(θ_0, θ_1)   Assim, a cada iteração os parâmetros θ_0 θ_1 devem ser atualizados simultaneamente. Também devemos ajustar nosso parâmetro α para que o algoritmo converja e o faça num tempo razoável.

Semelhante

História da informática
Renato Costa
QUESTIONÁRIO DE INFORMÁTICA: SISTEMAS OPERACIONAIS
anapaulabrasilam
Organização e Arquitetura de Computador
Rodrigo Gomes
ARQUITETURA DE COMPUTADORES
wesley.silva.ads
LINGUAGEM DE PROGRAMAÇÃO I
ailtonmidias
Lógica de Programação- Dados
Gabriela Alves
Introdução à Lógica de Computação
Joselaine Frantz
FlashCard sobre Pensamento Computacional
Suéllen Martinelli
História da Computação - Anos 70 a 2000
valeriabarbosa67
Introdução a Banco de dados
Ícaro Matheus