Equações que Aprendem

Ele está baseado em uma matriz, \( W\), de parâmetros treináveis e também num vetor, \( b\), de outros parâmetros treináveis.

e

Estes parâmetros são ditos treináveis, pois eles se alteram durante o treino do perceptron, acumulando misteriosamente o aprendizado da rede, até atingirem um valor ótimo, quando a rede está pronta para desempenhar a tarefa para a qual foi criada.

Os elementos da matriz \( W\) são os pesos do perceptron, enquanto que o vetor \( b\) é o bias ou, em português, o viés. Os elementos de \( b\) são os viéses de cada neurônio.

Para colocar de forma muito simples e direta, o número de linhas de \( W\) é o número de neurônios do Perceptron e o número de colunas é o número de pesos de cada neurônio. Todos os neurônios (da mesma camada) têm o mesmo número de pesos.

Me referi ao perceptron como tijolo de construção da maioria das redes neurais. As redes neurais são construídas com estruturas básicas, chamadas camadas, e o Perceptron é esta camada numa grande maioria das arquiteturas de rede. Além disto, o Perceptron, ele próprio, pode ter camadas como veremos no Capítulo 3.

Veja que se o Perceptron fosse constituído de um único neurônio, então, a matriz, \( W\), representando esta camada seria, de fato, um vetor-linha! Ou seja, \( W\) seria a matriz \( 1\times m\):

Só para dar um exemplo, por incrível que possa parecer, mesmo projetos de Deep Learning, com arquiteturas mais complexas e profundas, mas que realizem classificação binária, provavelmente, estão utilizando um Perceptron com uma única linha de pesos como sua última camada. Este seria o caso de uma rede cujo objetivo fosse ler radiografias ósseas e dizer se elas indicam fraturas ou não. Uma tal rede, bem desenvolvida, poderia ser treinada para identificar fissuras ou fraturas que fossem difíceis de constatar pelo olho humano.

Um perceptron, assim como qualquer outra rede neural, é criado para desempenhar uma tarefa. Ele deve aprender a desempenhar a sua tarefa. Ele deve produzir um resultado, \( z\), condizente com cada elemento, \( x\), ambos em um conjunto, \( D\), de dados ou informações. Dizemos que \( D\) é um conjunto de vetores ou de tensores e que o perceptron é treinado sobre este conjunto. Falaremos mais sobre \( D\) quando chegarmos à Seção O Treino.

Se \( x\in D\) é um dos vetores de treino, então, a resposta, \( y\), do perceptron a este vetor é

O vetor \( x\) é uma das entradas do perceptron e \( y\) é a saída correspondente.

Qualquer das expressões em (6) são, às vezes, chamadas, simplesmente, de linearidade do perceptron.

Abaixo, apresento, rapidamente, duas formas alternativas em que o Perceptron pode ser considerado. O leitor poderá encontrá-las em outros livros, e saber que elas existem poderá alargar a sua capacidade de manipular as ferramentas matemáticas que o descrevem e o modelam. Eu as coloco aqui, de passagem, mas neste livro não as utilizaremos.

É extremamente comum entregar cada um dos valores de \( y\) a uma mesma função de ativação. Esta função de ativação também é conhecida como "não-linearidade", por "quebrar", de algum modo, o comportamento linear que é produzido em 6. Ela pode assumir uma de várias formas comumente utilizadas. No momento, vamos apenas designá-las por um símbolo: \( a\). Assim, em sua forma mais geral, o perceptron de uma camada é

Esta última expressão pode parecer um pouco confusa, no momento, talvez por causa das expressões que estão dentro dos colchetes, mas não estranhe. Ela exibe os símbolos matemáticos que espelham a estrutura conceitual de um Perceptron de uma camada. Ela também mostra como o vetor \( x\) é "absorvido" e processado pela rede. Os vetores \( W_i\) são as linhas de \( W\) e os escalares \( b_i\) são elementos de \( b\). Veja como o vetor \( x\) é processado por cada uma das linhas de \( W\). A equação mostra como o sinal \( x\) "flui" através do perceptron até ser transformado na sua resposta, \( P\).

Procure fixar bem o fato de que \( a\) é um vetor e que seus elementos são funções cujas variáveis independentes são, respectivamente, os elementos do vetor \( y\). Na Subseção, abaixo, coloquei uma tabela com algumas funções de ativação bem conhecidas e utilizadas.

Já dissemos que um perceptron deve aprender a realizar uma certa tarefa e que ele é treinado sobre um conjunto de dados ou informações, \( D\). Este conjunto pode ser considerado um conjunto de duplas ordenadas, \( (x,z)\in D\), de modo que \( z\in Z\subset D\) e \( x\in X\subset D\) são, respectivamente, o conjunto das respostas desejadas e o conjunto dos vetores que representem um domínio qualquer de coisas que nos interesse relacionar com as respostas desejadas.

Nós já vimos que \( x\) é um vetor. A segunda componente da dupla ordenada, \( (x,z)\), é a resposta que desejamos que o perceptron aprenda a dar ao vetor de entrada \( x\). A ordenada \( z\) pode ser um número escalar, um vetor, uma matriz, ou um tensor. Isto vai depender de como codificamos a tarefa, matematicamente. Neste livro, as nossas respostas desejadas, \( z\), serão apenas escalares ou vetores.

Inicialmente, o perceptron dá uma resposta qualquer, \( P\), ao vetor \( x\). Ao longo do treino, esta resposta vai se aproximando da resposta correta ou desejada, \( z\). Verificamos esta aproximação com uma Função de Custo, que indicaremos com o símbolo \( E\), (veremos mais sobre ela na Seção A Função de Custo), a qual nos diz quão longe ou quão perto \( P(x)\) está da resposta desejada \( z\). Ao longo do treino, o valor da Função de Custo vai diminuindo pois \( P(x)\) vai se tornando cada vez mais próxima de \( z\). O nosso objetivo durante um treino é fazer com que o erro vá para zero, ou seja, que a igualdade \( P(x)=z\) seja verdadeira, ou quase verdadeira, pois, normalmente um erro suficientemente pequeno já é o bastante.

Sob certo ponto de vista, este livro inteiro é sobre como reintegrar no Perceptron, durante o treino, a informação contida no erro, \( E\), de modo a fazer o Perceptron acertar cada vez mais em sua tarefa. Isto é, criar o relacionamento que desejamos, \( P(x_i)=z_i\), entre

Há várias funções que podem ser utilizadas como função de custo ou de perda. A escolha depende do projeto e, às vezes, do gosto de quem treine a rede. Na Seção Algumas Funções de Custo, há uma tabela com algumas funções de custo úteis e comumente utilizadas. O importante a saber é que a Função de Custo, seja ela qual for, deve cumprir com a definição matemática de norma, assunto no qual não entraremos neste livro, mas cuja definição pode ser encontrada pelo leitor interessado no Apêndice Norma Sobre Um Espaço Vetorial, junto com uma pequena demonstração de que se uma norma é nula, então o seu argumento também o é.

Veremos na Seção Atualizando os Parâmetros Treináveis que o processo que utilizaremos para aproximar \( P(x)\) e \( z\) baseia-se no gradiente da Função de Erro. Este processo, chamado de Descida do Gradiente ou Descida Estocástica do Gradiente, indica gradualmente a direção do menor valor de \( E\) e, deste modo, também indica o caminho de um menor valor de separação entre \( P\) e \( z\).

Podemos dizer que o Perceptron é um mapeamento que aprende a dar uma resposta \( z\) adequada a cada \( x\) num processo de aprendizado que é realizado durante uma ou várias sessões de treino. Normalmente, várias! Numa sessão de treino, o Perceptron recebe todos os elementos \( x\) de \( D\), um após o outro e, para cada \( x\), calcula-se o \( P(x)\) correspondente. Após isto, calcula-se a função de erro sobre \( P(x)\) e \( z\), de modo que podemos expressa-la assim: \( E(P,z)\). Realiza-se tantas sessões de treino quantas forem necessárias para fazer \( E(P,z)\) suficientemente próxima de zero. Esta é a razão para se exigir que a Função de Erro ou de Custo seja uma norma, pois aí, quando \( E(P,z)\longrightarrow 0\), também será verdade que \( P-z\longrightarrow 0\), ou seja, a resposta da rede estará se tornando igual à resposta desejada.

O aprendizado artificial é um processo de otimização.

O que é otimizado no aprendizado artificial? Uma função que normalmente é chamada de Função de Custo ou de Perda, ou, ainda, Função de Erro! Eu, pessoalmente, a chamo, neste contexto de aprendizado artificial, de Função Pedagógica, uma vez que ela mede o quão distante está a resposta do Perceptron da resposta desejada e, por este meio, sabemos se a rede está aprendendo ou não. É a partir da derivação da Função de Perda que o aprendizado acontece.

Qualquer um que já tenha derivado uma função para, logo em seguida, encontrar o seu máximo ou o seu mínimo, está em perfeitas condições de saber como o aprendizado artificial acontece.

O aprendizado ocorre em uma ou mais sessões de treino, em que os parâmetros treináveis do Perceptron são repetidamente atualizados (Ver Seção O Treino). Estes parâmetros são atualizados a cada passo do treino, ou seja, depois que cada lote de treino é apresentado à rede. Veremos mais sobre o treino em lotes na Seção Treinando Em Lotes.

A descrição de como o aprendizado artificial acontece é a parte mais importante e interessante das redes neurais na opinião deste autor. Sem isto, não há aprendizado de máquina.

Quando vamos à escola, o nosso aprendizado é medido por avaliações. O aprendizado das redes neurais também é aferido por avaliações de desempenho.

A escola do Perceptron é a sessão de treino.

Assim como a nota escolar final é obtida a partir de uma fórmula, as redes neurais também se utilizam de fórmulas que “dão nota” ao seu desempenho.

No caso das redes neurais, tais fórmulas são conhecidas como funções de custo ou de perda ou, ainda, de erro. Neste livro, me refiro a elas muito mais como funções de erro. Elas, de fato, medem o erro cometido pela rede ao tentar prever uma resposta a uma entrada correspondente.

A função de erro pode ter várias formas, mas não abordarei nenhuma forma específica agora, pois estamos interessados no encaixe que a sua forma geral tem nas fórmulas do aprendizado. Neste momento, vamos apenas simbolizar uma função de erro qualquer com a letra \( E\). Na Subseção Algumas Funções de Custo, logo abaixo, é possível encontrar uma tabela com algumas funções de custo.

Há muito o que dizer sobre \( E\) mas, por ora, vamos nos ater aos aspectos operacionais que tornam possível ao perceptron aprender.

A função \( E\) toma como argumento a saída do Perceptron. Então,

Ma, veja, a saída do perceptron depende dos seus parâmetros treináveis, ou seja, \( E\) também depende dos pesos e bias. Então, é mais comum escrevermos

Esta notação é muito útil, pois o aprendizado do perceptron depende da derivada de \( E\) com relação aos seus pesos e bias.

Aqui, precisamos considerar a estrutura compositiva da função de erro,

e, manter em mente que \( a\) e \( y\) são vetores, os dados em 6 e 11, e que \( E\) é uma função real.

Vamos calcular a derivada da função de erro com relação aos pesos do Perceptron. Esta derivada também é conhecida como o gradiente do Erro.

Sabemos que \(\frac{\partial E}{\partial a}\) é o gradiente de \( E\) com relação ao vetor de ativações \( a\), pois \( E\) é uma função real com domínio vetorial. Assim, \(\frac{\partial E}{\partial a}=\nabla_a E\).

A derivada \(\frac{\partial a}{\partial y}\) gera uma matriz. Isto vem do fato de que tanto \( a\) como \( y\) sejam funções vetoriais. Veja o apêndice Derivada de Funções Vetoriais para mais detalhes sobre derivadas de funções vetoriais.

Por esta razão, as derivadas \(\frac{da_i}{d y_i}\) ainda não podem ser calculadas ou completamente reduzidas. Isto acontecerá quando estivermos tratando de exemplos ou de arquiteturas específicas.

Se analisarmos a equação 11, veremos que cada \( a_i\) depende apenas de \( y_i\). Portanto, devemos ter \(\frac{d a_i}{d y_j}=0\) se \( i \ne j\). Portanto, \(\frac{\partial a}{\partial y}\) será uma matriz diagonal. Os elementos, \(\frac{da_i}{d y_i}\), desta matriz diagonal dependerão da forma específica de \( a\).

A diferencial \(\frac{\partial y}{\partial W}\) tem a forma de um vetor-coluna de \( n\) elementos. Só que estes elementos, por sua vez, são matrizes \( n\times m\).

Agora, veja que cada elemento, \( i\), do vetor-coluna que está no segundo membro de 16 é a derivada de uma função real cujos argumentos coincidem apenas com a linha \( i\) de \( W\). Estas funções reais estão definidas na equação 6, de onde sabemos que \( y_i(W_i)=\sum_{j=1}^{m} w_{ij}x_j +b_i\) (Veja o Apêndice As Derivadas de \( y_i\) para relembrar o procedimento de derivação desta equação). Portanto, os elementos do vetor-coluna são matrizes com entradas nulas, com a única exceção de sua linha \( i\).

Vetores-coluna ou vetores-linha de matrizes aparecerão muitas vezes nesta apresentação. Isto decorre do fato de estarmos derivando o erro, \( E\), com relação à matriz inteira, de pesos de uma só vez.

Deste modo, a fórmula 15, que calcula a derivada parcial do erro \( E\) do perceptron com relação aos seus pesos, \( W\), é

Nós, agora, precisamos calcular a derivada de E com relação ao vetor de viéses, \( b\).

De 6, nós vemos que os viéses estão entranhados no nível mais profundo do perceptron, juntamente com os pesos.

Antes, consideramos o erro como função apenas dos pesos. Agora, vamos considerá-los como função apenas dos viéses ou bias.

Pelos cálculos que já fizemos na seção anterior, podemos muito simplesmente escrever.

Se necessário, veja o Apêndice As Derivadas de \( y_i\) para mais considerações sobre o cálculo de \(\frac{\partial y}{\partial b}\).

Por fim, chegamos aonde queríamos: \( \frac{\partial E}{\partial W}\) e \( \frac{\partial E}{\partial b}\) serão utilizados para atualizar os pesos e bias do perceptron. O processo em que isto é feito é chamado de retro-propagação e se baseia na técnica da Descida Estocástica do Gradiente. Esta técnica se baseia, por sua vez, no fato de que \( \frac{\partial E}{\partial W}\) é um vetor gradiente e que, portanto, sempre se orienta na direção da maior taxa de variação de \( E\). Portanto, o seu negativo, \( -\frac{\partial E}{\partial W}\), (ver nas fórmulas 21 e 23) apontará na direção da menor variação. Não entrarei em maiores detalhes sobre este ponto aqui, mas o leitor interessado poderá ler algumas outras poucas observações interessantes e pertinentes ao uso que fazemos, no Apêndice Algumas Observações sobre o Gradiente. Apenas adiantarei que o mencionado sinal negativo é muito importante. Se você já codificou esta fórmula, digamos em Python ou em Tensorflow ou qualquer outra linguagem ou framework, para treinar um Perceptron, mas, por engano, usou um sinal positivo no lugar do negativo, pode constatar que o erro cometido pelo Perceptron de fato só aumenta ao invés de diminuir!

No momento, já temos tudo o que é necessário à apresentação da fórmula que permite que o aprendizado aconteça. Esta fórmula tem tal simplicidade e beleza, que só é igualada por seu poder de tornar possível o aprendizado do Perceptron.

Durante uma sessão de treino, os pesos do Perceptron são atualizados muitas vezes. Cada atualização acontece em um momento, \( t\), do treino. À medida que o treino evolui, os pesos vão sendo alterados na busca de um melhor desempenho, ou seja, na busca de um custo, \( E\), menor. Em um dado momento, \( t\), do treino, o perceptron tem a matriz \( W_t\) de pesos que sofre a adição de \( \Delta W_t\) cujo resultado passa a ser a nova matriz atual de pesos do Perceptron, \( W_{t+1}\).

em que

O símbolo \( \eta\) é chamado de taxa de aprendizagem. É um parâmetro cuja importância está em ditar a cadência do treino, pois com ele é possível ajustar a “velocidade” do treino. No entanto, é difícil saber qual é a velocidade ótima para cada passo do treino de uma rede neural, embora haja orientações gerais e métodos úteis de cálculo, sobre os quais não falaremos neste momento. É um parâmetro de manejo algo delicado como, aliás, são também outros parâmetros definidores de redes neurais. Na prática, valores pequenos como \( \eta=0.01\) ou \( \eta=0.001\) são sempre utilizados como uma primeira alternativa. Outras abordagens alteram o valor de \( \eta\) ao longo do treino de modo que o seu valor vai diminuindo à medida em que o treino avança.

A atualização do bias é feita com fórmulas bem similares as da atualização dos pesos:

em que

Um sinal de entrada, \( x\), "fluirá" através das camadas da rede, entrando na primeira camada, passando por cada uma delas até sair através das funções de ativação da última camada.

Já vimos que um perceptron de uma única camada se define por seus pesos e bias, então, podemos encará-lo como sendo o objeto

Vamos representar o empilhamento de camadas, ou seja, a justaposição de vários perceptrons de uma camada só, simplesmente, assim:

em que

Os sobrescritos em 27 indicam o número da camada a qual pertencem os pesos e bias.

Vamos, por ora, considerar um perceptron de duas camadas, \( P=P_1\rightarrow P_2\). O perceptron 1 tem \( n\) neurônios, enquanto que o perceptron 2 terá \( p\) neurônios. Consideraremos um vetor de entrada, \( x\), com \( m\) elementos.

O perceptron \( P_1\) receberá o sinal \( x\), mas \( P_2\) receberá a saída de \( P_1\), isto é, as funções de ativação, \( a^1\), de \( P_1\).

A saída de \( P_2\) é entregue à função de erro. Ou seja, as funções de ativação, \( a^2\), de \( P_2\) são os argumentos da Função de Erro.

Agora que já ganhamos uma melhor compreensão sobre a estrutura de um Perceptron, vamos, rapidamente, escrever a equação para um, \( P\), com um número qualquer de camadas, \( L\). Utilizamos novamente o símbolo, \( \circ\), de composição de funções.

As reticências, naturalmente, indicam que, em seu lugar podem estar um número qualquer de camadas e cada par \( a^l\circ y^l\) indica os elementos da camada \( l\), a saber, respectivamente, o vetor de ativações cujo argumento é o seu vetor de linearidades, \( a^l( y^l)\).

Com a exceção da linearidade da camada 1, cada outra linearidade, \( L\ge l\ge 2\), tem a seguinte forma

em que \( n_l\) e \( p_l\) são, respectivamente, o número de linhas e de colunas de \( W^l\). Como o número de colunas da matriz \( W^l\) e o número de linhas do vetor \( a^{l-1}\) coincidem, o número de elementos de \( a^{l-1}\) também é \( p_l\).

A linearidade da camada 1 tem a forma muito parecida com a das demais linearidades, com a exceção do seu sinal entrante, \( x\).

A função de erro para o caso de \( L\) camadas é a mesma que a dos demais casos. Ela toma como argumento a saída, \( P\), do Perceptron.

Vamos, a seguir, exibir a fórmula da derivada de \( E\) com relação aos pesos de uma camada \( l\). A sua forma é perfeitamente apreensível quando se tem em vista a expressão 49, pois, a partir disto, sabemos que temos que utilizar a regra da cadeia como método de derivação para obtermos

enquanto que a derivada com relação aos pesos da camada 1, \( W^1\), é

Note mais uma vez, até onde desce o processo de derivação de 50 através das camadas de 46.

Acontece que, por mais belas e elegantes que sejam 50 e 51, em muitos casos, elas não poderiam ser calculadas inteiras a cada passo do treino de um Perceptron de várias camadas!

Quanto mais camadas um perceptron tem, mais longas são 50 e 51. Lembremos que cada derivada nestas fórmulas é uma matriz ou vetor ou, ainda, um vetor de matrizes cujas dimensões podem tomar valores bem altos. Isto torna impraticável o uso destas fórmulas na forma em que estão.

Considere dois cálculos sucessivos, o de \( \frac{\partial E}{\partial W^{l+1}}\) e \( \frac{\partial E}{\partial W^{l}}\). Se fôssemos utilizar a fórmula 50 para estes dois cálculos, teríamos calculado todas as primeiras \( L-(l+1)+1=L-l\) taxas de variação de 50 duas vezes!

Felizmente, há uma solução prática para este problema.

A solução ao problema apresentado na seção anterior é calcular a derivada dos pesos de uma camada, \( l\), aproveitando todos os cálculos já feitos para as camadas \( L\) até \( l+1\). A cada passo na descida pelas camadas, guarda-se o último cálculo realizado na memória.

Vamos fazer uma rápida análise da dimensão das matrizes envolvidas em 66 e, em seguida, efetuar explicitamente os produtos indicados nela. Isto nos dará a imagem do resultado final dos cálculos que temos estado a realizar até este ponto. Além disto, este resultado será utilizado em 20 para a atualização dos pesos e, para isto, é preciso que as dimensões de \( W^l\) e de \( \frac{\partial E}{\partial W^l}\) sejam iguais.

Considerando os elementos estruturais e as camadas indicadas em 66, vamos supor que a camada \( l+1\) tenha \( n\) neurônios, que a camada \( l\) tenha \( p\) neurônios e que o número de elementos do vetor entrante, \( s\), seja \( m\). O vetor \( s\) é o sinal que entra na camada \( l\). Este sinal pode ser tanto o vetor de ativações da camada \( l-1\), como pode ser o vetor \( x\) sobre o qual a rede está sendo treinada. Se a camada \( l\) for a última camada da rede, então, \( s=x\), caso contrário, \( s=a^{l-1}\). Por esta razão, utilizarei o símbolo \( s\) no restante desta Seção para indicar que podemos estar tratando de qualquer um destes casos.

Neste caso, \( \frac{\partial E}{\partial a^l}\) é um vetor linha de \( p\) elementos, \( \frac{\partial a^{l}}{\partial y^{l}}\) é uma matriz quadrada \( p\times p\), enquanto que \( \frac{\partial y^l}{\partial W^l}\) é um vetor-coluna de \( p\) posições cujos elementos são matrizes com a mesma dimensão de \( W^l\), ou seja, \( p\times m\).

Agora, \( \frac{\partial E}{\partial y^{l+1}}\) é um vetor linha de \( n\) elementos, \( \frac{\partial y^{l+1}}{\partial a^{l}}\) é uma matriz \( n\times p\) e, por fim mas não menos importante, \( \frac{\partial E}{\partial W^l}\) é uma matriz com as dimensões de \( W^l\).

Havendo a necessidade, consulte a Seção Derivada de Funções Vetoriais no Apêndice para uma pequena explicação sobre a dimensão de objetos resultantes da derivação de funções vetoriais.

Então, no caso em que \( l=L\), temos um produto de três matrizes com as seguintes dimensões: \( 1\times p\), \( p\times p\) e \( p\times 1\). Isto é o mínimo que esperaríamos para que o produto fosse possível, que é, o número de colunas da matriz à esquerda ser igual ao número de linhas da matriz à direita.

No caso em que \( L>l\ge 1\), temos quatro matrizes com as seguintes dimensões, da esquerda para a direita: \( 1\times n\), \( n\times p\), \( p\times p\) e, por fim, \( p\times 1\). Novamente, temos o mínimo que precisaríamos ter.

Em ambos os casos, a dimensão final \( p\times 1\) é a de um vetor-coluna de \( p\) linhas e \( 1\) coluna, cujas \( p\) posições são matrizes que têm a dimensão de \( W^l\), como já vimos várias vezes até agora. Assim, em ambos os casos, a dimensão \( 1\times 1\) do resultado dos produtos matriciais não é um escalar, mas, antes, uma única matriz que, como vimos, tem a dimensão da matriz de pesos da camada \( l\), ou seja, \( p\times m\).

Então, quando \( l\) é a última camada da rede

É fácil de se perceber que a última linha em 68, e de fato todo o seu desenvolvimento desde 67, é, essencialmente, aquele que foi iniciado em 36, com a exceção dos símbolos do sinal entrante e do número da camada.

O produto externo não é tão comum quanto o produto normal de vetores, mas o seu conceito é tão simples quanto ele. Apresento a sua definição no Apêndice Produto Externo.

Agora, partamos para a explicitação de \( \frac{\partial E}{\partial W^l}\) para uma camada \( l\) qualquer, com exceção da última.

Na equação 39 e seguintes já havíamos visto que a derivada de uma linearidade com relação ao seu sinal de entrada é a matriz de pesos da camada desta linearidade. Então, em 69, já usamos o fato de que \( \frac{\partial y^{l+1}}{\partial a^l}=W^{l+1}\). Continuando,

Até aqui, fizemos o produto indicado de matrizes ou vetores, da esquerda para a direita. O leitor deve acompanhar estes desenvolvimentos bem de perto, já que eles são os responsáveis por produzir as formas matemáticas que tornam a aprendizagem possível em princípio. O vetor-coluna mais à direita é, em verdade o vetor vertical de matrizes, sobre o qual já temos estado a falar. Estas matrizes aparecerão explicitamente, logo abaixo.

A seguir, nós reencontraremos o vetor linha que encontramos na segunda expressão de 70, só que desta vez, ele estará encerrado dentro de uma operação de transposição. Esta expressão transposta é a responsável pela forma final à que chegaremos a abaixo.

Agora, vejamos as fórmulas correspondentes para os bias. Já vimos que a forma de \( \frac{\partial E}{\partial b^l}\) é mais simples que a de \( \frac{\partial E}{\partial W^l}\). Isto acontece pois \( \frac{\partial y^l_i}{\partial b^l}\) são matrizes unitárias e podem ser "desprezadas" no cálculo de \( \frac{\partial E}{\partial b^l}\). Assim, abaixo, apresento as fórmulas relativas aos viéses sem detalhar todo o seu desenvolvimento já que ele é análogo e mais simples do que o que acabamos de fazer.

Assim, a fórmula para os bias, se \( l\) é a última camada, é

Se \( l\) for qualquer outra camada exceto a última, então,

Já vimos em 20, 21, 22 e 23 como a atualização dos pesos e bias é feita. Vamos reproduzir aquelas fórmulas, aqui, carregadas com a informação que recém obtivemos sobre \( \frac{\partial E}{\partial W^l}\) e \( \frac{\partial E}{\partial b^l}\).

ou, ainda,

A primeira vez que vemos esta fórmula, podemos ter alguma surpresa em constatar a presença de pesos da camada \( l+1\) na atualização dos pesos da camada \( l\). E não são só os pesos. Os elementos do vetor \( \frac{d E}{d y^{l+1}}\) estão ali também. A natureza recursiva de \( \frac{d E}{d y^{l+1}}\), como mostrado na segunda equação de 60, nos faz compreender que, implicitamente, ela contém elementos de todas as camadas desde a última camada \( L\).

Isto é devido à retro-propagação do erro. A derivada de \( E\) começa a ser calculada com relação aos elementos da camada \( L\) e vai descendo, em cadeia, até a camada \( l\) desejada, e, no processo, evoca as precisas quantidades adequadas das outras partes da rede.

A fórmula para a atualização dos bias é, mais uma vez, mais simples do que a dos pesos.

ou seja,

Adicionei uma pequena continuação ao que foi exposto nesta seção aos Apêndices, na Seção Aprendizado Contínuo. Nela coloco algumas observações sobre o que pode ser chamado, provisoriamente, de aprendizado contínuo. O leitor interessado a terá à mão, mas ela não é indispensável ao entendimento do que apresentamos neste livro.

O treino em lotes consiste da utilização de lotes de vários vetores de treino, \( X\), ao invés de vetores únicos, \( x\), a cada etapa de propagação. O lote, \( X\) é, em verdade, uma matriz já que os \( x\) são vetores. Tenhamos em mente que um \( j-\text{ésimo}\) vetor \( x\) é a coluna, \( X^j\), da matriz \( X\).

Aqui, mais uma vez, a forma contida em 20 é a receita para a atualização dos pesos e a taxa de variação do erro com relação a eles tem a forma contida em 87, ou seja,

o que, de acordo com 76, nos leva a

É muito fácil de se ver que a equação 90 utiliza a forma de 76. A única diferença é que, agora, marcamos \( E\) e \( s\) com o número do vetor-coluna, \( j\), a que estes elementos correspondem no lote de treino.

As terceira expressão, em 89, nos deixa constatar que as \( \beta\) instâncias da rede, calculadas em paralelo, cada uma sobre um dos elementos do lote, \( X\), utilizam os mesmos elementos da rede. Vemos que elementos "concretos" como os pesos ou elementos dinâmicos como a forma da variação das ativações, por exemplo, são as mesmas para as \( \beta\) parcelas, embora o valor numérico, no caso das variações dinâmicas, possa mudar de acordo com o elemento do lote.

Mais uma vez, a forma da atualização respectiva ao bias é obtida por meio de procedimentos muito análogos aos feitos acima, mas a partir das equações 65, 78 e 88.

e

Comecemos recordando que \( W_i=[w_{i1},\dots ,w_{ip}]\) é o vetor que está na linha \( i\) de \( W\).

Deste modo, também fica claro porquê \( \frac{\partial y_i}{\partial W_l}=0\) com \( i\ne l\). Pois, \( y_i\) simplesmente não depende de \( W_l\) e, assim, \( \frac{\partial (w_{ij}s_j +b_i)}{\partial w_{lj}}\) precisa ser nulo para todo o \( j\).

Considere o vetor de bias \( b=[b_{1},\dots ,b_{n}]\). Desde que \( b\) é um vetor, podemos, naturalmente, calcular \( \nabla_b y_I\) para um \( i=I\) fixo. Só que este cálculo não é o mais adequado a ser realizado.

O Perceptron tem uma estrutura e, de acordo com esta estrutura, ele tem um único viés por neurônio. Isto quer dizer que a cada vetor \( W_I\), numa linha de \( W\), corresponde apenas um escalar \( b_I\). Isto produz o interessante resultado de os elementos não nulos de \( \nabla_b y_i\), com \( 1\le i\le n\), não estarem, de fato, ao longo de uma linha ou de uma coluna de \( \frac{\partial y}{\partial b}\), mas sim ao longo de sua diagonal principal (como mostrado na segunda e terceira expressões em 19)! Assim,

onde \( \frac{\partial y_I}{\partial b_i}=0\) com \( i\ne I\), enquanto que \( \frac{\partial y_I}{\partial b_i}=1\) se \( i=I\). Deste modo, escrevemos \( 1_I\) para indicar que a unidade só ocorre na posição \( I\) e que todas as demais posições são nulas.

A maneira como os pesos da rede são inicializados pode impactar fortemente o sucesso do treinamento. Inicializações inadequadas podem levar ao desvanecimento (gradientes muito pequenos) ou à explosão (valores muito grandes) dos gradientes durante a retropropagação, dificultando ou impedindo o aprendizado. Inicializações modernas foram desenvolvidas para manter os valores das ativações e dos gradientes dentro de faixas estáveis, desde as primeiras até as últimas camadas.

Exemplos:

Normalizar os dados antes de inseri-los na rede é uma prática crítica para melhorar a convergência do treinamento. Dados com escalas muito distintas podem causar instabilidades ou tornar o treinamento lento. Além disso, normalizar as ativações internas das redes (durante o treinamento) ajuda a manter distribuições estáveis e acelera o aprendizado.

Exemplos:

A taxa de aprendizado é o hiperparâmetro mais sensível de uma rede. Ela determina o tamanho dos passos dados no espaço de parâmetros a cada atualização. Se for muito alta, a rede pode nunca convergir; se for muito baixa, o treinamento pode ser lento ou ficar preso em mínimos locais. Otimizadores modernos melhoram esse processo adaptando automaticamente os passos com base nos gradientes acumulados ou momentos anteriores.

Exemplos:

Regularização é o conjunto de técnicas que combatem o overfitting, que ocorre quando a rede memoriza os dados de treinamento e falha em generalizar para novos exemplos. Isso é especialmente importante em redes profundas, com grande capacidade de parametrização. A regularização impõe restrições sobre os pesos ou o comportamento da rede para favorecer modelos mais simples e robustos.

Exemplos:

A arquitetura da rede determina sua capacidade expressiva e sua adequação à tarefa. A escolha da arquitetura afeta diretamente o desempenho, tempo de treinamento e interpretabilidade. Com o avanço das pesquisas, surgiram modelos especializados para diferentes tipos de dados (imagens, texto, som, séries temporais etc.), cada um aproveitando estruturas e propriedades específicas desses dados.

Exemplos:

O desempenho de uma rede está diretamente relacionado à qualidade e representatividade dos dados que ela recebe. Dados ruidosos, incompletos ou enviesados podem comprometer todo o processo de aprendizado. Pré-processar e enriquecer os dados é um passo essencial, e muitas vezes mais importante do que ajustes finos nos hiperparâmetros.

Exemplos:

O modo como a rede é treinada influencia fortemente sua capacidade de convergir para uma boa solução. Técnicas eficazes de treinamento ajudam a evitar problemas como ruído excessivo nas atualizações ou sobreajuste aos dados de treino. Algumas delas são estratégias para parar o treinamento no momento certo ou dividir os dados de forma que as atualizações sejam mais estáveis.

Exemplos:

Acompanhar o comportamento da rede ao longo do tempo é crucial para diagnosticar problemas e guiar decisões. As curvas de perda e acurácia durante o treinamento e a validação revelam sinais de overfitting, underfitting ou erro de modelagem. Além disso, métricas apropriadas ajudam a avaliar corretamente a rede de acordo com o contexto do problema.

Exemplos:

Embora haja um apêndice abordando alguns aspectos do Aprendizado por Transferência, aquele conteúdo está longe de cobrir o assunto e, em verdade, representa muito mais um ensaio feito por este autor. Transfer learning permite reaproveitar conhecimento de uma rede treinada em uma grande base de dados e adaptá-la a uma nova tarefa com menos dados. Isso é extremamente útil quando os dados disponíveis são escassos, mas a tarefa é semelhante a outra já bem explorada. Ele reduz o tempo de treinamento e melhora a generalização, sendo hoje uma prática comum, especialmente em NLP e visão computacional.

Exemplos: