Capítol 03 · multicapa
Xarxa neuronal
Diverses neurones en equip.
La sortida d’una neurona alimenta la següent. Les primeres capes solen veure coses simples, com ratlles; les del mig, formes; les últimes, un nombre o una decisió. I hi ha un truc que ho canvia tot: no escrivim la regla a mà. Donem exemples —per exemple, el color del text sobre un fons— i la xarxa aprèn sola.
- Què és
- Una funció: entrades, una capa oculta que processa, una sortida. No programes l’interior. Dónes exemples i l’aprenentatge ajusta els pesos. XOR és la joguina; el color del text, el cas de veritat.
- Quan sorgeix
- Anys 80. Descobreixen com ensenyar a moltes capes alhora: l’error es reparteix cap enrere, neurona a neurona (retropropagació). S’acaba l’ajust a mà.
- Per què sorgeix
- Hi ha problemes fàcils per a tu i difícils d’escriure com if. Blanc o negre sobre un fons. Gos o plàtan. XOR. Una ratlla no basta: cal un equip, i exemples.
Guia, pas a pas 1 / 4
Diverses neurones alhora
Xarxa de tres capes
Cada cercle és un perceptró. La capa oculta inventa coordenades noves on XOR sí que es pot tallar amb una recta.
Encert XOR 50% · Pèrdua MSE 0.329 · 0
| x₁ | x₂ | XOR | y |
|---|---|---|---|
| 0 | 0 | 0 | 0.25 |
| 0 | 1 | 1 | 0.20 |
| 1 | 0 | 1 | 0.25 |
| 1 | 1 | 0 | 0.20 |
Una pregunta per assegurar
Què hi ganya la xarxa si posa neurones al mig?
Tria una opció. No es guarda res; és només per pensar.
Una idea que sovint confon
«La xarxa entén XOR.»
Ajusta 13 nombres fins que l’error baixa. No hi ha cap concepte de «o exclusiu» a dins: hi ha una superfície que, vista de fora, encerta.
Si t’endús una sola idea
La capa oculta no és misteri: són perceptrons que fabriquen pistes noves. XOR es torna fàcil quan algú primer pregunta «n’hi ha exactament una?».
La teva primera xarxa
El color del text
Fàcil per a tu, difícil d’escriure com if. La xarxa és una funció: tres entrades (R, G, B), una oculta, una sortida. 0 és text negre; 1, blanc. No programes la lògica. Dónes exemples. Això és .
Capa a Capa
text blanc · 0.66
R 0.15 · G 0.39 · B 0.92
Pesos a l’atzar. Encara no ha vist els exemples. Entrena.
Exemples · 6
- W
- K
- W
- K
- W
- K
W = text blanc. K = text negre. Més exemples, millor. Si un groc falla, afegeix-lo.
Una pregunta per assegurar
Com ensenyes a la xarxa el color del text?
Tria una opció. No es guarda res; és només per pensar.
Una idea que sovint confon
«Cal programar tots els colors.»
En dónes uns quants. Generalitza. Si falla, afegeixes el cas i tornes a entrenar. La qualitat surt de la quantitat i de la qualitat dels exemples.
Si t’endús una sola idea
Una xarxa és una funció. L’ no escriu l’interior: mou cada amb exemples.
Seguir al capítol següentLLM