Sieci neuronowe — fizyka za sztuczną inteligencją

Co widzisz w symulacji?

Kropki to węzły sieci (neurony), a linie — połączenia między nimi (sprzężenia). Przy niskim sprzężeniu $J$ stany węzłów wyglądają na przypadkowe — to szum, choć w tej symulacji jest on w pełni deterministyczny. Gdy zwiększasz $J$ kolejne węzły „zatrzaskują się" w stanie zgodnym z zapisanym wzorcem, a cała sieć zbiega do uporządkowanego kształtu — to wizualny odpowiednik dążenia układu do stanu o niskiej energii.

Fizyka magnetyzmu → sieć Hopfielda (1982)

John Hopfield wykorzystał fizykę opisującą, jak momenty magnetyczne atomów układają się w ciałach stałych — tzw. model spinowy, znany z fizyki magnetyzmu — do zbudowania sieci neuronowej zdolnej zapamiętywać i odtwarzać wzorce (sieć Hopfielda). Każdy neuron, jak spin w magnesie, przyjmuje jeden z dwóch stanów, a sieć „szuka" konfiguracji o najniższej energii, która odpowiada zapamiętanemu wzorcowi:

gdzie $s_i \in \{-1,+1\}$ to stan węzła (neuronu), a $w_{ij}$ — siła sprzężenia między węzłami $i$ i $j$ (ustalana regułą Hebba, na podstawie zapamiętywanych wzorców). Sieć taka znajduje zastosowanie m.in. w analizie obrazów.

Fizyka statystyczna → maszyna Boltzmanna (Hinton, 1983–1985)

Geoffrey Hinton poszedł krok dalej i użył narzędzi fizyki statystycznej (opisującej układy złożone z ogromnej liczby cząstek w danej temperaturze) do stworzenia maszyny Boltzmanna — sieci, która uczy się samodzielnie rozpoznawać charakterystyczne elementy w zbiorze danych. Znalazło to zastosowanie m.in. w klasyfikacji i generowaniu obrazów.

Zaskakujący Nobel — z fizyki, dla podstaw sztucznej inteligencji

W 2024 r. Hopfield i Hinton otrzymali Nagrodę Nobla z FIZYKI (nie z informatyki!) „za fundamentalne odkrycia i wynalazki umożliwiające uczenie maszynowe za pomocą sztucznych sieci neuronowych". To zaskakujące połączenie dziedzin: ich prace z lat 80. XX w., zakorzenione w fizyce magnetyzmu i fizyce statystycznej, położyły fundamenty pod rewolucję uczenia maszynowego, która na dobre rozpoczęła się dopiero ok. 2010 r.

Po co Ci to na maturze:

To dobry przykład na to, jak te same narzędzia matematyczne — fizyka statystyczna, energia układu, dążenie do stanu równowagi — opisują zarówno układy czysto fizyczne (spiny w magnesie), jak i pozornie odległe od fizyki układy złożone, np. sieci neuronowe. Jeśli w zadaniu pojawi się model spinowy albo pytanie o stan równowagi (minimum energii) układu wielu oddziałujących elementów — to właśnie ten sam aparat pojęciowy.

Zapamiętaj: Hopfield (1982) użył modelu spinowego z fizyki magnetyzmu do budowy sieci zapamiętującej wzorce; Hinton (1983–1985) użył fizyki statystycznej do stworzenia maszyny Boltzmanna rozpoznającej wzorce w danych. Za te prace obaj dostali w 2024 r. Nagrodę Nobla — z fizyki, nie z informatyki.