Obejrzałem dziśfascynującą rozmowę na kanale „Bunkier Nauki”, w której gościem był profesor Andrzej Dragan - fizyk teoretyczny, artysta i popularyzator nauki. Dyskusja dotyczyła tego, czy sztuczna inteligencja zastąpi fizyków, ale wnioski, które z niej płyną, sięgają znacznie głębiej - do samej natury naszej kreatywności i rozumienia świata. Oto moje przemyślenia po tym materiale.
„To tylko przewidywanie kolejnego słowa” - Często słyszymy zarzut, że modele językowe (LLM) to nic innego jak zaawansowane autouzupełnianie tekstu - że one nie „myślą”, a jedynie przewidują kolejne słowo. Andrzej Dragan w swoim stylu odbija piłeczkę, zauważając, że dokładnie to samo robimy my, prowadząc rozmowę. Mówimy sekwencyjnie, słowo po słowie, budując narrację.
Dragan stawia odważną tezę: wszystko, co kiedykolwiek powiedział lub napisał Albert Einstein, również można opisać pewnym, choć niezwykle skomplikowanym, rozkładem prawdopodobieństwa. Różnica między Einsteinem a modelem językowym nie leży w samej mechanice „przewidywania słów”, ale w jakości tego rozkładu prawdopodobieństwa.
Geniusz tkwi w analogii - Jednym z najciekawszych wątków rozmowy było wyjaśnienie, jak właściwie „myślą” sieci neuronowe. W uproszczeniu: badają one kąty między wektorami informacji, szukając podobieństw. To nic innego jak dostrzeganie analogii. I tutaj Dragan uderza w sedno: mówienie, że to „tylko” dopasowywanie wzorców (pattern matching), jest brakiem szacunku dla naszej własnej historii.
Wielkie przełomy naukowe brały się właśnie z łączenia kropek. Newton połączył spadające jabłko z ruchem Księżyca. Einstein oparł Ogólną Teorię Względności na analogii spadającej windy. Jeśli sztuczna inteligencja opiera się na kaskadach analogii - analogii między analogiami - to realizuje proces, który jest fundamentem ludzkiego geniuszu,.
Kiedy uczeń przerasta mistrza - Dragan zwrócił uwagę na istotną zmianę w trenowaniu AI. Wcześniejsze modele uczyły się poprzez imitację tekstów z internetu. Nowe modele, podobnie jak programy szachowe typu AlphaZero, uczą się coraz częściej poprzez „grę z samym sobą” (reinforcement learning),. Nie naśladują już ludzi, lecz są nagradzane za poprawny wynik.
Dzięki temu AI potrafi rozwiązywać problemy matematyczne, których nie ma w podręcznikach - co udowodniły niedawne sukcesy modeli na poziomie olimpiad matematycznych. Sam profesor przyznał, że modele językowe pomogły jemu i jego studentom przełamać matematyczną trudność w pracy nad mechaniką kwantową, sugerując pomysł, który pozwolił dokończyć dowód.
Paradoks zrozumienia (Czyli problem żaby) - Czy skoro stworzyliśmy te sieci, to wiemy, jak działają? I tak, i nie. Dragan użył świetnej metafory biologicznej. Rozumiemy proces ewolucji (dobór naturalny), który doprowadził do powstania żaby czy człowieka. Ale to nie znaczy, że potrafimy napisać „instrukcję obsługi” żaby atom po atomie.
Tak samo jest z AI: rozumiemy algorytm treningu (propagację wsteczną), który jest krótki i prosty, ale nie rozumiemy wynikowej struktury sieci, która ma miliardy parametrów,. Mamy do czynienia z narzędziem, które działa, choć nie do końca wiemy, co dzieje się w jego „wnętrzu”.
Czy fizycy stracą pracę? - Mimo zachwytu nad możliwościami AI, Dragan jest sceptyczny co do szybkiego zastąpienia fizyków przez maszyny. Dlaczego? Ponieważ fizyka jest nauką doświadczalną. Możemy wymyślać teorie (i AI może w tym pomóc), ale ostatecznym sędzią jest eksperyment. Obecnie barierą w fizyce nie jest brak teorii, ale trudność w ich weryfikacji empirycznej,. AI nie przeprowadzi za nas eksperymentu w rzeczywistym świecie.
Ciekawość zamiast strachu - To, co najbardziej uderzyło mnie w postawie profesora Dragana, to brak lęku. Gdy padło pytanie o zagrożenia ze strony AI, odpowiedział, że nawet gdyby było to niebezpieczne, jego ciekawość fizyka wzięłaby górę - po prostu chciałby zobaczyć, co się stanie.
Na koniec Dragan zapytany, jakie pytanie zadałby superinteligentnej AI (AGI), odpowiedział w sposób niezwykle pokorny: zapytałby, o co w ogóle warto pytać na naszym obecnym, „marnym” poziomie rozumienia rzeczywistości. I chyba z tą pokorą warto podejść do nadchodzącej rewolucji.