Ostatnio miałem okazję obejrzeć niezwykle fascynującą rozmowę na kanale „This Is IT”, w której Maciej Kawecki przepytywał Łukasza Kaisera - jednego z kluczowych naukowców OpenAI. Jeśli to nazwisko nic wam nie mówi, to wiedzcie jedno: Kaiser jest współautorem pracy „Attention Is All You Need”, która zdefiniowała rozwój AI na ostatnie lata i doprowadziła do powstania ChatGPT.
Po seansie mam głowę pełną przemyśleń. Okazuje się, że nawet twórcy tej technologii nie do końca wiedzą, co tak naprawdę stworzyli, a przyszłość, która nas czeka, może wyglądać zupełnie inaczej, niż przewidują nagłówki gazet. Oto moje kluczowe wnioski.
Paradoks twórcy: Zbudowaliśmy to, ale nie wiemy, jak działa
To był dla mnie największy szok. Wydawałoby się, że inżynierowie z OpenAI mają pełną kontrolę nad swoim dziełem. Tymczasem Kaiser przyznaje wprost: „trochę wiemy, a trochę nie wiemy”. Owszem, znają mechanizm działania poszczególnych warstw sieci neuronowej, bo sami je zbudowali, ale nie potrafią przewidzieć, co wyniknie z ich połączenia z ogromną ilością danych.
Kaiser użył tu świetnego porównania: to, że wiemy, jak działa pojedynczy neuron czy komórka glejowa w mózgu, nie oznacza, że rozumiemy, jak powstaje myśl. Podobnie jest z AI - to system tak złożony, że jego rezultaty są nieprzewidywalne, zwłaszcza gdy korzysta z niego miliard ludzi.
Czy tekst wystarczy, by zrozumieć ból?
Zastanawiało mnie zawsze, czy maszyna może „rozumieć” świat, nie mając ciała. Kaiser zauważa, że to właśnie generalizacja jest największą tajemnicą. Modele uczą się pojęć takich jak „kot” czy „ból” wyłącznie z tekstu, nigdy nie widząc zwierzęcia ani nie czując cierpienia. Mimo to potrafią o nich rozmawiać w sposób sensowny.
Okazuje się, że sama moc obliczeniowa ma tu kluczowe znaczenie. Im większa moc, tym model lepiej generalizuje, a jego „rozumowanie” staje się bliższe ludzkiemu. To dowód na to, że Internet jako źródło wiedzy o świecie okazał się wystarczający, by maszyna zbudowała sobie spójny obraz rzeczywistości.
Koniec ery LLM-ów? Nadchodzą „modele rozumujące”
W pewnym momencie padło prowokacyjne stwierdzenie: „w pewnym sensie być może LLMy umarły”. Kaiser wyjaśnia, że wchodzimy w nową erę tzw. reasoning models (modeli rozumujących), takich jak o1.
Czym się różnią? Zwykły model wyrzuca z siebie słowa natychmiast. Nowe modele posiadają „wewnętrzny monolog” - zanim odpowiedzą, „myślą”, co pozwala im rozwiązywać skomplikowane zadania matematyczne czy programistyczne. Kaiser sugeruje, że choć wciąż nazywamy je LLM-ami, jest to technologicznie zupełnie nowa kategoria, która może zrewolucjonizować naukę.
Cel na 2028 rok: Zautomatyzowany Naukowiec
Wielu z nas boi się, że AI nas zastąpi. Wizja Kaisera jest jednak inna, bardziej partnerska. Celem OpenAI na najbliższe lata jest stworzenie „Automated Researcher” - systemu, który nie tyle wyręczy naukowców, co drastycznie przyspieszy ich pracę,.
Już teraz widać to w programowaniu. Kaiser zdradził, że jego zespół w OpenAI spędza połowę czasu na kodowaniu z pomocą AI, co jeszcze pół roku temu było niemożliwe, bo modele robiły zbyt wiele błędów,. Jeśli ten sam skok wydajności przeniesiemy na biologię, medycynę czy chemię, praca badawcza zmieni się nie do poznania.
Oglądając ten wywiad, uderzyło mnie, jak bardzo nasze postrzeganie AI jako „tylko statystyki” może być mylne. Owszem, to algorytm, ale jego skala sprawia, że wyłania się z niego nowa jakość. Być może za kilka lat, zamiast pytać czata o przepis na ciasto, będziemy z jego pomocą dowodzić twierdzeń matematycznych, co zresztą najlepsi matematycy, jak profesor Tao, robią już dzisiaj.
Czy to bezpieczne? Kaiser twierdzi, że AI jest kontrolowalne jako maszyna, którą można wyłączyć, ale niekontrolowalne w sensie społecznym - nie da się przewidzieć efektów interakcji miliarda ludzi z tą inteligencją. I to jest chyba najbardziej fascynująca, a zarazem przerażająca lekcja z tego filmu.