Właśnie skończyłem oglądać debatę, która - nie będę ukrywał - zostawiła mnie z mętlikiem w głowie, ale takim pozytywnym, zmuszającym do myślenia. Na kanale "This Is IT" Macieja Kaweckiego spotkały się dwa wybitne umysły: prof. Andrzej Dragan (fizyk, który lubi zadawać trudne pytania) i Wojciech Zaremba (współzałożyciel OpenAI, człowiek, który dosłownie buduje tę technologię).
Rozmowa dotyczyła tego, czy sztuczna inteligencja nas zdominuje i ile tak naprawdę rozumiemy z tego, co tworzymy. Oto kilka najciekawszych wniosków, które wyciągnąłem z tego spotkania.
Programowanie czy ogrodnictwo?
Zawsze wydawało mi się, że informatycy dokładnie wiedzą, co dzieje się w kodzie, który napisali. Okazuje się, że w przypadku nowoczesnej sztucznej inteligencji (AI) sprawa nie jest taka prosta. Wojciech Zaremba użył genialnego porównania: tworzenie sieci neuronowych jest bliższe hodowaniu roślinki niż klasycznemu programowaniu,.
Inżynierowie przygotowują „algorytmy treningowe” (czyli dbają o nawożenie, podlewanie i nasłonecznienie), ale to, jak ta „roślina” ostatecznie wyrośnie i jak dokładnie działa w środku, nie jest w pełni zrozumiałe. Andrzej Dragan dorzucił do tego swoje „trzy grosze” jako fizyk. Powiedział, że rozumiemy mechanizmy ewolucji, które stworzyły żabę, ale nie do końca wiemy, jak działa sama żaba - podobnie jest z AI. Wiemy, jak się uczy, ale nie wiemy, dlaczego podejmuje konkretną decyzję,,.
Czy AI wie, że istnieje?
To był jeden z najciekawszych momentów dyskusji. Czy maszyna może być samoświadoma? Zaremba podał przykład z gier komputerowych. Jeśli AI gra z innymi graczami, musi stworzyć sobie w „głowie” ich model, żeby przewidzieć ich ruchy. Jeśli to robi, to w pewnym momencie zaczyna budować też model samej siebie - po to, by wiedzieć, czy wygra starcie, czy ma wystarczająco dużo „energii”,. To budowanie reprezentacji samego siebie można nazwać formą samoświadomości.
Dragan jednak studził emocje, wprowadzając ważne rozróżnienie. Czym innym jest posiadanie informacji o sobie (samoświadomość), a czym innym „odczuwanie” (świadomość/consciousness). To, że komputer wie, że ma awarię, nie znaczy, że „czuje ból” tak jak my, gdy boli nas ząb,. Mimo to, obaj panowie zgodzili się, że granica jest płynna, a w środowisku naukowym panuje spór - jedni eksperci twierdzą, że w AI jest już iskra świadomości, inni, że to tylko „stochastyczna papuga”.
Koniec dominacji człowieka?
Tutaj zrobiło się trochę strasznie, a trochę fascynująco. Andrzej Dragan stwierdził wprost: nie potrafi sobie wyobrazić przyszłości, w której długofalowo człowiek pozostanie stroną dominującą,. Dlaczego? Bo nasz rozwój biologiczny jest powolny, a rozwój AI - błyskawiczny.
Zaremba jest większym optymistą. Widzi przyszłość, w której AI pomaga nam realizować marzenia, a ludzie żyją pełnią życia, podczas gdy maszyny rozwiązują problemy. Mówił o poziomie, na którym AI mogłaby zarządzać firmą skuteczniej niż człowiek. Jednak padła też prognoza, która daje do myślenia: kwestią około 6 lat może być stworzenie modeli, które w chwilę rozwiążą zadania wymagające od człowieka 100 lat myślenia,.
AI jako Einstein?
Zastanawialiście się, czy sztuczna inteligencja może dokonać przełomowych odkryć naukowych, np. wymyślić nową teorię względności? Dragan zauważył, że ludzie mają problem z kreatywnością i często odkrywają coś dopiero, gdy „uderzą nosem w ścianę”.
Tymczasem AI już pokazuje, że potrafi myśleć nieszablonowo. Przywołano słynny ruch nr 37 w grze Go, gdzie algorytm AlphaGo wykonał ruch, którego żaden ludzki mistrz by nie wymyślił, a który okazał się genialny. Modele uczące się same na sobie (bez danych od ludzi) potrafią już rozwiązywać zadania geometryczne na poziomie olimpijskim. Zaremba uważa, że jeśli tylko dostarczymy odpowiednio dużo mocy obliczeniowej, nie widać „sufitu” dla możliwości tych modeli,.
Po obejrzeniu tego materiału mam jedno główne przemyślenie: jesteśmy na początku czegoś, czego końca nikt nie jest w stanie przewidzieć. Tworzymy technologię, która działa trochę jak nasz mózg, ale uczy się nieporównywalnie szybciej.
Dragan podsumował to dość dosadnie - nasze przewidywania przyszłości są zazwyczaj bezwartościowe, bo rzeczywistość (jak fizyka kwantowa) bywa dziwniejsza, niż nam się wydaje. Jedno jest pewne: zmienimy się w sposób niewyobrażalny. Czy będziemy hodowcami tych cyfrowych roślin, czy może tylko jednym z elementów w ogrodzie zarządzanym przez superinteligencję? Czas pokaże.