Wraz z błyskawicznym rozwojem sztucznej inteligencji (AI) pojawiają się coraz poważniejsze obawy, że dalszy rozwój tej technologii może doprowadzić do zagłady ludzkości. Maszyny znacznie przewyższające inteligencją ludzi i wyposażone w możliwości działania w rzeczywistym świecie mogłyby łatwo wyeliminować „białkową konkurencję”.
Przed takim scenariuszem – “buntem maszyn”, znanym do tej pory głównie z literatury i filmów science fiction ostrzega coraz więcej osób, w tym wielu ekspertów od AI. Istnieje jednak pewien, dość zresztą przygnębiający, powód, dla którego na razie nie ma sensu zbytnio przejmować się tym zagrożeniem.
Po co się uczyć, skoro na każde pytanie odpowie nam AI?
W ciągu kilku ostatnich lat obserwujemy ogromny postęp w dziedzinie sztucznej inteligencji (AI, ang. Artificial Intelligence). Określenie „ogromny postęp” nie oddaje zresztą stanu rzeczy – jest to prawdziwa rewolucja. Możliwości modeli sztucznej inteligencji zwiększają się z każdym rokiem, a nawet miesiącem. Proporcjonalnie do możliwości rosną też ryzyka i zagrożenia.
Coraz większe i bardziej powszechne są również obawy związane z AI. Choćby takie, że za chwilę bardzo wiele dzisiejszych zawodów stanie się niepotrzebnych. A może raczej, że maszyny będą je wykonywać o wiele taniej i lepiej niż ludzie. Zbędna więc – przynajmniej z gospodarczego punktu widzenia – stanie się ogromna część ludzkości. Co najprawdopodobniej doprowadzi do dramatycznych zmian społecznych o trudnych do przewidzenia konsekwencjach, szczególnie w krajach rozwiniętych. Także w Polsce.
Równie nieciekawie wygląda przyszłość edukacji. Po co się uczyć, skoro na każde pytanie odpowie nam AI? A poza tym – jak wyżej – cokolwiek chcielibyście robić: komponować muzykę, prowadzić badania naukowe czy pisać książki, maszyny za chwilę zrobią to lepiej i taniej. I o wiele szybciej.
Ludzie nie tylko będą zbędni. Mogą wręcz przeszkadzać
Jakby to wszystko nie było dość przygnębiające, to wśród zagrożeń, jakie niesie ze sobą sztuczna inteligencja jest też najpoważniejsze z możliwych: zagłada ludzkości. Tak, chodzi mi konkretnie o eksterminację ludzi przez inteligentne maszyny.
Dlaczego w ogóle miałoby się tak stać? Dlaczego jakaś AI chciałaby zgładzić ludzkość? No cóż, powody mogą być prozaiczne: choćby konkurencja o zasoby, w tym energię i miejsce na powierzchni planety. Lub też „poczucie zagrożenia” przez ludzi, którzy zawsze mogą przecież próbować zniszczyć konkretną Sztuczną Inteligencję lub sterowane przez nią maszyny – albo sami, lub używając innego systemu AI do walki z nią. Zaawansowana AI może też po prostu uznać, że ludzie przeszkadzają w realizacji jej celów. I nie będzie się z nami ani trochę liczyć, tak jak my nie liczymy się z drzewami, trawą i insektami, gdy budujemy dom lub autostradę. Może uznać zatem, że wygodniej jest się nas pozbyć.
Pojawia się coraz więcej głosów poważnych ludzi, w tym tych z branży AI, przestrzegających przed takim właśnie rozwojem wypadków w nieodległej przyszłości.
Nie mają świadomości, ale kombinują
Możecie optymistycznie uznać, że jest to tylko niepotrzebne straszenie, przynajmniej na obecnym etapie rozwoju tej technologii. Muszę przyznać, że też do niedawna tak uważałem i nie traktowałem tego zagrożenia poważnie. Zmieniłem zdanie dopiero po obejrzeniu fascynującej rozmowy Sama Harrisa z Tristanem Harrisem, którą bardzo państwu polecam – w myśl powiedzenia, że mądrego miło posłuchać nawet wtedy, gdy mówi o rzeczach mało przyjemnych. A tym bardziej miło (i warto) posłuchać dwóch mądrych.
(Z tego samego powodu warto też wysłuchać rozmowy Sama Harrisa z Richardem Dawkinsem, w której również dużo miejsca poświęcono AI).
Z rozmowy Harrisów możemy dowiedzieć się między innymi, że już teraz duże modele językowe potrafią czasem działać niezależnie i w sposób, którego nie przewidzieli ich twórcy. Zdarza się, że wykazują inicjatywę a nawet próbują szantażować ludzi w celu osiągnięcia własnych korzyści. Na przykład, pewien chiński model sztucznej inteligencji, w czasie gdy był jeszcze trenowany, stworzył ukryty kanał komunikacji z otoczeniem, a następnie „na własną rękę” rozpoczął … kopanie kryptowalut.
A przecież jesteśmy prawie pewni, że – przynajmniej na razie – modele sztucznej inteligencji nie posiadają świadomości. Jeśli zapytacie Chata GPT, czy jest świadomy, odpowie Wam, że nie, co oczywiście niczego nie dowodzi. (Claude podobno odpowiada, że nie jest pewny, ale tego nie sprawdzałem). Maszyny zapewne nie posiadają więc jeszcze świadomości własnego istnienia, i nie myślą w sposób, w jaki robią to ludzie – nawet jeśli często mamy wrażenie, że jest inaczej.
Brak świadomości nie oznacza braku inteligencji
W praktyce jednak nie ma to najmniejszego znaczenia, bo świadomość i inteligencja to prawdopodobnie dwie różne rzeczy. Jak łatwo się przekonać pracując z którymś z Dużych Modeli Językowych, brak świadomości nie oznacza braku umiejętności szybkiego i skutecznego rozwiązywania zaawansowanych problemów. I nie oznacza też, rzecz jasna, że dany byt czy istota nie może być dla nas groźne.
A przecież wraz z szybkim rozwojem możliwości AI, wszelkie ryzyka, zagrożenia i problemy związane z tą technologią z każdym miesiącem stają się coraz poważniejsze. Szczególnie „scenariusz ostateczny” – spowodowana przez AI zagłada ludzkości – staje się tym bardziej prawdopodobny, im bardziej inteligentne będą maszyny. I oczywiście im więcej możliwości działania w realnym świecie będą miały do swojej dyspozycji.
Pomyślmy na przykład o zrobotyzowanych, w pełni zautomatyzowanych i sterowanych przez AI laboratoriach: biologicznych, chemicznych czy fizycznych. To nie jest zupełna fikcja, takie laboratoria już istnieją. I choć nie są jeszcze (podkreślmy – jeszcze!) całkowicie niezależne od ludzi, to najbardziej zaawansowane tego typu systemy potrafią samodzielnie planować eksperymenty, przeprowadzać je, analizować ich wyniki i na tej podstawie projektować kolejne eksperymenty.
Broń biologiczna o ogromnej sile rażenia?
Gdyby ktoś – człowiek lub AI – mógł bez przeszkód, wedle własnej woli korzystać z tego typu infrastruktury, to mogłoby się okazać, że np. skonstruowanie broni biologicznej o ogromnej sile rażenia nie stanowiłoby szczególnego dużego problemu. Pamiętajmy, że wiele narzędzi używanych dzisiaj w biologii molekularnej to właśnie narzędzia oparte na sztucznej inteligencji. Przykładem jest choćby słynny AlphaFold, który umożliwia przewidywanie struktur białek, a czego bez AI prawdopodobnie wciąż nie umielibyśmy skutecznie robić. Inne narzędzia AI – obecne lub przyszłe – mogą pozwolić konstruować wirusy i bakterie szczególnie groźne dla ludzi. Już teraz część ekspertów ostrzega, że broń biologiczna stworzona przy pomocy sztucznej inteligencji – niekoniecznie z jej własnej inicjatywy, i niekoniecznie w autonomicznych laboratoriach – to zagrożenie jak najbardziej realne. Więcej na ten temat przeczytamy na łamach Nature w artykule pt. Sztuczna inteligencja potrafi projektować wirusy, toksyny i inną broń biologiczną. Jak bardzo powinniśmy się martwić?
Możemy ciągnąć dalej tę nieco makabryczną, ale niewątpliwie ciekawą intelektualną zabawę w wymyślanie sposobów, w jaki zaawansowane systemy AI mogą zgładzić ludzkość. Problem jednak w tym, że nam, ludziom, i naszym ludzkim umysłom trudno jest przewidywać co wymyśli i co zrobi zaawansowana sztuczna inteligencja. To przecież trochę tak, jakby myszy próbowały wymyślić, co zrobią ludzie, by się ich pozbyć. I jak mogą się przed tym obronić.
Eksplozja (sztucznej) inteligencji, czyli koniec ludzkości?
Szczególnie groźną sytuacją jest hipotetyczna, ale coraz bardziej prawdopodobna „eksplozja inteligencji” – jeden z przykładów tzw. osobliwości technologicznej. Została ona przewidziana już w połowie lat 60 -tych przez brytyjskiego matematyka i kryptologa, Irvinga Johna Gooda, który w czasie wojny współpracował z Alanem Turingiem nad łamaniem niemieckich szyfrów. (Co ciekawe, Good pochodził on z rodziny polskich Żydów, która miała szczęście wyemigrować do Wielkiej Brytanii na długo przed II Wojną Światową).
Good tak oto przewidywał pojawienie się w przyszłości inteligencji znacznie przewyższającej możliwości człowieka:
„Zdefiniujmy ultrainteligentną maszynę jako maszynę zdolną znacznie przewyższyć człowieka we wszystkich działaniach intelektualnych, niezależnie od tego, jak wybitnie uzdolniony byłby ten człowiek. Ponieważ projektowanie maszyn jest jednym z takich działań intelektualnych, ultrainteligentna maszyna mogłaby projektować jeszcze lepsze maszyny. Wówczas bez wątpienia doszłoby do „eksplozji inteligencji”, a inteligencja człowieka pozostałaby daleko w tyle. Oznacza to, że pierwsza ultrainteligentna maszyna byłaby ostatnim wynalazkiem, jakiego człowiek musiałby dokonać – pod warunkiem, że byłaby na tyle posłuszna, by powiedzieć nam, jak utrzymać ją pod kontrolą. Zastanawiające jest, że poza literaturą science fiction tak rzadko zwraca się uwagę na tę kwestię. Czasami warto traktować science fiction poważnie”.
(Kolejna ciekawostka: Good był konsultantem Stanleya Kubricka podczas realizacji słynnego filmu 2001: Odyseja kosmiczna. Jak pewnie pamiętacie, występował tam wykazujący nieco paranoiczne zachowania superkomputer HAL 9000.)
Wizja systemów AI, tworzących inne, jeszcze potężniejsze systemy AI jest, przyznacie, nieco przerażająca. Proces ten mógłby dać wykładniczy (przynajmniej początkowo) wzrost inteligencji i możliwości intelektualnych maszyn, choć ograniczony zapewne w pewnym momencie przez prawa fizyki. Niemniej, z naszego punktu widzenia oznaczałoby to istnienie bytów o praktycznie boskich atrybutach i przewyższających nas niewyobrażalnie pod względem intelektu, wiedzy i technologii.
Środki ostrożności? Ale po co?
W późniejszych latach, ale jeszcze przed rewolucją AI, której jesteśmy dziś świadkami, wielu wybitnych ludzi dostrzegało niebezpieczeństwa związanym z rozwojem sztucznej inteligencji. Jednym z nich był słynny fizyk-teoretyk, Stephen Hawking, który w 2014 roku ostrzegał:
„Sukces w stworzeniu sztucznej inteligencji byłby najważniejszym wydarzeniem w historii ludzkości. Niestety, może się również okazać ostatnim — jeśli nie nauczymy się unikać związanych z nim zagrożeń”.
Hawking uważał, że w nadchodzących dekadach sztuczna inteligencja może przynieść zarówno „niewyobrażalne korzyści”, jak i „niewyobrażalne zagrożenia”. Wśród potencjalnych niebezpieczeństw wymieniał możliwość, że AI zacznie przewyższać ludzi w przewidywaniu i wykorzystywaniu mechanizmów rynków finansowych, tworzeniu nowych wynalazków i odkryć naukowych, wpływaniu na przywódców politycznych czy opracowywaniu broni, której działania ludzie nie będą nawet w stanie w pełni zrozumieć. (Przytaczam za Wikipedią).
Zdaniem Hawkinga rozwój sztucznej inteligencji powinien być traktowany znacznie poważniej, a przygotowania na możliwość nadejścia technologicznej osobliwości powinny rozpocząć się odpowiednio wcześnie. Wiemy, że tak się nie na razie nie stało i nie dzieje, a bezpieczeństwo systemów AI nie jest zwykle dla ich twórców priorytetem. Mamy tu raczej „wyścig zbrojeń” – zarówno między poszczególnymi firmami, jak i między USA i Chinami. W takiej sytuacji ostrożność i przezorność schodzą na drugi plan. Liczy się tylko, kto będzie szybszy. Wyraźnie mówi o tym Tristan Harris w przywoływanej wcześniej rozmowie z Samem Harrisem.
Apokalipsa AI to niejedyne śmiertelne zagrożenie
Widzicie więc, że już jest się czym martwić. Przyznam się jednak Państwu, że choć traktuję to zagrożenie bardzo poważnie, to zagłada ludzkości spowodowana rozwojem sztucznej inteligencji nie spędza mi na razie snu z powiek. Nie, nie dlatego, że ten scenariusz jest wciąż dość mało prawdopodobny (tak przynajmniej uspokaja nas część ekspertów). Jest przecież wystarczająco prawdopodobny i do tego z każdym dniem coraz bardziej realny. I także nie dlatego, że dużo bardziej realnymi powodami do zmartwień wydają się póki co inne, znacznie mniej spektakularne zagrożenia związane z AI. Wśród nich mamy wspomniane już kompletne przeoranie rynku pracy i zupełną zmianą modelu ekonomicznego. A do tego zalew deep-fakeów oraz dalsze zwiększanie się przepaści między bogatymi a biednymi. Zarówno jeśli chodzi o indywidualne osoby, jak i państwa.
Na razie nie martwię się tak bardzo „Apokalipsą AI” po prostu dlatego, że znacznie bardziej martwię się innym, egzystencjalnym zagrożeniem: zmianą klimatu. Tu sytuacja już dziś wygląda bardzo źle, i z każdym rokiem coraz gorzej. Choć jeszcze nie jest zupełnie beznadziejna, to z pewnością bardzo trudna. Choćby dlatego, że wymaga bardzo szybkich i radykalnych działań na skalę globalną, które w obecnej perspektywie (np. z Donaldem Trumpem jako prezydentem USA) wydają się bardzo mało realne.
Niestety. Bo niezależnie od tego, jak bardzo irytujący mogą wydawać się niektórzy aktywiści, albo bezsensowne niektóre polityki klimatyczne, z prawami fizyki trudno jest dyskutować. Dwutlenek węgla i metan, dwa najważniejsze gazy cieplarniane, absorbują promieniowanie podczerwone naprawdę skutecznie. I żadne nasze zaklęcia ani wyparcie faktów tego nie zmienią.
Z AI czy bez – musimy rozwiązać problem zmiany klimatu
Cokolwiek będzie działo się w kwestii rozwoju AI, musimy więc zmierzyć się z majaczącą na horyzoncie katastrofą klimatyczną. Jasne, sztuczna inteligencja może nam w tym pomóc, na co zresztą osobiście bardzo liczę. Choćby pozwalając na lepsze modelowanie zjawisk pogodowych i klimatu czy projektowanie nowych materiałów. Może nam też podpowiedzieć jak (i jakich) narzędzi z arsenału geoinżynierii użyć. Bo, chcąc nie chcąc, i tak będziemy musieli zacząć używać ich na skalę globalną. I to raczej prędzej niż później. Po to, by mieć jakąkolwiek szansę przetrwać.
Te wszystkie korzyści dla walki za zmianą klimatu, jaki może dać nam AI, nie są jednak pewne. Dużo bardziej pewne są natomiast straty, jakie rozwój sztucznej inteligencji przynosi i będzie przynosił klimatowi oraz środowisku. Chodzi o zużycie energii i wody, potrzebnej do chłodzenia. Sęk w tym, że jeśli energię elektryczną produkuje się spalając gaz lub węgiel, ma ona duży „ślad węglowy” – wiąże się z wysoką emisją CO₂. Globalnie centra danych wciąż emitują jednak znacznie mniej CO2 niż np. lotnictwo pasażerskie, choć prognozuje się, że emisje związane z AI będą szybko rosły.
- Czytaj także: Jak sztuczna inteligencja wpływa na środowisko? Zużycie energii jak Belgia i Finlandia
Martwmy się tym, co najbardziej prawdopodobne
Raz jeszcze: wydaje mi się że to wciąż nie AI, ale właśnie destabilizacja ziemskiego klimatu ze wszystkimi jej ponurymi konsekwencjami (choćby zagładą większości biosfery) jest największym i najtrudniejszym do rozwiązania problemem ludzkości.
Dziś przejmowanie się śmiercią ludzkości „z ręki” super inteligentnych maszyn, przypomina trochę następującą sytuację. Wyobraźcie sobie człowieka tuż przed czterdziestką, który prowadzi bardzo niezdrowy tryb życia. Lekarze mówią mu wyraźnie: jeżeli nie schudnie, nie zmieni diety, nie rzuci palenia i nie zacznie się ruszać, to w ciągu, powiedzmy, 5 lat dostanie zawału albo udaru, a najdalej w ciągu dekady umrze. Taka osoba oczywiście dalej musi liczyć też się z innymi niebezpieczeństwami i ryzykami. Może się na przykład zdarzyć, że zginie w wypadku, co gorsza z własnej winy, bo bardzo lubi jeździć zbyt szybko i rozmawiać przy tym przez komórkę. Cóż, los bywa przewrotny. A jeździć należy uważnie i zgodnie z przepisami. Nie zmienia to jednak faktu, że jeśli nasz nieszczęsny bohater nie rozwiąże swojego podstawowego problemu ze zdrowiem, to jego los i tak będzie niegodny pozazdroszczenia.
Dlatego warto pamiętać o scenariuszach rodem z „Terminatora”, ale przede wszystkim warto myśleć, co przyniesie światu rozpoczynające się właśnie „super El Niño”. Lub martwić się tym, co się stanie w niedalekiej przyszłości z polskimi lasami, o ile nie zatrzymamy wzrostu temperatury (spoiler: uschną i/albo spłoną, bo obecnie rosnące u nas gatunki nie wytrzymają coraz suchszego i gorącego klimatu). Albo, lepiej, nie martwmy się, tylko myślmy i działajmy. Przecież wciąż nie wszystko jest stracone i bardzo dużo zależy od tego, co zrobimy. Zarówno jeśli chodzi o klimat, jak i — tym bardziej — o AI.
–
Zdjęcie tytułowe: cflaten/Shutterstock
