29 września w Białym Domu Donald Trump zebrał w Białym Domu ludzi, którzy budują najpotężniejsze systemy sztucznej inteligencji na świecie. Mieli odpowiedzieć na pytanie, jak nie dopuścić do tego, żeby rozwijana przez nich technologia wymknęła się spod kontroli, a jednocześnie jej nie spowolnić. Bo jeśli Ameryka zwolni, argumentowano, przyspieszą Chiny. W pewnym momencie rozmowa zeszła jednak z egzystencjalnego zagrożenia na problem znacznie bardziej przyziemny:

Co stanie się z nami, kiedy sztuczna inteligencja odbierze nam pracę? Elon Musk odpowiedział: czeka nas nie dochód podstawowy, lecz „universal high income”.

Wśród zaproszonych znaleźli się m.in. Elon Musk, Mark Zuckerberg, Jensen Huang, Sundar Pichai, Dario Amodei i Greg Brockman. Google, Anthropic, Meta, OpenAI, xAI oraz Nvidia podpisały następnie dokument nazwany White House Accord on Super Intelligence, czyli dobrowolne zobowiązanie dotyczące bezpieczeństwa najbardziej zaawansowanych systemów. Trump określił je jako „morally binding” – moralnie wiążące. Nie jest to jednak prawo i za złamanie zapisanych w nim zasad nie przewidziano sankcji. To prawdopodobnie najważniejszy polityczny wniosek ze spotkania. Amerykańska odpowiedź na coraz poważniejsze obawy dotyczące AI nie polega na razie na stworzeniu twardego regulatora, lecz na próbie zbudowania systemu samokontroli branży. Firmy zobowiązały się do monitorowania własnych modeli, powołania zespołów odpowiedzialnych za ryzyko oraz poddawania technologii zewnętrznym audytom. Wyniki mają być dodatkowo oceniane na poziomie rad nadzorczych.

Zuckerberg mówił, że ma to być dopiero początek systemu zabezpieczeń, a nie jego ostateczna forma.

Trump pozostaje jednak przeciwnikiem takiej regulacji, która mogłaby spowolnić rozwój technologii. Po spotkaniu mówił o potrzebie „tremendous self-regulation”. Argument przewijający się przez całą dyskusję był geopolityczny: jeżeli Stany Zjednoczone utrudnią własnym firmom budowanie modeli i centrów danych, przewagę może przejąć Pekin. „Whoever wins SI is going to win” – mówił Trump. W rozmowie o centrach danych dodawał, że Chiny chętnie zbudują każde z nich, którego nie zechcą Stany Zjednoczone. W ten sposób powstaje dość niezwykła sytuacja. Przy jednym stole siedzą ludzie, którzy ostrzegają, że budowana przez nich technologia może stać się trudna do kontrolowania, a jednocześnie zgadzają się, że wyścigu nie można zatrzymać, ponieważ prowadzi go również ktoś inny. Dario Amodei z Anthropic od dawna należy do najbardziej alarmistycznych głosów w branży. Po spotkaniu ponownie mówił, że technologia niesie „bardzo realne ryzyka”, ale jednocześnie przekonywał, że Ameryka może ten wyścig wygrać bezpiecznie. „This is a start” – mówił o przyjętych zabezpieczeniach.

Symboliczna zmiana nastąpiła również w samym języku. Tego samego dnia Trump podpisał rozporządzenie nakazujące administracji federalnej zastępować określenie Artificial Intelligence nazwą Super Intelligence.

Uzasadnienie brzmi znajomo także z perspektywy dyskusji, którą prowadzimy od dawna na F5: słowo „artificial” sugeruje coś sztucznego, imitującego istniejącą wcześniej ludzką inteligencję, podczas gdy współczesne systemy coraz częściej mają wzmacniać ludzkie możliwości i wykonywać zadania niedostępne dla człowieka. Biały Dom uznał więc, że „Super Intelligence” lepiej opisuje skalę technologicznej zmiany. Trzeba jednak zrobić tu ważne zastrzeżenie. Nie jest to nowy konsensus naukowy ani wspólna decyzja całej branży, ale przede wszystkim decyzja administracji Trumpa. Co więcej, pojęcie superintelligence już wcześniej miało w badaniach nad AI konkretne znaczenie: oznaczało hipotetyczny system przewyższający najlepszych ludzi praktycznie we wszystkich istotnych dziedzinach poznawczych. Nowa amerykańska nomenklatura rozciąga więc to pojęcie także na technologię, którą do tej pory nazywaliśmy po prostu AI.

I właśnie wtedy rozmowa zrobiła się szczególnie interesująca z punktu widzenia „PO PRACY”.

Jeden z reporterów zapytał wprost o przyszłość zatrudnienia. Co mają zrobić ludzie wykonujący dziś pracę przy komputerze? Co stanie się, kiedy rano obudzą się i okaże się, że nie mają już nie tylko pracy, ale również wynikającego z niej poczucia celu? Trump oddał głos Muskowi. Musk najpierw poprawił się, gdy użył słowa AI: „SI, pardon me”. A następnie powiedział, że najbardziej prawdopodobnym scenariuszem jest „age of abundance” – epoka obfitości. W jego wizji połączenie robotyki i superinteligencji doprowadzi do takiego wzrostu produktywności, że problemem nie będzie już zapewnienie ludziom minimalnego dochodu. „Nie będziemy mieli tylko universal basic income. Będziemy mieli universal high income” – stwierdził. To rozróżnienie jest zasadnicze. UBI było dotąd przedstawiane głównie jako mechanizm zabezpieczający społeczeństwo przed bezrobociem technologicznym: jeśli maszyny przejmą część pracy, część wygenerowanego przez nie bogactwa powinna trafić do ludzi. Musk opisuje scenariusz znacznie bardziej radykalny. Nie chodzi o rekompensowanie niedostatku pracy, ale o świat, w którym produkcja dóbr i usług staje się dzięki AI i robotom tak tania i wydajna, że znacznie wyższy poziom materialnego życia może zostać oddzielony od konieczności wykonywania pracy.

Jak dokładnie miałoby nastąpić to przejście i za pomocą jakiego mechanizmu wyprodukowane przez maszyny bogactwo zostałoby podzielone, Musk podczas spotkania nie wyjaśnił.

Na uwagę reportera, że wszystkie te korzyści niewiele znaczą dla kogoś, kto straci zatrudnienie, odpowiedział po prostu: „Jobs are going to change. Jobs have always changed”. Przypomniał, że kiedyś słowo „computer” oznaczało zawód – ludzi zatrudnionych do wykonywania obliczeń, których następnie zastąpiły komputery cyfrowe. Nie tęsknimy dziś za powrotem do ręcznego liczenia oprocentowania kredytów, argumentował. Podobnie mamy kiedyś patrzeć na kolejną falę automatyzacji. I być może właśnie ten krótki fragment najlepiej podsumowuje sprzeczność, wokół której zbudowane było całe spotkanie w Białym Domu. Ludzie tworzący najbardziej zaawansowane systemy na świecie przyznają, że technologia wymaga zabezpieczeń. Część z nich ostrzega przed jej ekstremalnymi konsekwencjami. Jednocześnie Stany Zjednoczone nie chcą jej znacząco spowalniać, ponieważ trwa technologiczny wyścig z Chinami. A gdzieś pomiędzy jednym i drugim pozostaje człowiek.