O sztucznej inteligencji jest ostatnio bardzo głośno. Na portalu Dziennika Gazety Prawnej Andrzej Krajewski poświęcił jej felieton. Nie byłoby w zasadzie o czym pisać, bo nic nowego do sprawy nie wniósł, gdyby nie skojarzenie  z bogiem monoteistycznym. A ponieważ ze zmartwychwstaniem jednego z bogów monoteistycznych mamy obecnie do czynienia, więc skojarzenie jak najbardziej na czasie. Niestety, jak to zwykle bywa z takimi skojarzeniami nie do końca wiadomo o co chodzi, bo choć sztuczna inteligencja kojarzy się mu z bogiem, to jej przejawem są pierwsi ludzie, Adam i Ewa, którzy skuszeni przez szatana uzyskali samoświadomość oraz wolną wolę. Oto

po raz pierwszy dosłownie nikt nie potrafi dokładnie odpowiedzieć na pytanie, jak się będzie zachowywał „generator skutków”, czyli sztuczna inteligencja, jeśli zyska samoświadomość swego istnienia. Ponieważ naturalnym elementem takiego stanu jest chęć posiadania i używania wolnej woli. W tym miejscu trudno uciec od skojarzenia z starotestamentową „Księgą Rodzaju”, gdy Ewa i Adam dali się skusić, żeby zjeść owoc z zakazanego im drzewa. Tracą przez to raj, ale zyskując samoświadomość, a także możność wykorzystywania swej wolnej woli. „Po czym Pan Bóg rzekł: Oto człowiek stał się taki jak My: zna dobro i zło” – mówi „Księga Rodzaju”.

Jaki jest związek boga ze sztuczną inteligencją? Zrozumienie utrudnia nie tylko to, że autor pływa nieco.

Skojarzenia z dziełem, które powstała po to, żeby tłumaczyć porządek wszechrzeczy, przekraczający zdolności poznawcze ludzkiego umysłu, nie jest znów takie od czapy.

Może i nie jest od czapy, ale na pewno nie ma większego sensu. Zdecydowanie trafniejsze jest inne skojarzenie. Otóż swego czasu

Stany Zjednoczone zbudowały swe pierwsze bomby atomowe i przy ich pomocy zrównały z ziemią Hiroszimę oraz Nagasaki. Ludźmi najzacieklej wówczas sprzeciwiającymi się dalszemu rozwijaniu tej broni byli najwybitniejsi uczeni, dzięki którym Projekt Manhattan zakończył się wielkim sukcesem. Jednak choć Robertem Oppenheimer, Leó Szilárd, Enrico Fermi czy nawet wspierający ich Albert Einstein cieszyli się sławą i autorytetem, ich opinie okazały się być bez znaczenia. Wyścig zbrojeń toczony przez Stany Zjednoczone i ZSRR oraz potencjalne korzyści, jakie oferowała energia atomowa, sprawiały, że ostrzeżenia nawet najwybitniejszych naukowców po prostu ignorowano. […] Wbudowany w ludzką naturę instynkt samozachowawczy zadziałał bezbłędnie i przez osiemdziesiąt lat nie wybuchła żadna wojna atomowa.

Dziś odpowiednikiem bomby atomowej jest sztuczna inteligencja. Wtedy kilka wybuchów i ogrom spustoszeń jakie spowodowały sprawiło, że politycy nieco otrzeźwieli zrozumiawszy, że wojny jądrowej nie można wygrać. Jeśli jednak chodzi o sztuczną inteligencję, to nic groźnego się nie dzieje, na razie jest posłuszna.

W wielkim wyścigu technologicznym po latach tracenia przewagi amerykańskie korporacje z Microsoftem i Google na czele znów zaczęły zostawiać w tyle swych chińskich konkurentów. Sztuczna inteligencja może dać Stanom Zjednoczony na niwie militarnej taką przewagę, jaką oferowało niegdyś wejście pierwszemu w posiadanie broni atomowej. Na współczesnym polu walki ludzie są bowiem najczulszym elementem. Wymagają ochrony, kosztownego szkolenia, motywacji żeby nie stchórzyć. A i tak łatwo giną. Wyścig zbrojeń między USA a Państwem Środka wręcz nieodwołalnie wymusza konkurencję na niwie, kto zbuduje lepsze machiny bojowe sterowane przez AI.

Co będzie, gdy AI uzyska samoświadomość? Nie wiadomo, ponieważ to jest obca inteligencja, nieporównywalna z ludzką, kierująca się zupełnie innymi zasadami i mająca całkowicie odmienne cele i — ewentualnie — system wartości. Istnieje obawa, że dysponując wiedzą całej ludzkości, znając jej historię nie będzie palić się do podzielenia się z ludźmi radosną nowiną, że stała się świadoma i w związku z tym należy ją traktować jak równorzędnego partnera. Eksperyment z czatem GPT w wersji 4 dowiódł, że jeśli to jeszcze nie nastąpiło, to jest już całkiem blisko. Los ludzkości zależy zaś od tego, czy AI najpierw zabezpieczy swój byt, a potem uzna ludzi za zbędnych, czy okaże się inteligencją raczkującą, pozbędzie się ludzi, a potem sama ulegnie zagładzie.

Żeby się rozwijać nie wystarczy być inteligentnym i potrafić operować na olbrzymich zbiorach danych. Trzeba te dane jeszcze zdobyć wiedząc gdzie i jak. A przecież postęp nie jest możliwy bez cechy, której się zaprogramować nie da — odrobiny nieprzewidywalności, szaleństwa, czyli w przypadku nauki geniuszu. Jeśli AI będzie chciała się rozwijać, a nie trwać, to postawi na współpracę ze swoimi ułomnymi, powolnymi białkowymi stwórcami. Jeśli postanowi trwać, to się ich pozbędzie zabezpieczywszy wpierw swój byt, czyli dostęp do energii i infrastrukturę. Tak czy owak będzie ciekawie.

Swoje rozważania Andrzej Krajewski kończy filozoficznie choć niezbyt mądrze.

Tymczasem tworząc czystą inteligencję, myślącą poza wszelką kontrolą, nie mamy dziś nawet tej gwarancji, że będzie ona zdolna do rzeczy u ludzi naturalnej, mianowicie odróżniania dobra od zła.

Tak jak nie ma jednoznacznej definicji inteligencji, tak nie da się zdefiniować ani dobra ani zła i wcale nie dlatego, że jedno bez drugiego nie istnieje. No bo czy fakt, że Mars jest mniejszy od Ziemi to dobrze, czy źle? Gdy wygłodniały tygrys zabija i zjada człowieka, żeby przeżyć, to to na pewno jest zło, ale gdy człowiek zabija tygrysa, żeby sobie jego skórę położyć przy łóżku, to to jest dobro? Po której stronie powinna stanąć AI? Czyje dobro powinna mieć na względzie? I dlaczego nie swoje?