Czym jest osobliwość technologii?

2024 Autor: Malcolm Clapton | [email protected]. Ostatnio zmodyfikowany: 2023-12-17 04:07

Przyszłość jest bliżej niż się wydaje.

Czym jest osobliwość technologii?

Technologiczna osobliwość to teoretyczny moment, w którym człowiek traci kontrolę nad postępem technologicznym, a to z kolei staje się nieodwracalne. Mówiąc prościej, w niedalekiej przyszłości technologie mogą się tak bardzo rozwinąć, że ludzkość po prostu przestanie za nimi nadążyć i je rozumieć.

Najczęściej rozważa się stworzenie sztucznej superinteligencji jako sposobu na osiągnięcie osobliwości, ale nie jest to jedyny możliwy sposób. Na przykład w niedalekiej przyszłości prawdopodobnie pojawią się maszyny (komputery, roboty), które będą w stanie zrobić wszystko lepiej niż ludzie, a dzięki temu nastąpi gwałtowny, lawinowy skok technologiczny.

Najczęściej jednak takie domysły budował Tegmark M. Life 3.0. Bycie człowiekiem w dobie sztucznej inteligencji. - M., 2019 nie na prognozach naukowych, ale na mitach w dziedzinie AI.

Co więcej, jak sądzą zwolennicy koncepcji technologicznej osobliwości, takie „intelektualne eksplozje” będą pojawiać się coraz częściej. Może to prowadzić do radykalnych zmian w społeczeństwie, których nie możemy przewidzieć ani kontrolować.

To właśnie konsekwencje osobliwości budzą wiele obaw i służą jako podstawa dyskusji o przyszłości ludzkości. Konsekwencje te ocenia się na różne sposoby. Raymond Kurzweil, futurysta rozpoznawania mowy i kluczowa postać w Google, uważa, że postęp technologiczny to świetna okazja, by ludzie stali się lepszymi ludźmi. Mniej optymistyczni w swoich ocenach są Elon Musk, Bill Gates i nieżyjący już Stephen Hawking. Ich zdaniem postęp może doprowadzić do zagłady ludzkości.

Jakie są warunki wstępne dla technologicznej osobliwości?

Obawy o konsekwencje postępu technologicznego nie pojawiły się znikąd. Wiele procesów we współczesnym społeczeństwie i nauce skłania do takich refleksji.

Przyspieszenie postępu technicznego i technologicznego

Era cyfrowa rozpoczęła się wraz z wynalezieniem tranzystora w 1947 roku i trwa do dziś. Już w 1965 roku jeden z założycieli Intela, przygotowując się do przemówienia, odkrył interesujący wzór: co dwa lata liczba tranzystorów w mikroukładach podwaja się.

Od tego czasu niewiele się zmieniło: obliczenia komputerowe wykazują stały wzrost wykładniczy. Im dalszy postęp technologiczny, tym bardziej stroma staje się krzywa ilustrująca postęp technologiczny. W ciągu kilkudziesięciu lat jego tempo może dojść do nieskończoności.

Według Harveya C. Big Data Challenges. Datamation by Datamation w 2017 roku dane cyfrowe przekroczyły nasze możliwości zarządzania nimi. Co więcej, podwaja się co dwa lata.

Prawdopodobnie jednym z kolejnych kroków w rozwoju technologii może być wynalezienie AGI (sztucznej inteligencji ogólnej). Termin ten odnosi się do sztucznej inteligencji, która uczy się komunikować, myśleć i działać jak człowiek, a nawet lepiej. Oznacza to, że AGI teoretycznie może zastąpić ludzi we wszystkim.

Rozwój sztucznej inteligencji

Jak dotąd komputery nie potrafią zrobić absolutnie wszystkiego lepiej od nas, chociaż w rozwiązywaniu wielu problemów są już znacznie mądrzejsze od człowieka (a przynajmniej od niego szybsze).

Jeszcze 4-5 lat temu prognoza osobliwości Raymonda Kurzweila spełni się do 2045 roku. Futuryzm Raymonda Kurzweila, że do 2045 roku sztuczna inteligencja we wszystkim przewyższy ludzką inteligencję, uznano za bardzo odważny (pomimo tego, że od lat 90. 86% jego założeń się spełniły).

Dziś okres między 2025 a 2035, a nawet wcześniej, jest już określany jako hipotetyczna data pojawienia się AGI.

Pandaya J. Niespokojna trajektoria osobliwości technologicznej może odegrać w tym szczególną rolę. Forbes zagra w budowanie neuromorficznych chipów - procesorów sieci neuronowych, które odtwarzają sposób, w jaki nasze mózgi przetwarzają informacje. Jak dotąd badania w tym obszarze są jeszcze dalekie od uzyskania naprawdę działającego modelu, ale są już niewątpliwe sukcesy. Oto, co sztuczna inteligencja może dziś zrobić:

• uczyć się;
• pokonanie ludzi w grach strategicznych (program AlphaGo w 2015 roku, w zaledwie 9 godzin szkolenia, zdobył DeepMind i Google: walka o kontrolę sztucznej inteligencji. The Economist umiejętność gry w szachy lepiej niż człowiek);
• Egzoszkielet sterowany mózgiem umożliwia sparaliżowanemu pacjentowi chodzenie. Naukowcy z urazami rdzenia kręgowego stają na nogi;
• rozpoznawać twarze;
• prowadzić samochód;
• malować Czy sztuczna inteligencja ma stać się kolejnym medium sztuki? CHRISTIE'S i teksty pokrewne;
• stworzyć system sztucznej inteligencji stworzony w UNC – Chapel Hill projektuje leki od podstaw. UNC – CHAPEL HILL leki;
• główna chińska państwowa agencja informacyjna Xinhua debiutuje „kotwicą AI”, aby przeczytać wiadomości. Mashable relacje informacyjne i wiele więcej.

W 2014 roku Google przejęło DeepMind i Google: bitwę o kontrolę nad sztuczną inteligencją za 600 milionów dolarów. The Economist by AlphaGo to brytyjska firma DeepMind, której celem było wynalezienie AGI. Pomysły Brytyjczyków pomogły Google stworzyć skuteczne algorytmy do diagnozowania chorób oczu i wczesnego wykrywania chorób Parkinsona i Alzheimera.

Najprawdopodobniej warto poczekać na pojawienie się AGI w dającej się przewidzieć przyszłości. Jednak początek osobliwości technologicznej nie jest z tym bezpośrednio związany.

Pojawienie się interfejsów neuronowych

Już teraz możemy mówić o Internecie jako formie „globalnego mózgu” – fenomenie, dzięki któremu ludzie z całego świata mogą komunikować się ze sobą niemal nieprzerwanie za pośrednictwem technicznego pośrednika.

Są urządzenia, którym bliżej do gadżetów z filmów science fiction. Korzysta już ponad 300 tysięcy osób. Jak blisko jesteśmy interfejsu mózg-komputer Elona Muska? Implanty ślimakowe CNN Health (protezy słuchowe działające bezpośrednio na nerw słuchowy) oraz próbki bionicznych oczu są testowane na ludziach. Choć urządzenia te nadal nie są w stanie całkowicie przywrócić wzroku czy słuchu, to jakość ich pracy poprawia się.

Ogłosili również Elon Musk i Brian Johnson Jak blisko jesteśmy interfejsu mózg-komputer Elona Muska? CNN Health w sprawie tworzenia startupów zajmujących się rozwojem interfejsów człowiek-komputer (Neuralink i Kernel). Oczywiście jest za wcześnie, by mówić, że już niedługo będziemy mogli sterować smartfonem siłą myśli: wszystkie tego typu urządzenia są wciąż zbyt wolne i niedoskonałe. Niemniej jednak istnieją wszelkie powody, by sądzić, że sukces w tej branży jest tuż za rogiem.

Jakie są przyczyny postępu technicznego?

AI i roboty podejmą się skomplikowanej pracy intelektualnej i fizycznej

Rozwój sztucznej inteligencji i robotyki może ostatecznie doprowadzić do tego, że maszyny nauczą się robić wszystko bez lub z minimalną ingerencją człowieka. W takim przypadku postęp będzie nadal przyspieszał, coraz bardziej poprawiając życie i życie ludzi.

Już teraz komputery są wykorzystywane przez ludzi do badań naukowych i ulepszania technologii. Dzięki temu (np. badania genetyczne czy rozwój urządzeń poprawiających możliwości ludzkiego mózgu) sami ludzie stają się mądrzejsi, a maszyny – szybciej. W ten sposób przyspiesza się rozwój nie tylko komputerów, ale także człowieka.

Ludzie odkryją w sobie nowe zdolności

Fuzja człowieka z technologią zachodzi nie tylko na poziomie fizycznym (stosowanie protez, modyfikacje), ale także informacyjnym (wykorzystanie gadżetów). Smartfon z mobilnym internetem w kieszeni to pierwszy krok do zostania cyborgiem.

Istnieje nawet ruch transhumanistyczny. Britannica, orędowniczka aktywnego doskonalenia ludzkiego ciała poprzez postęp technologiczny. Transhumaniści uważają, że modyfikacja ciała to jedyny sposób, aby nadążyć z duchem czasu i nie oddawać losu ludzkości do dyspozycji maszyn.

Jednak jak dotąd pojawienie się ludzkich biorobotów pozostaje w sferze fantazji.

Nowe technologie otwierają drogę do potencjalnej nieśmiertelności

O wiele bardziej eleganckim rozwiązaniem w tej dziedzinie wydaje się usunięcie ograniczeń DNA. Genetyka i bioinżynieria Pandaya J. Niepokojąca trajektoria osobliwości technologicznej. Forbes, podobnie jak nootropy, może uczynić ludzi mądrzejszymi. Za pomocą sztucznie wyhodowanych narządów lub nanomaszyn ludzie mogą pozbyć się starzenia i osiągnąć nieśmiertelność.

Jedyne pytania dotyczą tego, jak szybko dana osoba nauczy się (i nauczy) korzystać z tych możliwości, czy społeczeństwo i rząd je zaakceptują. Narodziny i wykształcenie genetycznie zmodyfikowanych ludzi zajmie lata, nawet jeśli zignoruje się czynniki społeczne, które spowalniają przyjmowanie takiej technologii. Inne formy superinteligencji (AI) mogą pojawiać się znacznie szybciej.

Co mówią przeciwnicy niekontrolowanego rozwoju technologii

Sztuczna inteligencja może zniszczyć ludzkość

Rozwój AGI prawdopodobnie wyprzedzi rozwój ludzkiego mózgu i technologii, aby nas wzmocnić. Sztuczna inteligencja jest w stanie prześcignąć ludzką i w pesymistycznym scenariuszu może łatwo wymknąć się spod kontroli.

Doktor Oxford University Nick Bostrom rozważa Bostrom N. Superinteligence: Paths, Dangers, Strategies. - Oxford University Press, 2014, że jest powód do niepokoju. Jego zdaniem, bez względu na to, jak rozwinięty może być intelekt, nie ma to wpływu na to, czy działania jego właściciela będą złe czy dobre. Dlatego bez względu na to, jak inteligentna jest sztuczna inteligencja, nie jesteśmy odporni na to, że zrobi coś złego.

Ważny Tegmark M. Life 3.0. Bycie człowiekiem w dobie sztucznej inteligencji. - M., 2019, aby AGI mogła zrozumieć, zaakceptować cele ludzkości i przestrzegać ich. Jeśli wyznaczy sobie inne priorytety, takie jak samozachowawczość, chwytanie zasobów czy zaspokajanie ciekawości, to w relacjach między ludźmi a maszynami pojawią się konflikty.

Modernizacja organizmu ludzkiego może prowadzić do dalszego rozwarstwienia społeczeństwa

Modyfikacja ludzkiego ciała może nie tylko stworzyć „Człowieka 2.0”, ale także zaostrzyć konflikty społeczne. Ci, którzy mają dostęp do takich technologii, będą oczywiście mieli przewagę nad tymi, którzy tych możliwości nie mają.

Pojawiają się istotne kwestie etyczne i prawne: czy można dać jednej osobie przewagę intelektualną i/lub fizyczną nad inną oraz jak chronić „ludzi biomechanicznych” przed hakerami.

W niepowołanych rękach technologia może być śmiercionośną bronią

Nie zapominaj, że człowiek sam w sobie jest wielkim niebezpieczeństwem. Wojsko już używa dronów i programowalnych maszyn jako broni, a media społecznościowe są pełne oszustów. Jest bardzo prawdopodobne, że ludzie również zaczną nadużywać nowych technologii.

Ale nawet wcześniej ryzykujemy, że nie przeżyjemy, ponieważ nawet istniejąca broń jest niebezpieczna. Max Tegmark, astrofizyk i profesor w Massachusetts Institute of Technology, obliczył Tegmark M. Life 3.0 przy użyciu statystycznych formuł prawdopodobieństwa. Bycie człowiekiem w dobie sztucznej inteligencji. - M., 2019 ryzyko światowej wojny nuklearnej prowadzącej do wzajemnego zniszczenia. Doszedł do wniosku, że jeśli prawdopodobieństwo wynosi 0,001 w ciągu jednego roku, to w przedziale 10 000 lat zawalenie jądrowe nastąpi z prawdopodobieństwem 99,95%. Nawet dobrze ugruntowany system przechowywania dobrze zbadanej broni może zawieść. Powstaje pytanie: czy możemy kontrolować bardziej złożone technologie, aby nie wpadły w niepowołane ręce?

Jaka może nas czekać przyszłość

Jednocześnie Max Tegmark krytycznie ocenia Tegmark M. Life 3.0. Bycie człowiekiem w dobie sztucznej inteligencji. - M., 2019 prawdopodobieństwo scenariusza pesymistycznego. Uważa, że możliwości samodoskonalenia są ograniczone prawami fizycznymi. Prawdziwa osobliwość, jako nieskończenie przyspieszający postęp, według Tegmarka jest niemożliwa, chociaż proces ten może zbliżyć się do nieskończoności.

Profesor przekonuje zatem, że za skokiem technologicznym nastąpi szybkie osiągnięcie całej lub prawie całej wiedzy o świecie, a nie jej niekończące się gromadzenie.

Według innego punktu widzenia nic, w tym postęp, nie może przyspieszać w nieskończoność – prędzej czy później zwolni.

Możemy jednak śmiało powiedzieć, że ludzkość nie przekroczyła jeszcze punktu spowolnienia.

Nie wszyscy naukowcy na ogół podzielają teorię osobliwości technologicznej. Niektórzy zauważają, że do tej pory w przyrodzie nie odkryto żadnych zjawisk, które rozwijałyby się w nieskończoność i nieskończenie szybko. Jednocześnie badacze zwracają uwagę na fakt, że znaczna liczba prognoz w tym obszarze opiera się nie na danych obiektywnych, ale na pragnieniach samych predyktorów.

Na przykład sztuczna inteligencja może pozostać czysto utylitarna i pozbawiona osobowości. Algorytmy tego samego DeepMind nie mogą jeszcze DeepMind i Google: bitwa o kontrolę nad sztuczną inteligencją. The Economist znajduje rozwiązanie, jeśli coś pójdzie nie tak i zmienią się z góry określone warunki.

Jak dotąd AI wyprzedza nas tylko kosztem mocy obliczeniowej. Ale to, co ludzie mogą opanować w kilka minut, program spędza tysiące godzin w porównaniu z ludzkim doświadczeniem.

Na przykład, aby AlphaGo nauczyła się grać w Space Invaders, musi wykonać tysiące prób. Ostatecznie program oczywiście zagra lepiej niż człowiek, ale opanuje proces znacznie szybciej.

Dlatego żadna z prognoz nie może być uznana za 100% prawdopodobną. Nie jest to jednak powód do całkowitego porzucenia idei technologicznej osobliwości.

W dużej mierze realizacja pewnych scenariuszy losów ludzkości zależeć będzie od kierunku rozwoju technologicznego, na czyich rękach będzie i jak będzie regulowany. Dużą rolę będzie również odgrywać to, jak wyrafinowana stanie się ta technologia. Nie zapominaj o czynnikach społecznych, geopolitycznych i ekonomicznych, które mogą wpływać na postęp. Trudno też mówić o dokładnych datach pojawienia się osobliwości technologicznej.

Czy dana osoba nadal będzie istnieć, jeśli nie będzie potrzebna do wielu rodzajów działalności (na przykład nauki)? Czy osoba zmieniona przez interwencje DNA lub neurointerfejsy pozostanie osobą? Nie mamy odpowiedzi na te pytania. Być może osoba zmieniła się już nieodwracalnie wraz z pojawieniem się komputerów i technologii cyfrowych.

Ale jedno jest absolutnie pewne: proces ewolucyjny jest naturalny i nie do zatrzymania. Nie możemy go spowolnić. Może w końcu maszyny nauczą nas, żeby się nie zabijać i nie poniżać i powinniśmy im zaufać?

Dlatego jak radzi Tegmark M. Life 3.0. Bycie człowiekiem w dobie sztucznej inteligencji. - M., 2019 Max Tegmark, nie myśl o przyszłości, która Cię przeraża, ale o tej, którą chciałbyś.