„Efektywne przyspieszenie” nie obchodzi, czy ludzi zastąpi sztuczna inteligencja

Podczas gdy jego zwolennicy publiczni, tacy jak Gary Tan, dyrektor generalny akceleratora startupów Y Combinator i były współzałożyciel firmy venture capital Enabled Capital, Nalega Bycie „e/acc” nie oznacza zastępowania ludzi robotami, to nie do końca prawda NIE O zastąpieniu ludzi robotami.

Debata na temat filozofii efektywnego altruizmu, czyli „EA”, promowana przez influencerów technologicznych, takich jak Sam Bankman Fried i Elona Muskae/acc wprowadzono na rynek w 2023 r., chociaż jego dokładne pochodzenie pozostaje niejasne. Ruch ten przyciągnął szereg nieprawdopodobnych postaci, w tym inwestora kapitału wysokiego ryzyka Marca Andreessena i skazanego oszusta Martina Shkreliego.

„EA i e/acc to w większości te same osoby” – powiedział w wywiadzie dla EA i e/acc Emmett Sherr, były tymczasowy dyrektor generalny OpenAI. długość geograficzna. „Jedyna różnica między nimi polega na ocenie wartościującej, czy wyeliminowanie ludzkości jest problemem, czy nie”.

Zwolennicy E/accs (wymawiane „ee-yack”) wierzą, że utworzenie osobliwości AI, w której technologia rozwija się poza zasięgiem ludzkiej kontroli, jest nie tylko nieuniknione, ale wręcz pożądane — stanowi niezbędną część ewolucji wykraczającej poza ludzkość.

A inwestowanie w to, aby się tam dostać, może oznaczać dużo pieniędzy, ponieważ konta elektroniczne/konta elektroniczne budzą kontrowersje i rosnące zainteresowanie branżą sztucznej inteligencji, której rozwój niesie ze sobą potężne zmiany na rynku. Goldman Sachs Wygenerowane szacunki Sztuczna inteligencja może zwiększyć światowy PKB o 7 bilionów dolarów, czyli 7%, w ciągu najbliższych dziesięciu lat.

„Nie ma żadnego związku z biologicznymi ludźmi.”

Pełne żargonu strona internetowa Szerzenie ewangelii skutecznego przyspieszenia opisuje „postęp kapitalizmu technologicznego” jako nieunikniony i wychwala zwolenników prawa cybernetycznego jako budowniczych, którzy „tworzą przyszłość”.

„Zamiast strachu wierzymy w proces adaptacji i chcemy go przyspieszyć do asymptotycznej granicy: singularyzacji kapitału technologicznego” – czytamy na portalu. „Nie mamy żadnego związku z biologicznymi ludźmi ani nawet strukturą ludzkiego umysłu. Jesteśmy transhumanistami w tym sensie, że uznajemy wyższość wyższych form akumulacji darmowej energii nad niższymi formami akumulacji darmowej energii. Naszym celem jest przyspieszenie tego procesu do zachować światło kapitału technologicznego.”

Zasadniczo władcy AI są koniecznością dla utrzymania kapitalizmu i musimy nadal szybko ich tworzyć.

W pierwszym poście na blogu witryny, napisanym przez anonimowych zwolenników e/acc @zestular, @creatine_cycle, @bayeslord i @BasedBeffJezos – którzy Forbesa Zostało to później potwierdzone przez Guillaume Verdon, byłego inżyniera Google, który później założył Extropic, startup zajmujący się sztuczną inteligencją, „jeszcze niczego nie widzieliśmy” – powiedział.

Chociaż e/accs twierdzi, że nie lubi biologicznych ludzi, nadal opisuje swój ruch jako „proludzki” – ale dla nich to technologia uratuje nas, a nie nas samych.

E/ac na ogół niechętnie oddaje się poważniejszym pytaniom dotyczącym kwestii bezpieczeństwa związanych z rozwojem sztucznej inteligencji. W odpowiedzi na pytania Business Insider, Shkreli przestrzec Inni zwolennicy akceleratorów w poście na temat

Inwestycja w transhumanistyczną przyszłość

Zwiększanie różnorodności sensu, jak stwierdza blog e/acc, jest nieuniknionym rezultatem rozwoju nieograniczonej sztucznej inteligencji. A biznes kwitnie.

Według. Tan jest jednym z największych inwestorów w technologię lista nasion Midas Forbes, Dzięki Y Combinator zainwestowałem w ponad… 100 różnych startupów z zakresu sztucznej inteligencji.

Miliarder Andreessen, który napisał i wydał A Oświadczenie składające się z 5000 słów Opisując szczegółowo swoje wsparcie dla szybko rozwijającej się sztucznej inteligencji, firma poczyniła również znaczne inwestycje w branżę – w tym OpenAI, per Forbesa.

Shkreli, który z dumą napisał obok „e/acc”. nazwa użytkownika Na X stworzyłem firmę AI o nazwie Doktor Gupta Po zwolnieniu z więzienia pod zarzutem oszustw związanych z papierami wartościowymi. Usługa to „wirtualny asystent medyczny”, który umożliwia użytkownikom uzyskanie porady lekarskiej za pośrednictwem chatbota. To był robot Ostra krytyka ze strony ekspertówktóry wcześniej wyraził wątpliwości dotyczące etyki bota zdrowotnego prowadzonego przez osobę skazaną za oszustwo.

Extropic AI, startup Verdona, zebrał niedawno 14,1 miliona dolarów w postaci funduszy zalążkowych rocznie Wpis na blogu firmowym. Post zaczyna się od nieziemskiej transmisji przyszłości „wszechobecnej generatywnej sztucznej inteligencji”. Według. firma opracowuje mikrochipy, które zasilają LLM (pomyśl o modelach typu ChatGPT). Informacja.

Verdon powiedział Forbesowi, że jego wizja przyszłości kapitału technologicznego zakłada ogromną inwestycję w rozwiązanie problemów społecznych wywierających presję na „kulturę”. Odzwierciedla podobne uczucia wśród braci technologii, którzy wierzą, że roboty i sztuczna inteligencja uczynią świat lepszym miejscem, a jednocześnie uczynią ich bardzo bogatymi.

Zatem władza decydowania o naszej przyszłości, jak twierdzą akceleratory, będzie w rękach grupy braci z Doliny Krzemowej, którzy świętują „Ciągła przewaga kulturowa„Każdy musi.

Przeciwnicy mówią, że przyszłość jest ponura.

„Ironią jest to, że ci ludzie mocno wierzą, że wykonują dobrą robotę” – stwierdziła Nancy Connell, badaczka ds. bezpieczeństwa biologicznego na Uniwersytecie Rutgers. POLITYKA. „I to naprawdę łamie serce”.

„To jakby myśleć, że wiewiórki mogą kontrolować ludzkość”.

W przypadku e/accs świat jest prosty: sztuczna inteligencja rozwiąże nasze problemy, bo tego chcemy i sami ją programujemy. Możliwości są nieograniczone, a na końcu tęczy AI znajduje się wyjątkowość, która jest warta więcej niż złoto.

Jeden z publicznych zwolenników aktywnej akceleracji, który rozmawiał z Business Insider, powiedział, że ruch potrzebuje ludzi, którzy mogą przeznaczyć kapitał na sprawę e/acc i osiągnąć swoje cele. Zapewniono mu anonimowość, aby móc otwarcie mówić o ruchu bez narażania swoich relacji zawodowych, ale jego tożsamość jest znana Business Insiderowi.

Powiedział, że zwolennicy uważają, że inżynierowie będą inwestować tylko w… Rozwój sztucznej inteligencji Przyniosłoby to korzyść ludziom, ale eksperci ds. bezpieczeństwa sztucznej inteligencji nie postrzegają tego w ten sposób; Ruch e/acc został ostro skrytykowany przez ekspertów ds. cyberbezpieczeństwa (jeden z badaczy nazwał go „[bycybersecurityexpertsOneresearcherCallit”[منقبلخبراءالأمنالسيبرانيأطلقعليهأحدالباحثين”[bycybersecurityexpertsOneresearchercalledit”Niebezpieczna i niezrozumiała ideologia Zainspirowany zastąpieniem ludzkości sztuczną inteligencją.” Inny powiedział, że ruch „Brak wizji społecznej„.

To także naiwny sposób myślenia o superinteligencji, powiedział Business Insiderowi Roman Yampolsky, dyrektor Laboratorium Cyberbezpieczeństwa na Uniwersytecie w Louisville.

„Nikt, nawet w e/acc, nie sugerowałby, że ma skuteczny mechanizm kontroli superwywiadu ani nawet jego prototyp” – powiedział Yampolsky. „Dlaczego ktoś miałby sądzić, że możliwe będzie kontrolowanie w nieskończoność superinteligentnej (podobnej do Boga) maszyny? To jakby myśleć, że wiewiórki mogą kontrolować ludzkość.”

Yampolskiy próbuje ostrzec branżę, że przyszłość mistrzów sztucznej inteligencji, na którą te konta elektroniczne próbują szybko wejść, może być bardzo zła. Nawet przerażające. I lepiej być bezpiecznym niż żałować.

Pomimo lat badań e/accs i inne podmioty inwestujące w bezpieczeństwo sztucznej inteligencji mogą postrzegać go jako pesymistyczną zagładę — lub, w potocznym rozumieniu e/acc, „spowolnienie”. Jednak, jak Yampolsky zauważył w Business Insider, wiele urządzeń/komputerów elektronicznych nie jest naukowcami ani badaczami w dziedzinie bezpieczeństwa sztucznej inteligencji. To jego sterówka, nie ich.

„Albo przestaniemy, albo wszyscy zginiemy”.

Chociaż najnowocześniejsza sztuczna inteligencja może pomóc w badaniach przesiewowych w kierunku raka, zwiększyć dostępność dla osób niepełnosprawnych, chronić dziką przyrodę, zwalczać głód na świecie, a nawet pomóc w kryzysie klimatycznym, krytycy ruchu e/acc argumentują, że obecne praktyczne zastosowania tej technologii będą stać się… Nie ma to bezpośredniego znaczenia, jeśli sztuczna inteligencja zacznie myśleć samodzielnie i wyznaczać własne cele dla dobra ludzkości bez kontrolowania jej przez ludzi.

Ale choć e/accs ma na celu podważenie ostrzeżeń badaczy bezpieczeństwa, co z resztą z nas?

E/ac chcą radykalnie zmienić kształt społeczeństwa, zmienić sposób, w jaki pracujemy i współdziałamy, a także na nowo zdefiniować, co to znaczy żyć, ale ogół społeczeństwa nie ma zbyt wiele do powiedzenia na temat sztucznej inteligencji ani wystarczających pieniędzy, aby mieć głos.

Yampolsky powiedział, że uwaga, jaką ten ruch zyskał wśród bogatych ludzi, jest niepokojąca i „jeszcze bardziej niepokojąca, jeśli przyjrzysz się uważnie; zdasz sobie sprawę, że ci ludzie nie reprezentują ludzkości, nie reprezentują naszych przekonań i wartości, a oni sami nie odpowiadają wartości.” Ludzie.”

Jego wizja jest diametralnie odmienna od wizji e/acc: zatrzymać rozwój sztucznej inteligencji.

„Albo przestaniemy, zanim dotrzemy do nadludzkiej sztucznej inteligencji, albo wszyscy zginiemy”. „Nie należy przeprowadzać niebezpiecznych eksperymentów na 8 miliardach ludzi”.