Világvége avagy a mesterséges intelligencia

More Pékség
Összefoglaló:
Mit gondol, itt az ideje, hogy a robotok átvegyék az emberek szerepét? Ijesztő lenne, ha bizonyos munkaköröket robotok látnának el? Mi történne az érzelmekkel? A nano technológia pozitív felfedezésekkel szolgálhat?

A következő fenyegetés az emberek felügyelete. Az intelligencia nagyon erős. A problémamegoldó képesség és a csoportkoordináció apró növekedése miatt hagytuk a porban a többi majmot. Folyamatos létük az emberi döntéseken múlik, és nem attól, amit tesznek. Az okoskodás valódi előny az emberek és a szervezetek számára, ezért sok erőfeszítést kell kidolgozni az egyéni és kollektív intelligencia fejlesztésének módjairól, a megismerést fokozó gyógyszerektől a mesterséges intelligencia szoftverekig.

A probléma az, hogy az intelligens entitások jól képesek elérni céljaikat, de ha a célok rosszul vannak kitűzve, erejükkel ügyesen elérhetik a katasztrofális célokat. Nincs ok azt gondolni, hogy az intelligencia maga késztet valamit szép és erkölcsös viselkedésre. Valójában be lehet bizonyítani, hogy a szuperintelligens rendszerek bizonyos típusai akkor sem tartanák be az erkölcsi szabályokat, ha igazak lennének.

Még aggasztóbb, megpróbálni elmagyarázni a dolgokat egy mesterséges intelligenciának, ugyanis mély gyakorlati és filozófiai problémákba ütközünk. Az emberi értékek diffúz, összetett dolgok, amelyeket nem vagyunk képesek kifejezni, és még ha meg is tehetnénk, akkor talán nem értenénk meg minden következményét annak, amit kívánunk.

A szoftveralapú intelligencia nagyon gyorsan ijesztően erőssé válhat. Ennek az az oka, hogy a biológiai intelligenciától eltérően terjedhet, gyorsabban futhat gyorsabb számítógépeken, alkatrészeket több számítógépen terjeszthet, különböző, menet közben tesztelt és frissített verziókat építethetnek be, beépítethetnek új algoritmusokat, amelyek meggyorsítják a teljesítményt.

Javasolták, hogy „intelligencia-robbanás ” lehetséges, ha a szoftver elég jó lesz jobb szoftver előállításához. Ilyen ugrás esetén az okos rendszer (vagy az embereknek azt mondó emberek, akiknek mit kell tennie) és a világ többi része között nagy a potenciális teljesítmény különbsége. Ez egyértelmű katasztrófa-potenciállal rendelkezik, ha a célokat rosszul tűzik ki.

A szuperintelligencia szokatlanja, hogy nem tudjuk, hogy lehetségesek-e a gyors és erőteljes hírszerzési robbanások, talán jelenlegi civilizációnk egésze a lehető leggyorsabban javítja önmagát. Jó okunk van feltételezni, hogy egyes technológiák sokkal gyorsabban felgyorsíthatják a dolgokat, mint amit a jelenlegi társadalmak képesek kezelni. Hasonlóképpen, nincs jó megfogásunk arról, hogy a szuperintelligencia különféle formái mennyire lennének veszélyesek vagy, hogy milyen mérséklési stratégiák működnek valójában. Nagyon nehéz okoskodni a még nem rendelkező jövőbeli technológiáról vagy a magunknál nagyobb intelligenciáról.

Ugyanakkor meglepően alul kutatott terület. Még az 50-es és 60-as években, amikor az emberek rendkívül bíztak abban, hogy a szuperintelligencia „generáción belül” elérhető, nem foglalkoztak sokat a biztonsági kérdésekkel. Talán nem vették komolyan jóslataikat, de valószínűbb, hogy csak távoli jövőbeli problémának tekintették.

A következő vizsgálati pontunk a nanotechnológia. A nanotechnológia az anyag atom- vagy molekuláris pontossággal történő irányítása. Ez önmagában nem veszélyes – ehelyett nagyon jó hír lenne a legtöbb alkalmazás számára. A probléma az, hogy a biotechnológiához hasonlóan a hatalom növelése is emeli az olyan visszaélések lehetőségét, amelyek ellen nehéz megvédeni.

A nagy probléma az, hogy az önreplikáló nano gépek mindent megesznek. Ehhez okos tervezésre lenne szükség. Nehéz egy gépet replikálni, alapértelmezés szerint a biológia sokkal jobb ebben. Lehet, hogy valamilyen mániákusnak végül sikerül, de a pusztító technológiai fán rengeteg további alacsonyan lógó gyümölcs található.

A legkézenfekvőbb kockázat az, hogy az atommag precíz gyártás ideálisnak tűnik a fegyverek gyors, olcsó előállításához. Egy olyan világban, ahol bármelyik kormány képes nagy mennyiségű autonóm vagy félig autonóm fegyver „nyomtatására” (beleértve a még több gyártási lehetőséget is), a fegyverkezési versenyek nagyon gyorsakká válhatnak és ezáltal instabillá.

A fegyverek lehetnek apró, precíziós dolgok is, egy „intelligens méreg”, amely ideggázként viselkedik, de áldozatokat keres, vagy mindenütt jelen lévő „gnatbot” felügyeleti rendszerek a lakosság engedelmességének megőrzésére. Lehetséges, hogy a nukleáris fegyverek elterjedése és az éghajlatváltozás bárki kezébe kerülhet, aki akarja.

Nem tudjuk megítélni az egzisztenciális kockázat valószínűségét a jövő nanotechnológiájából, de úgy tűnik, hogy ez potenciálisan zavaró lehet, csak azért, mert bármit megadhat, amire vágyunk.

Végül az ismeretlen ismeretlenek kockázata. A legkellemetlenebb lehetőség az, hogy van valami, ami nagyon halálos, és erről fogalmunk sincs. Az égbolt csendje bizonyíték lehet erre. Rendkívül ritka az idegenek hiánya az élet vagy az intelligencia miatt, vagy az intelligens élet kipusztul? Feltéve, hogy van jövőbeli Nagy Szűrő, akkor azt biztosan más civilizációk is észrevették, és még ez sem segített. Bármi legyen is a fenyegetés, annak olyannak kell lennie, amely szinte elkerülhetetlen, még akkor is, ha tudja, hogy ott van, függetlenül attól, hogy ki és mi vagy. Vegye figyelembe, hogy csak azért, mert valami ismeretlen, az nem azt jelenti, hogy nem tudunk érvelni vele.

Az éghajlatváltozás, bármennyire ijesztő is, valószínűtlen, hogy az egész bolygót lakhatatlanná tenné (de más veszélyeket is fokozhat, ha a vele szembeni védekezésünk lebomlik). A meteorok minden bizonnyal kiirthatnak minket, de nagyon szerencsétlenek kell lennünk. Az átlagos emlősfajok körülbelül egymillió évig maradnak életben. Ennélfogva a háttér természetes kihalási aránya nagyjából egy millió évente. Ez jóval alacsonyabb, mint a nukleáris háború kockázata, amely 70 év után még mindig a legnagyobb veszélyt jelenti fennmaradásunkra.

Az elérhetőség heurisztikája miatt túlbecsüljük a gyakran a médiában megjelenő kockázatokat, és kizárjuk a soha nem látott kockázatokat. Ha egymillió év múlva is szeretnénk, hogy az emberiség létezzen, akkor az ismert hibákat ki kell javítanunk.


Cikksorozatunkban Magyarország Északkeleti tájegységének bemutatásától kezdve, a hátrányos helyzetűek esélyein és a népkonyhán át szeretnénk megismertetni az olvasót egy szegregált közösség összetartásával és lehetőségeivel.

A cikk a magyar állam és az Európai Unió támogatásával, az EU ROM Jövőért Egyesület GINOP-5.1.7-17-2019-00293 projektje keretében jött létre.

A projekt keretében első lépésként egy pékség kialakítása történik meg az ingatlan átalakításával és technológiai berendezések beszerzésével. A fejlesztés hosszabb távú célja, a jelenlegi gyakorlat továbbfejlesztésével egy olyan helyi termelési és értékesítési rendszer kialakítása, mely a szociális szempontok mellett üzleti vállalkozás is. Az egyesület által megtermelt javak értékesítésével, a gazdaprogramban részt vevő helyi emberek termelővé válásának szakmai és természetbeni támogatásával, illetve a faluban és azon kívüli forgalmazás rendszerének kialakításával az érintettek rendszeres jövedelemhez jutnak, növekszik helyi vásárlóerő, a helyi igényeknek jobban megfelelő kínálat alakítható ki, illetve üzleti szempontból lényeges, hogy a bolt a rövid beszerzési lánc miatt eredményesebben működhet, illetve több embernek mutathat példát és adhat munkát. A projekt mottója: Több, mint pékség!

Kapcsolódó weboldal:
More Pékség

(X)
Szeéchenyi 2020 ESZA