Van egy olyan gyanúm, hogy a következő években megszaporodnak a globális keresztény könyvkínálatban azok a kiadványok, melyek a vallás és a kereszténység, valamint a Mesterséges Intelligencia kapcsolatának kérdését boncolgatják. Nem gondolom, hogy ez valami múló divathóbort miatt lesz - sőt, abszolút szükségesnek vélem! Már most is vannak ilyen könyvek, mégis azt érzékelem, ezek többnyire ugyanabból az irányból közelítenek a mesterséges intelligencia kérdésköréhez: milyen lehetőségeket és főleg veszélyeket rejt az MI a vallásra nézve? Pedig hát, van egy másik lehetőség is: hogy nem az MI a veszélyes, hanem mi vagyunk azok...
Miért történt így? Talán az Antikrisztus szelleme uralja a Facebookot? Ebből látszik, hogy a mesterséges intelligencia ördögi vívmány?
Leírni is felesleges, hogy ez hülyeség, hiszen az ok sokkal prózaibb és gyakorlatilag pofonegyszerű. A Facebook-ot sok dologért lehet jogosan kritizálni, ahogy a mögötte álló cég embereit és a fejlesztőket is. De azért tömeges gyilkolászásra és gyűlölködésre nem akarnak senkit buzdítani. Viszont azokban az években a Facebook üzleti modellje úgy működött, hogy maximalizálja a felhasználók elköteleződését (user engagement). Az egész rendszert erre a gondolatra optimalizálták, a futó programok ezt tartották szem előtt, a tanulási metódus számára ez az elv volt a legfontosabb. Ami egyszerűbben megfogalmazva azt jelenti, hogy az üzletnek az a jó, ha minél többen minél több időt töltenek a platformon. Azaz, sokan kattintanak a "megosztás" és a "tetszik" feliratokra, így kiszolgáltatva magukat a hirdetőknek, a piacnak, ezzel felpumpálva a Facebook részvények árát.
A lényeg azonban most jön: több millió Facebook felhasználó megosztásait figyelve a rendszert működtető gépi algoritmusok kitapasztalták, hogy a gyűlölködéssel érhetik el legegyszerűbben a felhasználói elköteleződés legmagasabb szintjét. Így aztán meghozták a döntést, hogy az ilyen tartalmú posztokat fogják előrébb sorolni és mindenki arcába tolni, ameddig külső programozói utasítás ezt felül nem írta. Ennek köszönhetően tömegesen terjedtek a politikai álhírek, az agresszív posztok és utálatra, erőszakra, fenyegetésre bátorító bejegyzések. Részben ezek miatt aztán a fizikai valóságban, mondhatni a nyílt utcán is brutális gondok támadtak Mianmarban: az ott zajlott etnikai tisztogatások hátterében tehát részben az MI által is generált hullám állt.
Felszínes és buta vélemény lenne erre azzal reagálni, hogy a mesterséges intelligencia egy etnikai tisztogató. Aki így vélekedik, nem érti azt, amit fentebb leírtam.
Hozzuk szóba a kereszténységet! Az előző bejegyzésben lejegyeztem néhány meglátásomat arról a tűzvészről, ami jelenleg Los Angeles környékén zajlik. Az elmúlt napokban sajnos egyre-másra látom, ahogy keresztény testvéreim elképesztő ostobaságokat, hamis és szándékosan félrevezető információt osztogatnak a közösségi felületeken - negatív és pozitív töltetű lódításokat egyaránt. A személyes kedvencem a tűzvészben csodálatos módon megmaradt pirostetős imaház, amit a hazug magyarázat szerint Isten szeretete természetfeletti csodaként óvott meg a lángoktól. Ezt a sztorit az elmúlt néhány órában három ismerősömnél láttam viszont, de jelenleg százak és ezrek terjesztik. (Egyébként a fotókon terjedő házikó tényleg túlélt egy tűzvészt, csakhogy az tavaly történt Hawaii környékén, nem imaházról van szó, a benne lakók nem Istenre hivatkoznak, sőt lelkiismeret-furdalásuk is van a történtek miatt...)
Mindezek után szerintem nem feltétlenül az a kérdés, hogy az MI milyen veszélyt jelent a kereszténységre. A kérdés pont fordított: mi keresztények milyen veszélyt jelentünk az MI algoritmusaira?
Elvégre, tálcán kínáljuk magunkat a hírfolyamot összeállító, a felhasználói elköteleződést fokozni kívánó és erkölcsi szempontból közömbös szubrutinok számára, hogy képtelenségeket terjesszen, amibe Isten nevét és a keresztény hitet is belekeverik. És ez csakis miattunk történik, nem valamilyen ördögien gonosz MI miatt. Nem a mesterséges intelligencia a gonosz, hanem a természetes intelligencia a hanyag - a mesterséges intelligencia csak a mi nemtörődömségünkre, csodák utáni szomjazásunkra, szívet melengető hírek iránti vágyainkra optimalizálja a dolgokat. Azt kapjuk tőle, amit szeretnénk látni, amilyenek vagyunk.
Meggyőződésem, hogy a következő évtizedben az MI jelenléte brutálisan erős és mindent felforgató lesz, amibe természetes módon beletartozik majd a vallási szegmens is. Furcsa is lenne, ha kimaradna, hiszen a vallások eleve az ember egészének megszólítására és valamiféle szellemi befolyásolására törekszenek. Ám szerintem nem attól kell félnünk, hogy a mesterséges intelligencia majd helyettünk ír prédikációt vagy dicsőítő éneket (erre valamilyen szinten már most is képes), hanem attól, hogy túl gyengék leszünk emberként arra, hogy felismerjük a jelenlétét és jól bánjunk vele. Helyesen írja Harari, hogy a veszély nem olyan természetű, amilyennek a népszerű sci-fi filmekben elképzelik. Ez nem a Terminator vagy a Mátrix világa, ahol a gépek fizikai jellegű fenyegetést jelentenek számunkra azzal, hogy szitává lőnek bennünket vagy lecsapolják a testünk energiáját. A helyzet sokkal szövevényesebb és jóval kevésbé direkt. A gépi algoritmusok a humánumra építenek, emberi természetünk gyengeségeire, és ezeket kihasználva arra akarnak majd rábírni, hogy önmagunk egyezzünk bele a saját manipulálásunkba. Ehhez nem kell fizikai fenyegetés, hiszen bizonyos marketingeszközök, politikai megoldások és pszichológiai technikák már így is művelnek velünk folyamatosan valami hasonlót. Csupán ezt kell intelligensebb és nehezebben átlátható szintre emelni.
A fantázia persze itt meglódulhat és bár egyelőre nincs komolyabb realitása, de az MI fejlődése igen furcsa dolgokat is magával hozhat. Mivel ős-Galaktika olvasóként nagy rajongója vagyok a science-fictionnek, engedje meg nekem az olvasó a puszta ötletelést: mi történne akkor, ha az MI valamelyik kreatív, vallásokra kifejlesztett verziója először elkezdene egy nagyon népszerű bibliai teológiát legyártani, amiből később olyan tekintélyű szövegvariánsok is létrejönnének, melyeket az emberi olvasók szinte már "szent hagyományként" kezdenének tisztelni, mint a Biblia legjobb exegézisét? És aztán ahogy telik-múlik az idő, ezek a mesterséges írások szinte egy újfajta keresztény felekezet, esetleg pszeudokeresztény vallás alapkövévé válnak? Létrehozhat az MI egy mesterséges vallást? Kitörhet egy MI által generált "új reformáció"? Ez persze csak lázálomba illő képzelgés - most.
De hát végső soron mi gátolja majd abban a mesterséges intelligenciát, hogy ilyen dolgokat ne hozzon létre?
A Hawaii story is sántít, :-)
VálaszTörlésValahogy Cs. Szabó Sándor Prón c. könyve jut eszembe a cikk kapcsán. Ajánlom olvasásra.
VálaszTörlésKedves dzsaszper, még évekkel ezelőtt olvastam, nem egy nagyregény, de aranyos kis sci-fi, és ami külön öröm, hogy keresztény szerző műve!
TörlésÉn sajnos nem vagyok eléggé tájékozott ebben a témában, koromnál fogva egy rémület van bennem, de gyermekeim és unokáim révén azért tapasztalom. Engem rettenetesen elkeserít- oké öreges hozzáállás - hogy azt látom használják kollégáim is, pl. egy-egy gyermek jellemzésekor (gyógypedagógusként dolgozom, halmozottan sérültek iskolájában) "egyen" jellemzések születnek, profi szakszavakkal, de nincs benne egyéni stílus, és igen néha humor sem.. ezt nem a jellemzéseknél gondolom fontosnak persze. Én igen, azt látom elvész a kreativitás, az önállóság, egyéniség. És amit még fontosnak gondolok, hogy azzal, hogy "intelligenciának" nevezték el, hatalmasat tévedtek, és nagy kárt okoztak. Megtévesztő. Ezért lehet "ijesztő". Profi számítógépes program, és? Nem kell misztifikálni. Vagy igen? Ez nem intelligencia. Annyira káros amikor rossz, maga az elnevezés, ezzel felsőbb polcra emelve valamit. Mint pl. Karmelita kolostornak nevezni folyamatosan a Miniszterelnökséget. Nevetséges szómágia. Lehet nem katolikusoknak semmit sem jelent- nekem felháborító visszaélés egy szerzetesrend nevével. Sugallva bárminemű "szentséget" a tájékozatlan tömeg számára. Lehet erőltetett ez a párhuzam, de mégis, a szavaknak van ereje. Van befolyása a tömegekre. Amit írtál a kereszténységre nézve, az meg szinte felfoghatatlan számomra, mégis valós veszélyt látok benne. Gyökere a hazugság, ami tudjuk kinek a legbecsesebb eszköze. Mindig maga az igazság, ami szabaddá tesz, de vajon lesz-e lehetőség e kettőt szétválasztani?
VálaszTörlésKedves Rita, mély tisztelettel, de azt hiszem nem teljesen érted a mesterséges intelligencia mibenlétét. Ez nem probléma, hiszen olyan léptékben ahogyan ma találkozunk vele, a legtöbbek számára ismeretlen volt.
Törlés"Profi számítógépes program, és? Nem kell misztifikálni. Vagy igen? Ez nem intelligencia. "
De igen, ez intelligencia, ehhez most persze bele kellene menni, hogy az intelligencia fogalma alatt mit értünk pontosan. Sokan keverik ezt a szót a tudatossággal: az MI-nek nincs tudata, de ettől még olyan szimptómákat mutat, ami az intelligenciára jellemző. Ez nem egy szimpla "számítógépes program", sokkal-sokkal több annál. Nem akartam ebben a bejegyzésben (és nem is tudtam volna) elmélyedni a téma alapkérdéseiben, de ha szeretnéd ezt kicsit jobban megérteni, John C. Lennox "2084" c. könyvét jó szívvel ajánlom.
Szerintem sem kell misztifikálni az MI-t. A biológiai embernek csak egy kis szelete a tudatos gondolkodás, a többi a fizikai valóságba beágyazott ösztön és tudattalan. Az ötleteink valójában alulról jönnek leginkább, és nem a jéghegyünk csúcsáról. Az, hogy a tudatunk működésére némileg emlékeztető adatfeldolgozó rendszert építettünk és intelligenciának nevezzük, nem ágyazta be a gépet a fizikai valóságba, nem adott neki ösztönlétet és tudattalan törekvéseket – nekem úgy tűnik, hogy ezt szokás róla tévesen feltételezni. Az MI-nek semmi köze az élethez, valóban egy program. Összetett, meglepő néha, de attól még hozott anyagból dolgozik, és kizárólag emberi utasításokra működik.
TörlésAkár törhetne hatalomra is persze... ha a készítője erre programozná. Ám amíg nincs ilyesmire programozva, nem fogja magától kitalálni. És ha veszélyessé válik? Akkor meg kihúzzák a konnektorból.
Az MI-t emberek programozzák, ezért a mi eszünket utánozza. Ergo: nem tud saját ötletekkel előállni, önálló megoldásokat kifejleszteni. Legfeljebb kaleidoszkóp effektussal lephet meg: meglévő adatdarabjainkból váratlan kombinációt keverhet ki.
VálaszTörlésAz „álhírekkel” meg visszaáll a középkori helyzet: rengeteg zagyva szóbeszéden kell kritikai gondolkodással keresztülrágnunk magunkat, ha sejteni szeretnénk, mi történik körülöttünk. Ebben kevésbé segítenek majd a bevett források, mint akár tíz éve. (Már azt, aki érteni igyekszik a történéseket – a csökkenő világértési motivációnk tekintetében is középkor lesz.)
Aki idáig konformista volt, az még inkább marad a saját buborékjában, míg a valóság felől elég impulzus nem éri a buborék érvénytelenségéről.
"Ergo: nem tud saját ötletekkel előállni, önálló megoldásokat kifejleszteni. Legfeljebb kaleidoszkóp effektussal lephet meg: meglévő adatdarabjainkból váratlan kombinációt keverhet ki."
TörlésEnnél már most sokkal többre képes. Nem arról van szó, hogy fut egy random-generátor, ami egy rulettasztalhoz hasonlóan véletlenszerűen kidob egy számot - és az MI valami hasonló technikával teljesen hasraütésszerű módon dönt. Ugyan, ez még a 80-as évek 8-bites mikroszámítógépeinek korszaka, illetve ezt már ott is képesek voltak meghaladni. Az MI-algoritmusok nyilván több stratégia komplex összekapcsolásával hoznak döntést: pl. a statisztikai valószínűség alapján, a tanulási folyamatban eddig megszerzett ismeretei és tapasztalatai alapján, stb, stb... És ez még csak bonyolódni fog.
"Ebben kevésbé segítenek majd a bevett források, mint akár tíz éve."
Na, ez a lényeges szempontok egyike! Főleg az iskolázatlan réteg vagy pl. az idősek lesznek kitéve annak, hogy a képességeik elégtelennek bizonyulnak, de az MI olyan fake dolgok előállítására is képessé válik, hogy még avatott szem sem biztos, hogy különbséget tud majd tenni. Igen érdekes és sok veszélyt rejtő korszak előtt állunk azt hiszem.
"Ennél már most sokkal többre képes."
Törlés- Fontos tudatosítani, hogy az MI csak hozott anyagból tud dolgozni, nulla saját ötlete van. A hiteles hamisítások terén tényleg sokra képes, ebben igazad van, ám azokat nem az MI találja ki, konkrét felhasználók utasítják az előállításra.
A jövőbeni hírfogyasztó vagy kritikusabb lesz, vagy tájékozatlanabb. :)
A hitele hamisítások lesz az egyik fő probléma a közösségi oldalakon és úgy általában a hírek világában, a netes térben. És ez nem azt jelenti, hogy az MI szándékosan rosszindulatú, hanem azt, hogy olyan profizmussal képes végezni a dolgát, hogy kellő hozzáértés hiányában az emberek jó részét simán becsapja. Most még lejön egy-egy MI által generált videóról, fotóról, képről, talán hangfájlról is, hogy mesterséges - de ez max 10 éven belül a felismerhetetlenségig olyan lesz, mint az egyébként valós anyagok. És ez csak a jéghegy csúcsa.
TörlésNem vagyok egy apokalipszisrajongó keresztény, de az MI fokozatos felpörgése kapcsán arra számítok, hogy olyan mértékben rajzolja majd át a világ fejlettebb - épp ezért meghatározóbb - felét, hogy azt a tömeg nagy része képtelen lesz követni. És ebből jó sok bajunk lesz.
Ezt írod:
"Fontos tudatosítani, hogy az MI csak hozott anyagból tud dolgozni, nulla saját ötlete van. "
Igen. Most még. Pusztán technikai kérdés, hogy az MI ne hozott anyagból dolgozzon, hanem előállítson magának olyan forrásokat, amiből előállít anyagokat.
Felértékelődik majd a személyes találkozás, illetve az, hogy ha valamire van tanú névvel, lakcímmel...
TörlésInkább az egymásnak ellentmondó források összehasonlító tanulmányozása fog felértékelődni. Nota bene: aki ma még nem így tájékozódik, jobb, ha mielőbb elkezdi, különben hamarosan dunsztja sem lesz a világról.
Törlésgondolataim: https://barathendre.wordpress.com/2017/12/12/keresztenyseg-es-mesterseges-intelligencia/
VálaszTörlés