Zenemű helyett: műzene

Nem akarom a végtelenségig ragozni a mesterséges intelligencia témakörét, de még egy dolog motoszkált bennem vele kapcsolatban. Az elmúlt hetekben ugyanis kipróbáltam az AI zeneszerző képességeit, és több dicsőítő dalt is megírattam vele. Az eredmény egyszerre megmosolyogtató és leleplező volt, de leginkább csüggesztő és döbbenetes.

Ha valaki két lábbal él a földön, nyilván használta már a ChatGPT vagy más AI-robot dialógizáló képességeit, sőt minden bizonnyal tud róla, hogy a mesterséges intelligencia már festményeket is fest, videóklipeket készít, prezentációt állít össze és többek között zenét szerez. Millió más képessége mellett ezek talán azok, melyekkel az internetező nagyközönség leginkább találkozik. Én az elmúlt hetekben az AI zeneszerző kvalitásait teszteltem, és bevallom őszintén, leesett az állam.

A technikai paraméterekkel nem akarom fárasztani az olvasót. Mindösszesen annyi dolgom volt, hogy megadtam a készülő dal stílusát (praise and worship), valamint néhány kulcskifejezést. Olyan is előfordult, hogy nagyjából 2 perc leforgása alatt magam írtam meg a dalszöveget - mármint ha dalszövegnek nevezhetjük a közismert frázisokból összetákolt prozódiát. Aztán megnyomtam a "Generate" gombot és nagyjából két egész perc leforgása után egyszerre két változatban is előttem állt egy új dicsőítő dal. És hát azt kell mondjam, semmivel de semmivel nem volt rosszabb a (neo)protestáns gyülekezetekben elhangzó énekek nagyjából hetven százalékánál! Ha orvul becsempészném egy dicsőítő csoport repertoárjába, a kívülállók jó része nem tudná megmondani, hogy egy gépi algoritmus termékéről van szó. Tökéletesen belesimulna a választékba.

Pedig ez nem zenemű volt. Hanem inkább pont fordítva, csak műzene. Olyan, ami mindösszesen 3 perc alatt született meg, minden odafigyelés és alkotói energiabevitel nélkül, csupán a szórakozás és kísérletezés kedvéért.

A lényegi gondolat azonban, ami megfogalmazódott bennem, az nem az, hogy milyen előrehaladott állapotban van már az AI és micsoda remek dalgeneráló képességei vannak. Hanem inkább az, hol tartunk mi, mennyire alacsonyan van a küszöb, milyen könnyedén lekörözhetőek vagyunk ezen a területen. Az AI nem tett mást, csupán az emberi fejekben futó "dalgenerátorokra" hangolódott rá, szűkebb behatárolásban a keresztény hívők által elvárt dicsőítő dal nevű struktúrára optimalizálta a saját szüleményét. Fogta a közhelyes paneljeinket, szövegdarabkáinkat, vallásos frázisainkat, aztán a megadott stílusnak megfelelően az édeskés dallamokat, a végtelenül elkoptatott zenei megoldásokat, és három perc alatt összerakott egy gyengébb Hillsong-utánzatot.

Egyszerűen fogalmazok: fájdalmas volt látni az egészet. Lehet, hogy túlreagálom a dolgot, de a dicsőítésgenerátor az én tudatomban bizony visszanyúlt a múltba is és nem szándékosan, de javarészt zárójelbe tette azt. Nemcsak azért zavart, ami történt, mert a 2025-ös évben már eljutott addig, hogy könnyedén leutánozza a dicsőítő dalokat. Nem, itt nem pusztán a jelenről van szó, hanem a dicsőítés elmúlt évtizedeiről is. Hiszen hosszú ideje ilyen panelszerű a dicsőítés világa, ami azt is jelenti, hogy eddig is olyan zenét produkáltunk, amit egy tudat nélküli intelligencia most a kisujjából összetákol.  Csak azért nem derült ez ki ennyire világosan, mert nem volt mesterséges intelligencia, ami ilyen erővel szembesítsen ezzel bennünket. Egy egész albumnyi dalt megírattam vele nagyjából egy óra leforgása alatt.

Mindez azért sokkolóan érdekes, mert a gépekre mi emberek valahogy úgy gondolunk, hogy azok mechanikus eszközök és ebből következően mechanikus dolgok kiváltására remekül használhatók. Alapértelemzésben ott alkalmazunk gépi technikát, ahol gépies tevékenységek vannak: az autókat például nem emberek rakják össze, hanem egy gépsor gyártja őket, hiszen minden műveleti fázist ugyanúgy kell egymás után csinálni. Azonban a dalszerzésre eddig úgy gondolhattunk, hogy az a humánum része, kreatív és művészi alkotás, lelki természetű dolog, valami nagyon emberi, ránk jellemző tevékenység. Az AI azonban pont ezeken a nagyon emberi szegmensekben kezd igencsak előre törni. És nemcsak arra kényszerít rá bennünket, hogy nála jobb dalokat írjunk, hanem olyan alapvető kérdéseket kell miatta újragondolnunk, hogy mit jelent egyáltalán embernek lenni, emberi dolgokat tenni, emberi módon megnyilvánulni. Az AI metafizikai dilemmákhoz sodor minket és ebből egyházi vonatkozásban is számos váratlan, most még elképzelhetetlen következmény előbukkan majd. Ha maradunk a dicsőítő daloknál: vajon a jövő gyülekezeteiben lesz külön repertoár olyan énekekből, melyeket a mesterséges intelligencia generált? Vajon alkalmasak lesznek ezek a hívők imádatának kifejezésére? Lehet a gépben Lélek, aki felhasznál egy mesterséges dalt és tudunk ehhez kapcsolódni az emberi érzéseinkkel? Ezek a kérdések nem a küszöbön vannak, hanem már itt bent, az egyházban. Nem valamiféle elvadult sci-firől beszélek, hanem a nyers valóságról. Azt hiszem, mindannyian furcsa világra ébredtünk.

Tovább

A veszélyesek MI vagyunk...

Van egy olyan gyanúm, hogy a következő években megszaporodnak a globális keresztény könyvkínálatban azok a kiadványok, melyek a vallás és a kereszténység, valamint a Mesterséges Intelligencia kapcsolatának kérdését boncolgatják. Nem gondolom, hogy ez valami múló divathóbort miatt lesz - sőt, abszolút szükségesnek vélem! Már most is vannak ilyen könyvek, mégis azt érzékelem, ezek többnyire ugyanabból az irányból közelítenek a mesterséges intelligencia kérdésköréhez: milyen lehetőségeket és főleg veszélyeket rejt az MI a vallásra nézve? Pedig hát, van egy másik lehetőség is: hogy nem az MI a veszélyes, hanem mi vagyunk azok...

A két bejegyzéssel előbb említett Harari remek könyvében az információs hálózatok változásáról értekezik, és ennek kapcsán egy meglehetősen ijesztő példát is felhoz, mely Mianmar országához kapcsolódik. Majdnem tíz évvel ezelőtt a Facebook-ot működtető bizonyos algoritmusok maguktól hoztak meg néhány aktív és végzetes döntést: bizonyos gyűlölködő posztokat ajánlgattak újra meg újra több százezer burmainak. Voltak persze nem gyűlölködő posztok is, de a Facebook ezeket nem preferálta - a békés írások a hírfolyamban igencsak hátrébb sorolódtak.

Miért történt így? Talán az Antikrisztus szelleme uralja a Facebookot? Ebből látszik, hogy a mesterséges intelligencia ördögi vívmány?

Leírni is felesleges, hogy ez hülyeség, hiszen az ok sokkal prózaibb és gyakorlatilag pofonegyszerű. A Facebook-ot sok dologért lehet jogosan kritizálni, ahogy a mögötte álló cég embereit és a fejlesztőket is. De azért tömeges gyilkolászásra és gyűlölködésre nem akarnak senkit buzdítani. Viszont azokban az években a Facebook üzleti modellje úgy működött, hogy maximalizálja a felhasználók elköteleződését (user engagement). Az egész rendszert erre a gondolatra optimalizálták, a futó programok ezt tartották szem előtt, a tanulási metódus számára ez az elv volt a legfontosabb. Ami egyszerűbben megfogalmazva azt jelenti, hogy az üzletnek az a jó, ha minél többen minél több időt töltenek a platformon. Azaz, sokan kattintanak a "megosztás" és a "tetszik" feliratokra, így kiszolgáltatva magukat a hirdetőknek, a piacnak, ezzel felpumpálva a Facebook részvények árát. 

A lényeg azonban most jön: több millió Facebook felhasználó megosztásait figyelve a rendszert működtető gépi algoritmusok kitapasztalták, hogy a gyűlölködéssel érhetik el legegyszerűbben a felhasználói elköteleződés legmagasabb szintjét. Így aztán meghozták a döntést, hogy az ilyen tartalmú posztokat fogják előrébb sorolni és mindenki arcába tolni, ameddig külső programozói utasítás ezt felül nem írta. Ennek köszönhetően tömegesen terjedtek a politikai álhírek, az agresszív posztok és utálatra, erőszakra, fenyegetésre bátorító bejegyzések. Részben ezek miatt aztán a fizikai valóságban, mondhatni a nyílt utcán is brutális gondok támadtak Mianmarban: az ott zajlott etnikai tisztogatások hátterében tehát részben az MI által is generált hullám állt.

Felszínes és buta vélemény lenne erre azzal reagálni, hogy a mesterséges intelligencia egy etnikai tisztogató. Aki így vélekedik, nem érti azt, amit fentebb leírtam.

Hozzuk szóba a kereszténységet! Az előző bejegyzésben lejegyeztem néhány meglátásomat arról a tűzvészről, ami jelenleg Los Angeles környékén zajlik. Az elmúlt napokban sajnos egyre-másra látom, ahogy keresztény testvéreim elképesztő ostobaságokat, hamis és szándékosan félrevezető információt osztogatnak a közösségi felületeken - negatív és pozitív töltetű lódításokat egyaránt. A személyes kedvencem a tűzvészben csodálatos módon megmaradt pirostetős imaház, amit a hazug magyarázat szerint Isten szeretete természetfeletti csodaként óvott meg a lángoktól. Ezt a sztorit az elmúlt néhány órában három ismerősömnél láttam viszont, de jelenleg százak és ezrek terjesztik. (Egyébként a fotókon terjedő házikó tényleg túlélt egy tűzvészt, csakhogy az tavaly történt Hawaii környékén, nem imaházról van szó, a benne lakók nem Istenre hivatkoznak, sőt lelkiismeret-furdalásuk is van a történtek miatt...)

Mindezek után szerintem nem feltétlenül az a kérdés, hogy az MI milyen veszélyt jelent a kereszténységre. A kérdés pont fordított: mi keresztények milyen veszélyt jelentünk az MI algoritmusaira?

Elvégre, tálcán kínáljuk magunkat a hírfolyamot összeállító, a felhasználói elköteleződést fokozni kívánó és erkölcsi szempontból közömbös szubrutinok számára, hogy képtelenségeket terjesszen, amibe Isten nevét és a keresztény hitet is belekeverik. És ez csakis miattunk történik, nem valamilyen ördögien gonosz MI miatt. Nem a mesterséges intelligencia a gonosz, hanem a természetes intelligencia a hanyag - a mesterséges intelligencia csak a mi nemtörődömségünkre, csodák utáni szomjazásunkra, szívet melengető hírek iránti vágyainkra optimalizálja a dolgokat. Azt kapjuk tőle, amit szeretnénk látni, amilyenek vagyunk.

Meggyőződésem, hogy a következő évtizedben az MI jelenléte brutálisan erős és mindent felforgató lesz, amibe természetes módon beletartozik majd a vallási szegmens is. Furcsa is lenne, ha kimaradna, hiszen a vallások eleve az ember egészének megszólítására és valamiféle szellemi befolyásolására törekszenek. Ám szerintem nem attól kell félnünk, hogy a mesterséges intelligencia majd helyettünk ír prédikációt vagy dicsőítő éneket (erre valamilyen szinten már most is képes), hanem attól, hogy túl gyengék leszünk emberként arra, hogy felismerjük a jelenlétét és jól bánjunk vele. Helyesen írja Harari, hogy a veszély nem olyan természetű, amilyennek a népszerű sci-fi filmekben elképzelik. Ez nem a Terminator vagy a Mátrix világa, ahol a gépek fizikai jellegű fenyegetést jelentenek számunkra azzal, hogy szitává lőnek bennünket vagy lecsapolják a testünk energiáját. A helyzet sokkal szövevényesebb és jóval kevésbé direkt. A gépi algoritmusok a humánumra építenek, emberi természetünk gyengeségeire, és ezeket kihasználva arra akarnak majd rábírni, hogy önmagunk egyezzünk bele a saját manipulálásunkba. Ehhez nem kell fizikai fenyegetés, hiszen bizonyos marketingeszközök, politikai megoldások és pszichológiai technikák már így is művelnek velünk folyamatosan valami hasonlót. Csupán ezt kell intelligensebb és nehezebben átlátható szintre emelni.

A fantázia persze itt meglódulhat és bár egyelőre nincs komolyabb realitása, de az MI fejlődése igen furcsa dolgokat is magával hozhat. Mivel ős-Galaktika olvasóként nagy rajongója vagyok a science-fictionnek, engedje meg nekem az olvasó a puszta ötletelést: mi történne akkor, ha az MI valamelyik kreatív, vallásokra kifejlesztett verziója először elkezdene egy nagyon népszerű bibliai teológiát legyártani, amiből később olyan tekintélyű szövegvariánsok is létrejönnének, melyeket az emberi olvasók szinte már "szent hagyományként" kezdenének tisztelni, mint a Biblia legjobb exegézisét? És aztán ahogy telik-múlik az idő, ezek a mesterséges írások szinte egy újfajta keresztény felekezet, esetleg pszeudokeresztény vallás alapkövévé válnak? Létrehozhat az MI egy mesterséges vallást? Kitörhet egy MI által generált "új reformáció"? Ez persze csak lázálomba illő képzelgés - most.

De hát végső soron mi gátolja majd abban a mesterséges intelligenciát, hogy ilyen dolgokat ne hozzon létre?

Tovább