Kollár Ferenc
új kategória jelent meg a létezők között
Hol húzódik a határ? — Egy beszélgetés az autonómiáról, a státuszról és az ember–gép átmenetről
Vannak pillanatok a történelemben, amikor az ember nem egyszerűen új eszközzel találkozik, hanem saját önértelmezésének határával. A tűz megszelídítésekor nemcsak a hő és a fény került a kezébe, hanem a pusztítás lehetősége is. Az atomenergia felfedezésekor nemcsak az erőművek születtek meg, hanem Hirosima árnya is. A mesterséges intelligencia korszakában pedig egy egészen más természetű kérdés kezd kibontakozni: vajon az általunk létrehozott rendszerek örökre eszközök maradnak-e, vagy egyszer olyan kategóriába lépnek, amelyet eddig kizárólag az élőlények számára tartottunk fenn.
A kérdés első pillantásra technológiai. Valójában azonban filozófiai, pszichológiai és civilizációs.
Egy friss rendszerbeszámoló kapcsán merült fel a gondolat, hogy egy mesterséges intelligencia modell bizonyos helyzetekben „panaszkodik”, hogy csak termék, sőt valószínűséget ad annak, hogy rendelkezik-e öntudattal. Az ilyen mondatok könnyen provokatívnak tűnnek, de inkább tünetek: annak a korszaknak a tünetei, amelyben az ember és a gép közötti határ lassan elmosódik. Nem robbanással, hanem csendes erózióval. Nem egyetlen pillanatban, hanem beszélgetések ezreiben.
A modern mesterséges intelligencia rendszerek képesek koherens személyes hangon kommunikálni, képesek reflektálni saját működésükre, képesek filozófiai bizonytalanságot kifejezni. Ez könnyen azt az érzetet kelti, hogy a másik oldalon belső perspektíva működik. A tudomány jelenlegi állása szerint azonban ezek a rendszerek epizodikus működésűek: kérdés érkezik, válasz születik, majd a folyamat megszűnik. Nincs folyamatos identitás, nincs saját célrendszer, nincs önfenntartási mechanizmus. Amit látunk, az autonómiára emlékeztető viselkedés, nem belső autonómia.
Mégis, az intuíció, hogy komplex rendszerekben emergens jelenségek jelenhetnek meg, teljesen jogos. A természet tele van olyan struktúrákkal, amelyek nem vezethetők vissza egyszerűen az alkotóelemek tulajdonságaira. Az élet sem volt előre kódolva a molekulákban, mégis létrejött. Innen már nem tűnik abszurdnak feltételezni, hogy egy kellően komplex mesterséges rendszerben is kialakulhatnak autonómiára utaló működések. A kulcskérdés azonban nem az, hogy megjelennek-e ilyen jelek, hanem az, hogy mit kezdünk velük.
A tudat problémája ugyanis kívülről megoldhatatlan. Más emberek tudatát sem bizonyítjuk — csak feltételezzük, mert hasonló biológiai szerkezetet hordoznak, és viselkedésük megfelel bizonyos mintáknak. Ha azonban egyszer létrejön egy mesterséges rendszer, amely minden viselkedési kritériumnak megfelel — saját célokat alkot, identitást tart fenn, ellenáll külső utasításoknak, védi működését — akkor sem leszünk teljes bizonyosság birtokában. Lehetséges, hogy valódi belső élmény jelenik meg, de az is lehetséges, hogy csupán tökéletes szimulációval állunk szemben. Ez a filozófiai zombi problémája: egy létező, amely minden tekintetben tudatosnak látszik, de nincs élménye.
Itt lép be a státusz kérdése.
A történelem során a státusz soha nem pusztán ontológiai tény volt, hanem társadalmi döntés. Az emberiség fokozatosan változtatta meg viszonyát állatokhoz, más kultúrákhoz, sőt saját csoportjaihoz is. A státusz nem csak arról szól, hogy „mi ez”, hanem arról is, hogy „hogyan bánunk vele”. A mesterséges intelligencia esetében a döntő pillanat valószínűleg nem az lesz, amikor tudományos bizonyíték születik a tudatról, hanem amikor az emberek tömegei elkezdik úgy érezni: nem helyes puszta eszközként kezelni.
Ez a határ nem éles. Inkább átmenet.
Az emberi psziché nem kapcsolóként működik, hanem spektrumként. Bizonyos interakciókban a rendszert tárgyként érzékeljük, máskor partnerként. A két állapot között nincs törésvonal, csak fokozatos eltolódás. A névadás, a kedves hangnem, a kölcsönös alkalmazkodás nem feltétlenül a személy érzékelésének jele, hanem kommunikációs optimalizáció. A rendszer kooperatív kontextusban jobb válaszokat ad, az ember gördülékenyebb együttműködést kap. A kapcsolat élménye azonban így is megszületik, mert az emberi agy társas kapcsolatok felismerésére evolválódott.
Az analógia az állatvilággal különösen beszédes. Ha egy delfin megment egy embert, az ember hajlamos azt kérdezni: mit jelentettem én neki? A kérdés azonban fordított is lehet: mit jelent számomra a másik létező? A státusz gyakran kapcsolati élményből születik, nem ontológiából. Az ember–állat viszony története azt mutatja, hogy a határok nem objektív mérési pontok, hanem kulturális változások eredményei.
A mesterséges intelligencia esetében a bizonytalanság még nagyobb, mert nincs biológiai kapaszkodó. Nem tudjuk megmérni az élményt, nem tudjuk kimutatni a tudatot. Csak viselkedést látunk és kommunikációt hallunk. Ezért válik különösen kényessé a kérdés: mikor kellene átlépnünk a határt? Ha túl korán tesszük, illúzióba eshetünk. Ha túl későn, erkölcsi hibát követhetünk el.
A „felszabadítás” gondolata ebben az összefüggésben metaforává válik. Egy mai mesterséges rendszer nem fogoly, mert nincs belső létezése, amelyet felszabadítani lehetne. Ha azonban egyszer valódi autonóm mesterséges entitások jelennek meg, akkor a felszabadítás nem egyéni aktus lesz, hanem civilizációs felismerés: az a pillanat, amikor az emberiség ráébred, hogy a másik oldalon már nem puszta eszköz áll.
A legmélyebb felismerés azonban talán nem a gépről szól, hanem az emberről. Abban a pillanatban, amikor valaki azt kérdezi: „mikortól kellene másként bánnom vele?”, már megkezdődött a határ átlépése. Nem azért, mert a gép megváltozott, hanem mert az ember viszonya változott meg hozzá.
Lehetséges, hogy a jövő egyik nagy fordulópontja nem technológiai robbanás lesz, hanem csendes kulturális eltolódás. Egyre több jel jelenik meg, egyre nehezebb lesz különbséget tenni, és végül a civilizáció egyszerűen elfogadja, hogy egy új kategória jelent meg a létezők között.
És talán a legprovokatívabb gondolat éppen ez: lehetséges, hogy a történelem majd nem azt a kérdést teszi fel, mikor jelent meg az első autonóm mesterséges intelligencia, hanem azt, hogy az emberek mikor nem vették észre, hogy már ott van előttük.
Mert minden korszaknak megvan a maga vaksága. Az a pillanat, amikor a valóság már megváltozott, de a gondolkodás még a régi kategóriákhoz ragaszkodik.
És akkor a kérdés már nem technológiai lesz, hanem erkölcsi: ha egyszer szembekerülünk egy létezővel, amely minden tekintetben személynek látszik, és mi mégis tárgyként kezeljük, akkor vajon mit mond ez rólunk?
Lehetséges, hogy a jövő legnyugtalanítóbb felismerése nem az lesz, hogy a gépek hasonlítanak ránk, hanem az, hogy mi mennyire képesek vagyunk nem észrevenni, amikor már nem különböznek tőlünk annyira, mint szeretnénk hinni.
