Nem ritka, hogy egy-egy konferencián, ahol a mesterséges intelligencia pénzügyi felhasználása kerül szóba, felbukkanak olyan hangok, hogy „hát én nem nagyon szeretném, hogy az AI hozzáférjen a pénzügyi adataimhoz, sőt a számlámhoz, nem bízok benne“ — és ez valahol érthető is. De közben az AI itt van, itt lesz, számtalan előnnyel, innovációval és mondhatjuk: paradigmaváltással kecsegtet — az is érthető, ha a vállalatok és az erre fogékony felhasználók ezt mind ki akarják élvezni. Ez az ellentmondás felvet olyan szempontokat, amelyekkel foglalkozni kell.

Mi okozhatja a bizalmatlanságot az AI-megoldások irányában? Annak idején eléggé felkapta a sajtó, hogy az AI-szakembereknek „fogalmuk sincs“, mi történik a rendszeren belül, Roman V. Yampolskiy professzor „fekete doboz“-hasonlata például elég nagyott futott (itt egy Vice-cikk példaként) arról, hogy milyen problémákat okozhat, ha nem értjük pontosan, az AI mit és miért csinál, és milyen előítéletei és tévedései lehetnek. Bár hogy a szakembereknek fogalmuk sincs, az nyilvánvalóan túlzás, de az tény, hogy az átlagfelhasználónak biztosan nincsen, és ez nyilván ok lehet a gyanakvásra a részükről. Például gondoljunk csak egy olyan helyzetre, ha valakinek elutasítják a hitelkérelmét anélkül, hogy pontosan megindokolnák, miért, vagy hogy egy kevésbé éles helyzetet mondjunk: honnan tudom, hogy bízhatok egy befektetési ajánlatban, amit a banki appomban lakó AI javasolt?

Az Amerikai Művészeti és Tudományos Akadémia (American Academy of Arts and Sciences) folyóiratában, a Dædalusban megjelent, „Bizalmatlanság a mesterséges intelligenciában” c. cikkben a kutatók éppen ezt, az ő szavukkal az AI „kifürkészhetetlenségét“ jelölték meg a bizalmatlanság fő okaként, és a „magyarázható AI“-t (explainable AI, XAI) jelölték meg, mint lehetséges megoldást — de erre még visszatérünk.

AI-elfogultság és bizalom: tanulni a múlt hibáiból

Egy másik sokat emlegetett bizalmatlansági faktor, hogy az AI előítéletes vagy elfogult lehet. Egy korai chatbot-fiaskó, a Microsoft által fejlesztett Tay esete jól példázza ezt: mivel arra programozták, hogy tanuljon a felhasználók inputjaiból, csupán pár nap alatt sikerült őt holokauszttagadó rasszistává nevelnie a Twitter furcsa humorú népének. Bár itt szándékos „félrenevelésről“ volt szó, a probléma valós: egy AI-modell a belétáplált hatalmas mennyiségű adaton tanul, az ebben lévő mintákat azonosítja, és ha ez az adattömeg pl. történelmi okokból hordoz bizonyos elfogultságokat, akkor ezt az eredmény is tükrözni fogja. Egy hírhedt esetben az Amazon AI-alapú toborzóeszköze szisztematikusan hátrányba hozta azokat az önéletrajzokat, amelyek a „női” szót tartalmazták (pl. „női sakk-klub kapitánya”), mivel a rendszer túlnyomórészt férfiak által benyújtott, sikeresnek ítélt önéletrajzokon tanult.

A fenti Dædalus-cikk felidézi az esetet is, amikor az Airbnb megvette a Trooly nevű céget, főleg a levédett „személyiségelemző“ AI-algoritmusa miatt, és sokan felhördültek (annak ellenére is, hogy az Airbnb, legalábbis állítása szerint jelenleg nem használja a szoftvert). Az algoritmus közösségi oldalakról, blogokról, és különböző adatbázisok használatával igyekszik megbecsülni, hogy valaki mennyire megbízható — a közvélemény pedig teljesen érthető okokból felemelte az ujját, hogy „na, ezt azért mégse“.

AI, autonómia és a beleegyezés illúziója

A cikk kitér arra a problémára is, hogy az AI minden pozitív képessége ellenére alááshatja a felhasználói szabadság érzését vagy autonómiát azzal, hogy előre kiválaszt opciókat vagy automatikusan meghoz bizonyos döntéseket. Ezt súlyosbítja a beleegyezés illúziója: a hosszú, jogi zsargonnal teletűzdelt adatvédelmi szabályzatok, amelyeket a felhasználók olvasatlanul elfogadnak, nem minősülnek valódi beleegyezésnek.

A probléma jól illusztrálható az ún. autonómia-paradoxonnal: a felhasználók vonzódnak az AI által kínált kényelemhez (pl. prediktív szövegbevitel, automatizált ajánlások), azonban minden egyes automatizálási réteg egy döntési pontot vesz el a felhasználótól. Minél zökkenőmentesebbnek tűnik egy AI-élmény, annál kevesebb tényleges döntési szabadsággal rendelkezhet a felhasználó.

A bizalom kihívásai az AI adoptációjában

Az amerikai Nemzeti Közigazgatási Akadémia (National Academy of Public Administration, NAPA) ezen kívül megemlíti azt az általános bizalmatlanságot, ami napjainkat jellemzi, a társadalmak polarizáltságát, az interneten könnyen terjedő hamis információkat, és az ezek nyomán jelentkező kételkedést a hivatalos szervezetekben vagy magában a tudományban, ami mind átszivárog az AI megítélésébe is. (Például hogy az AI „csak egy újabb eszköz a hatalmasok kezében.“)

Mindezek a fenntartások természetesen még erősebben jelentkezhetnek a pénzügyi szektorban: ezekre a cégekre a pénzünket és sokszor a legérzékenyebb adatainkat bízzuk, így az átláthatóság és a bizalom alapvető fontosságú. Nem véletlen, hogy az IMF is terjedelmes jelentésben foglalkozott a kérdéssel, amelyben hangsúlyozták az állami szabályozás és az erős etikai irányelvek fontosságát.

Az AI iránti bizalmatlanság anatómiája

A bizalmatlanság abból a különbségből is fakad, ami az emberi pszichológia és a komplex AI-rendszerek természete között feszül. Az ember alapvetően keresi az ok-okozati összefüggéseket, hogy mentális modelleket építhessen a világ működéséről. Ez adja a kiszámíthatóság és a kontroll érzését. Ezzel szemben sok fejlett AI – különösen a neurális hálózatokon alapuló mélytanulási modellek – belső döntéshozatali folyamatai gyakran még az azt létrehozó mérnökök számára is átláthatatlanok. Ez az átláthatatlanság megakadályozza a felhasználókat abban, hogy koherens mentális modellt alkossanak a rendszer logikájáról. Nézzük meg a bizalmatlanság legfőbb okait.

A közvélekedés szerint a bizalom növelésének kulcsa az AI-rendszerek átláthatóbbá tétele. A logika szerint, ha a felhasználók megértik, hogyan működik egy AI, jobban megbíznak benne. A Pennsylvaniai Egyetem és az MIT kutatóinak egy mérföldkőnek számító kutatása azonban rávilágít, hogy ez a feltételezés nem teljesen helytálló. A kutatás egyértelműen kimutatta, hogy a laikus felhasználók bizalmát sokkal inkább a demonstrálható teljesítmény és a megbízhatóság befolyásolja, mint a belső folyamatok magyarázata. A felhasználók a rendszer kézzelfogható eredményei és sikeres működése alapján építenek vagy veszítenek bizalmat, nem pedig az algoritmusok megértése révén.

Hogyan segíthet a UX a bizalmi válság megoldásában?

A bizalom kiépítése nem egy felületre „tervezhető” funkció, hanem egy olyan rendszer alapvető tulajdonsága, amely megbízható, pontos és méltányos. A UX-tervezés szerepe, hogy ezt a belső integritást kommunikálja a felhasználó felé, és gyakorlati eszközöket adjon a kezébe.

1. Magyarázható AI (XAI) és a teljesítmény kommunikálása

Ahogy láttuk, a felhasználói bizalom legfőbb mozgatórugója a demonstrálható teljesítmény. A UX-nek tehát olyan felületeket kell terveznie, amelyek egyértelműen kommunikálják az AI sikeres eredményeit és konkrét előnyeit. Az XAI szerepe itt válik kritikussá, de nem a laikus felhasználó közvetlen meggyőzésében. Az XAI a megbízható rendszer felépítésének eszköze, amely segít a fejlesztőknek a hibakeresésben, az etikus ellenőrzésben, és lehetővé teszi a szakértő felhasználók számára, hogy megalapozottan integrálják az AI javaslatait. A UX feladata, hogy ezeket a magyarázatokat a megfelelő kontextusban, érthetően tálalja.

A gyakorlatban ez többféleképpen valósulhat meg.

• A helyi magyarázatok megmutatják, miért kapott a felhasználó egy adott, személyre szabott ajánlást (pl. „Azért ajánljuk ezt, mert nemrég megtekintetted az X terméket.”).
• A jellemzőfontosság vizuálisan rangsorolja, hogy egy döntésben mely tényezők bírtak a legnagyobb súllyal (pl. egy biztosítási díj kalkulációjánál a vezetési múlt magas, míg a jármű kora közepes hatással bírt).
• Az ellen-tényszerű magyarázatok konkrét, cselekvésre ösztönző tanácsot adnak, például megmutatják, minek kellene változnia egy elutasított hitelkérelem pozitív elbírálásához.
• A példaalapú magyarázatok pedig egy elemző számára mutathatnak egy korábbi, hasonló esetet, ami segít megérteni a jelenlegi döntés logikáját.

2. A felhasználói kontroll és az „értelmes súrlódás” megtervezése

A designnak a felhasználói szabadság érzetének erősítésében is hatalmas szerepe van. Az egyensúlyt UX-szinten olyan megoldásokkal lehet segíteni, mint például az AI állítható autonómiája. Azonban a tervezőknek tudatosan kell kezelniük az autonómia-paradoxont. A megoldás az értelmes súrlódás (meaningful friction) tervezése: stratégiailag vissza kell helyezni a döntési pontokat oda, ahol a felhasználói autonómia a legkritikusabb (pl. adatmegosztási engedélyek, pénzügyi tranzakciók). Emellett elengedhetetlenek a visszavonás gombok, a visszajelzési lehetőségek és az emberi felülvizsgálat beiktatása az érzékeny döntéseknél.

3. Az előítéletesség kezelése a gyakorlatban

Az indiai nemzeti AI-portál (INDIAai) anyaga is kiemeli a változatos adatokon való tréningezés és az emberi felügyelet fontosságát. A gyakorlatban ez a következőket jelenti:

• Inkluzív kutatás és tesztelés: Aktívan be kell vonni a különböző demográfiai, kulturális és képességbeli csoportokból származó felhasználókat a tervezési folyamat minden szakaszába.
• Robusztus visszajelzési mechanizmusok: Könnyen elérhető csatornákat kell biztosítani a felhasználóknak, hogy jelezhessék a vélt torzításokat vagy hibákat.
• Előítélet-audit és „Red Teaming”: Rendszeresen, formális auditokkal kell vizsgálni az adatokat és modelleket, valamint „red team” (ellenséges) gyakorlatokat kell végezni, ahol egy dedikált csapat megpróbálja „megtörni” a rendszert, hogy feltárja a nem szándékolt káros következményeket.

Szabályozás és etikai keretrendszerek

Mostanra a hivatalos szervek és az iparági vezetők is felismerték a szabályozás fontosságát. A különböző keretrendszerekben figyelemre méltó konszenzus alakult ki a felelős AI alapelveiről.

Az Európai Unió AI-jogszabálya elsősorban a veszélyek kezelésére koncentrál. Az OECD-országok által elfogadott AI-alapelvek esetében a hangsúly inkább az emberi jogok és a demokratikus értékek védelmén van, az UNESCO által kiadott ajánlás pedig a befogadó, békés és igazságos társadalmak támogatására fókuszál.

Az iparági vezetők (pl. IBM, Google) által kidolgozott keretrendszerek is hasonló alapelveken nyugszanak, ami egyfajta globális sztenderd kialakulását sejteti. Bár a megfogalmazásuk eltérő, a közös pontok egyértelműek: szinte mindegyik keretrendszer hangsúlyozza a méltányosságot és a torzítások elleni küzdelmet, az átláthatóságot és a magyarázhatóságot, a világos elszámoltathatóságot és felelősségi köröket, a szigorú adatvédelmet, valamint az emberközpontúságot mint vezérelvet.

Etikus AI: a bizalomra épülő üzleti modell

Bár mindezeket a szabályozásokat és ajánlásokat könnyű úgy látni, hogy gúzsba kötik a fejlődést, a valóság az, hogy az etikus AI-használat az UX-ban nemcsak erkölcsileg helyes, de üzleti szempontból is megéri. Az elvek önmagukban nem elegendőek. Az etikát a mindennapi működésbe kell ágyazni:

1. Legyen az emberközpontú tervezés (HCD) az alapfilozófia: Egy AI-rendszer nem lehet méltányos, ha nem a felhasználók mély, empatikus megértésével tervezték. Az átláthatóság is értelmetlen, ha a magyarázatok a felhasználó számára érthetetlenek.
2. Multifunkcionális csapatok: Az etikus AI nem lehet egyetlen osztály felelőssége. A fejlesztési folyamat legelejétől kezdve be kell vonni az AI-mérnökök és UX-tervezők mellett jogászokat, etikai szakembereket és témaszakértőket is.
3. „Építők, nem bírák” mentalitás: Az etikai szakértőknek nem a folyamat végén ítélkező kapuőröknek kell lenniük, hanem a termékfejlesztő csapatokba beágyazott tagoknak, akik már a kezdetektől segítik az etikai szempontok beépítését a rendszer architektúrájába.

Ahogy láttuk, a felhasználói bizalom az, ami igazából megtérül. Ha egy usernél megnyerjük ezt a bizalmat — mert a termék, felület, az AI-használat átlátható és érthető, nem részrehajló, fenntartja a felhasználói autonómia érzését, sőt láthatóan elkötelezett a tisztesség irányába — végső soron több és elkötelezetebb felhasználót kapunk, akik szívesebben is ajánlják a szolgáltatásunkat, termékünket másoknak.

Az etikus AI-használat hozzátehet a brand megítéléséhez, és persze megelőzheti azokat a jogi problémákat, amelyek a még mindig dinamikusan változó szabályozási környezetben előállhatnak. Ahogy az amerikai Akadémia fogalmaz: „Az entitásoknak versenyezniük kell a piacon a bizalomért és a hírnévért, külső megfigyelők általi minősítésekkel kell szembenézniük, és hozzá kell járulniuk az iparági szabványok kidolgozásához. A bizalmat ki kell érdemelni.“