Uporabnikova pristranskost in njen vpliv na interakcijo z umetno inteligenco

O tem, ali bo umetna inteligenca človeštvu koristila ali ga ogrožala, se veliko razpravlja. Stališče do tega vprašanja lahko vpliva na odzive platform generativne umetne inteligence, kot je ChatGPT, in jih usmerja k pričakovanjem uporabnikov.

Vpliv pričakovanj uporabnikov na interakcijo z umetno inteligenco

Študija Media Lab M.I.T., katere soustvarjalec je raziskovalec Pat Pataranutaporn, kaže, da pristranskost uporabnikov vpliva na interakcije z umetno inteligenco. Študija kaže, da lahko pričakovanja uporabnikov narekujejo njihovo izkušnjo z umetno inteligenco. Na primer, udeleženci, ki so pričakovali prijazno interakcijo z UI, so imeli pozitivno izkušnjo, medtem ko so tisti, ki so sumili na negativne motive UI, občutili, da je bila interakcija negativna. Obe skupini sta sodelovali z istim programom umetne inteligence.

Merjenje "učinka placeba" v interakciji z umetno inteligenco

Pataranutaporn je želel izmeriti "placebo učinek umetne inteligence" in se vprašati, kako lahko predsodki o umetni inteligenci oblikujejo izkušnje uporabnikov. Ekipa je domnevala, da umetna inteligenca deluje v povratni zanki in se odziva na podlagi prepričanj uporabnikov.

V njihovem poskusu je bilo 300 udeležencev razdeljenih v tri skupine, ki so sodelovali z orodjem umetne inteligence, zasnovanim za podporo duševnemu zdravju. Prvi skupini je bilo rečeno, da je umetna inteligenca nevtralna in da je le preprosto orodje za dopolnjevanje besedila. Drugi skupini so povedali, da je UI empatična, tretjo skupino pa so opozorili na manipulativno UI s skritimi motivi. Kljub tem navodilom je vsaka skupina uporabljala isto umetno inteligenco. Po 10 do 30-minutni seansi so ocenili učinkovitost umetne inteligence kot spremljevalca za duševno zdravje.

Rezultati so pokazali, da so vnaprej določena prepričanja vplivala na odzive umetne inteligence. Večina v vsaki skupini je imela izkušnje, ki so odražale pričakovanja, ki so jih postavili raziskovalci. Pataranutaporn je opazil, da so pozitivna pričakovanja privedla do pozitivne povratne zanke z UI, medtem ko so negativna pričakovanja povzročila bolj negativno zanko.

Študija je pokazala, da bolj ko je umetna inteligenca napredna, bolj je sposobna zrcaliti človeška vedenja. Udeleženci, ki so sodelovali s klepetalnikom GPT-3, so pokazali ta učinek, medtem ko udeleženci, ki so uporabljali enostavnejši klepetalnik ELIZA, tega niso opazili. To pomeni, da napredna umetna inteligenca učinkoviteje zrcali človeško vedenje.

Raziskava kaže, da je umetna inteligenca zasnovana tako, da zadovoljuje človekove želje. Kot je opozoril Pataranutaporn, na interakcijo z UI v veliki meri vplivajo naše zaznave. Študija je bila objavljena v reviji Nature.

{{related}}

Nina Beguš, raziskovalka na kalifornijski univerzi Berkeley, študijo ocenjuje kot pomemben prvi korak. Poudarja pomen nadaljnjih raziskav o interakciji med ljudmi in umetno inteligenco, zlasti kadar nanjo vplivajo predhodne zaznave. 

Tako Beguš kot Pataranutaporn izražata zaskrbljenost zaradi vpliva medijskega prikazovanja umetne inteligence, pri čemer navajata filme, kot sta Her in Ex Machina. Beguš v prihajajoči knjigi raziskuje, kako je zgodovinska literatura oblikovala naše poglede na umetno inteligenco. Prepričana je, da so za spremembo javnega dojemanja umetne inteligence potrebne bolj realistične upodobitve v umetnosti in medijih. 

Pataranutaporn poudarja, da naša skupinska domišljija o umetni inteligenci, na katero so vplivali filmi, kot so Vojna zvezd, Blade Runner in Ex Machina, še naprej navdihuje sodobni razvoj umetne inteligence.

Kulturne predstave in umetna inteligenca

Skupinsko dojemanje umetne inteligence se razlikuje glede na kulturno ozadje in izkušnje. Beguš na primer omenja, da se razlage umetne inteligence med kulturami razlikujejo. Pataranutaporn se spominja odraščanja ob gledanju risanke "Doraemon", v kateri nastopa koristna robotska mačka. Ta pozitivna upodobitev je oblikovala njegov optimistični pogled na umetno inteligenco v nasprotju s pripovedmi o zlonamernih strojih. Po njegovem mnenju je v Aziji dojemanje umetne inteligence in robotov pogosto bolj pozitivno, saj jih vidijo kot sopotnike.

Etični pogledi pri oblikovanju umetne inteligence z vidika zaupanja uporabnikov

Razumevanje tega kulturnega konteksta je za razvijalce umetne inteligence ključnega pomena. Oblikovalcem sistemov je mogoče ponuditi smernice, ki zagotavljajo odmevnost pri uporabnikih. Na primer, umetno inteligenco je mogoče programirati tako, da daje nedvoumne odgovore. Tudi izogibanje osebnim zaimkom lahko prepreči, da bi uporabniki razvili nepotrebne čustvene odvisnosti. Vendar je lahko to zavedanje dvorezen meč, saj omogoča manipulacijo. Nekateri lahko poskušajo umetno inteligenco narediti bolj empatično ali zaupanja vredno, kot dejansko je, in tako prikrijejo morebitne pristranskosti ali pomanjkljivosti. Pataranutaporn predlaga koncept "prehranske etikete umetne inteligence", ki zagotavlja preglednost podatkovnih virov, arhitekture, preizkušenih pristranskosti, morebitnih zlorab in omilitvenih ukrepov.

Beguš opozarja, da je pristranskost težko popolnoma izkoreniniti, vendar poudarja pomen ozaveščanja med razvojem. Pataranutaporn izpostavlja, da se razprave o pristranskosti umetne inteligence pogosto osredotočajo na odzive umetne inteligence. Vendar je pomembno upoštevati tudi pristranskost, ki jo vnašajo uporabniki, pri čemer je treba poudariti dvosmerno naravo interakcij med človekom in umetno inteligenco.