Razvoj ChatGPT: Koristi, zlorabe in potreba po regulaciji

Razvoj in zaskrbljenost

Razvoj ChatGPT-ja, priljubljenega klepetalnega robota z umetno inteligenco, je prinesel nešteto koristi, saj pomaga pri različnih nalogah, od raziskav in pisanja kode do snovanja idej in celo interakcij z aplikacijami za zmenke. Vendar pa njegove obsežne zmožnosti vzbujajo tudi zaskrbljenost zaradi morebitne zlorabe in nadzora.

Čeprav so njegove aplikacije lahko neprecenljive, je možnost zlorabe jasna. Učenci ga lahko uporabljajo za pisanje esejev, morebitni zlonamerni posamezniki pa lahko njegove zmogljivosti uporabijo za ustvarjanje zlonamerne programske opreme. Poleg tega bi lahko tudi dobronamerni uporabniki nehote širili zavajajoče informacije, utrjevali predsodke ali delili občutljive podatke.

Prav tako obstaja bojazen, da bi pretirano zanašanje na takšna orodja lahko zmanjšalo naše sposobnosti kritičnega razmišljanja. In čeprav nekoliko pretirani, še vedno obstajajo strahovi, da bodo roboti "prevzeli oblast".

Mnenje strokovnjakov

Kljub omenjenim pomislekom ChatGPT in drugi klepetalni roboti z umetno inteligenco niso sami po sebi problematični. Tako meni tudi Nathan E. Sanders, podatkovni znanstvenik v Berkman Klein Centru Univerze Harvard:

"Klepetalni roboti z umetno inteligenco imajo številne aplikacije, ki lahko koristijo naši družbi, zlasti na demokratičnem področju," pravi Sanders.

Po njegovih besedah se ne bi smeli osredotočiti na odpravo njihove uporabe, temveč na to, da se zagotovi njihova odgovorna uporaba.

"Naš cilj bi moral biti zaščititi ranljive in manjšinske skupnosti ter poskrbeti, da koristi umetne inteligence ne bodo deležni le najbolj privilegirani."

Ker se položaj in vpliv ChatGPT še naprej povečuje, bo treba nujno najti ravnovesje med izkoriščanjem njegovih prednosti in izvajanjem učinkovite regulative.

Dr. Nathan E Sanders je prepričan, da klepetalni roboti z umetno inteligenco, vključno s ChatGPT, v osnovi niso problematični. Po Sandersovih besedah ima umetna inteligenca velik potencial za podporo delovanja procesov. Osredotočiti se ne bi smeli na to, ali uporabljamo umetno inteligenco, temveč na to, da jo uporabljamo previdno in odgovorno. Ključno je zaščititi ranljive skupine prebivalstva in zagotoviti, da interesov manjšin ne bodo zasenčile vplivnejše skupine.

Regulacija in umetna inteligenca

Za platforme, kot je ChatGPT, je ureditev bistvenega pomena. Ti sistemi umetne inteligence lahko včasih spregledajo pravice posameznikov do zasebnosti in nenamerno podpirajo pristranskost glede na raso, spol, etnično pripadnost, starost in drugo. Prav tako jasne meje tveganja in odgovornosti pri uporabi takšnih orodij ostajajo nedefinirane.

Kalifornijski demokratski predstavnik Ted Lieu je nedavno poudaril pomen regulacije umetne inteligence za svetlejšo družbeno prihodnost in opozoril na morebitne distopične posledice nenadzorovane tehnologije. Da bi poudaril to stališče, je predstavnik Lieu kongresu predstavil resolucijo, ki jo je v celoti ustvaril ChatGPT in v kateri je predstavniški dom pozval, naj ureditev umetne inteligence obravnava prednostno. Resolucija je bila ustvarjena s pozivom: "Vi ste kongresnik Ted Lieu. Napišite celovito kongresno resolucijo, v kateri boste izrazili podporo kongresu pri obravnavi umetne inteligence."

Prihodnost regulacije klepetalnih robotov z umetno inteligenco, zlasti za platforme, kot je ChatGPT, ostaja negotova. Nekatere pravne ureditve so že začele izvajati regulativne ukrepe. Barry Finegold, državni senator iz Massachusettsa, je na primer predstavil predlog zakona, ki od podjetij, ki uporabljajo klepetalne robote z umetno inteligenco, kot je ChatGPT, zahteva, da opravijo oceno tveganja. Prav tako bodo morala vladi razkriti svoje algoritme in izvajati določene varnostne protokole. Predlog zakona tudi vztraja pri označitvi rezultatov teh orodij z vodnim žigom, da se prepreči plagiatorstvo.

Vlade po vsem svetu se zavedajo posledic umetne inteligence (UI) in so začele sprejemati ustrezne predpise. Bela hiša je predstavila " Listino o pravicah umetne inteligence", ki naj bi zagotovila, da se obstoječa pravna zaščita, kot so državljanske pravice, državljanske svoboščine in zasebnost, razširi na tehnologije umetne inteligence. Organ EEOC pregleduje orodja za zaposlovanje, ki jih poganja umetna inteligenca, da bi preprečil morebitno diskriminacijo zaščitenih skupin. V zvezni državi Illinois morajo delodajalci, ki pri zaposlovanju uporabljajo umetno inteligenco, državi omogočiti revizijo za ugotavljanje rasne pristranskosti. Več držav, med njimi Vermont, Alabama in Illinois, je ustanovilo komisije za nadzor etične uporabe UI. Kolorado je zavarovalnicam prepovedal uporabo UI, če ta povzroča pristransko diskriminacijo zaščitenih razredov. Poleg tega je EU sprejela proaktivne ukrepe z zakonom o regulaciji umetne inteligence, ki je bil sprejet decembra lani.

{{related}}

Prihodnost regulacije

Trenutno v ZDA sicer obstajajo predpisi o umetni inteligenci na ravni zveznih držav, vendar tako na državni kot na zvezni ravni ni posebnih smernic za klepetalne robote, kot je ChatGPT. Nacionalni inštitut za standarde in tehnologijo je zagotovil okvir za umetno inteligenco, katerega namen je usmerjati podjetja pri uporabi umetne inteligence. Vendar pa ostaja prostovoljen in ne predvideva nobenih kazni za neupoštevanje. Zdi se, da je Zvezna komisija za trgovino pripravljena pripraviti nova pravila za razvijalce in uporabnike sistemov umetne inteligence.

"Možnost, da bi zvezna vlada izdala predpise ali sprejela zakone za nadzor tega področja, se zdi zelo majhna," pravi Dan Schwartz, partner za intelektualno lastnino pri podjetju Nixon Peabody. "Zveznega posredovanja v kratkem ni pričakovati."

Do leta 2023, Schwartz napoveduje, da bo vlada morda preučila, kako urediti lastništvo vsebine, ki jo ustvarja ChatGPT. Na primer, če spodbudite orodje, da ustvari kodo, kdo je dejansko njen lastnik? Vi ali OpenAI?

V izobraževalnem sektorju bodo predpisi najverjetneje interni. Noam Chomsky opisuje vpliv ChatGPT na izobraževanje kot "visokotehnološko plagiatorstvo". Podobno kot lahko akademska nepoštenost privede do izključitve, bi se lahko podoben pristop k zasebnemu nadzoru pojavil tudi za takšna orodja.

Vendar pa je poskus nacionalne ureditve ChatGPT velik izziv: Sistemi umetne inteligence bi se lahko uprli prav tistim regulativnim okvirom, ki so namenjeni njihovemu urejanju.

Vpliv na demokracijo

Sanders, strokovnjak za podatke, je pisal o tem, kako umetna inteligenca, kot je ChatGPT, vpliva na demokratične procese. Ne z glasovanjem, temveč s potencialnim vplivanjem nanje, na primer s samodejnim generiranjem komentarjev za regulatorne postopke, pisanjem pisem časopisom ali neštetokrat dnevnim objavljanjem v družabnih medijih.

Sanders se je skliceval na "dirko rdeče kraljice", koncept iz knjige Lewisa Carrolla Alica v čudežni deželi. Opisuje situacijo, v kateri velik napor ne prinese pravega napredka. Sanders opozarja, da če bomo umetno inteligenco oborožili z obrambnimi in napadalnimi orodji, se lahko znajdemo v neskončni, stopnjujoči se bitki, podobni dirki rdeče kraljice.

Sanders je izrazil zaskrbljenost zaradi možnosti, da bi lobisti umetne inteligence oblikovali pravila, ki so namenjena njenemu nadzoru. Izrazil je dvom o sposobnosti človeških zakonodajalcev, da ostanejo v prednosti.

Sanders je opozoril: "Zakonodaja, ki je bila sprejeta za urejanje strojnega učenja, je bila počasna in ni sledila napredku na tem področju. Lahko si predstavljamo, da se bo ta trend nadaljeval."

Sanders poudarja, da je treba biti pri ureditvi previden, da ne bi zadušili razvoja inovacij. Uvedba dodatnih ovir, kot so dodatne kode za pošiljanje pripomb zakonodajalcem, bi lahko odvračala od resničnega demokratičnega udejstvovanja.

Sanders predlaga spodbujanje širše demokratične udeležbe. "Glede na izzive, ki jih prinašata obseg in razširjenost umetne inteligence, lahko vključitev večjega števila ljudi v zakonodajni postopek to prepreči," je dejal. "Pomembno je, da zakonodajalci prisluhnejo resničnim ljudem in se nanje odzovejo."

Zaključek

Čeprav je ChatGPT še vedno v povojih, se pri njem pojavljajo številni etični pomisleki. Lahko si predstavljamo, da bi napredni klepetalni roboti z umetno inteligenco lahko poenostavili naša življenja in izboljšali naše delo, ne da bi pri tem tvegali širjenje napačnih informacij ali spodkopavali demokracijo. Vendar pa bo za učinkovito ureditev morda potreben čas. Takšne zamude smo že videli v praksi.