Sora, podjetja OpenAI spreminja besedila v video posnetke

Na prvi pogled bi lahko videoposnetek zamenjali za stilski glasbeni videospot ali avtomobilsko reklamo. Prikazuje žensko s sončnimi očali, ki se samozavestno sprehaja po živahni nočni mestni ulici, njena oblačila in zlati uhani pa z vsakim korakom lovijo svetlobo. Toda ta prizor ni posnetek iz televizijskega oglasa ali glasbenega videospota; sploh ne prikazuje resničnosti. Ženska in mestno ozadje sta popolnoma izmišljena, ustvarjena s pomočjo naprednega orodja OpenAI za pretvorbo besedila v video, imenovanega Sora. Ta najnovejša inovacija ustvarjalcev Dall-E in ChatGPT spreminja preproste slike ali besedilne napotke v zelo realistične videoposnetke, rezultate pa doseže v nekaj minutah.

Podjetje OpenAI je orodje Sora predstavilo 15. februarja, vendar še ni na voljo širši javnosti. Tehnologijo trenutno ocenjuje skrbno izbrana skupina umetnikov in varnostnih strokovnjakov, ki raziskujejo njene možnosti za ustvarjalno izražanje in ugotavljajo morebitne zlorabe. Kljub omejenemu dostopu je OpenAI v objavi v napovedniku in na osebnem profilu izvršnega direktorja Sama Altmana na portalu X (prej znanem kot Twitter) prikazal več primerov zmogljivosti Sore.

Realistično, a nerealno: Sora je dvorezen meč

Sora se odlikuje po tem, da lahko ustvarja videoposnetke izjemne dolžine in realistične kakovosti, kar pomeni pomemben napredek na področju tehnologije videoposnetkov, ki jih ustvarja umetna inteligenca. Strokovnjaki na tem področju so presenečeni nad dovršenostjo orodja. Jeong Joon Park, docent, specializiran za generativno 3D modeliranje na univerzi v Michiganu, je opozoril, da je napredek presegel njegove napovedi in postavil pod vprašaj časovni okvir, ki ga je prej predvideval za dosego tako realističnega ustvarjanja videoposnetkov. Podobno tudi Ruslan Salakhutdinov z univerze Carnegie Mellon priznava impresivno kakovost in zmogljivosti programa Sora glede na svoje izkušnje na področju ustvarjanja videoposnetkov na podlagi strojnega učenja.

Hiter razvoj orodij, kot je Sora, poudarja hiter napredek tehnologij umetne inteligence, ki ga spodbujajo znatne naložbe. Vendar pa pojav takšnih inovacij vzbuja tudi nujne pomisleke glede njihovega vpliva na zaposlovanje v ustvarjalnih panogah in možnosti za poslabšanje digitalnih dezinformacij.

{{related}}

Sora je najnovejša inovacija podjetja OpenAI, ki na podlagi besedilnih pozivov ustvarja do 60 sekund dolge videoposnetke. Čeprav ta tehnologija ni prelomna v svojih tehnikah strojnega učenja, je pomemben napredek. V bistvu razširja obstoječe metode z uporabo večjih zbirk podatkov in modelov. Za razliko od generatorjev slik Sora besedilo obdela v dinamična video zaporedja in ne v statične slike. To je mogoče doseči s prefinjenim sistemom, ki dekodira besedilo v časovne in prostorske elemente za ustvarjanje koherentnih video posnetkov. Kljub impresivni zmogljivosti strokovnjaki opozarjajo, da je Sora odvisna od obsežnih podatkov za usposabljanje in računalniške moči. Skrivnostni razvojni proces OpenAI in uporaba potencialno sintetičnih podatkov sta bila predmet ugibanj.

Od tehnologije do etičnih dilem

Čeprav je Sora napredna, njeni rezultati niso brez pomanjkljivosti. Podrobnosti v videoposnetkih, ki jih ustvarja, kot so gibanje tkanine in skladnost videza predmetov, so pogosto premalo realistične. Ta odstopanja skupaj z nemoteno naravo premikanja kamere kažejo, da je še veliko prostora za izboljšave. Podobnost tehnologije z vizualnimi podobami iz video iger prav tako nakazuje uporabo sintetičnih podatkov za usposabljanje.

Z razvojem ustvarjanja videoposnetkov z umetno inteligenco tehnologija obeta revolucijo pri ustvarjanju vsebin, saj bo odprla nove možnosti za domišljijo in odpravila ovire na področjih, kot je filmsko ustvarjanje. Vendar pa ta napredek prinaša tudi številne polemike, zlasti v zvezi z avtorskimi pravicami. Vključitev avtorsko zaščitenega gradiva v podatke za usposabljanje sproža pomisleke glede pravic intelektualne lastnine. Zgodili so se že primeri, ko je vsebina, ki jo je ustvarila Sora, natančno zrcalila obstoječe videoposnetke, zaščitene z avtorskimi pravicami, kar je sprožilo razprave o etičnih posledicah medijev, ki jih ustvarja umetna inteligenca.

Pojav generativne umetne inteligence, kot je orodje za generiranje vsebin Sora, vzbuja veliko zaskrbljenost zaradi širjenja dezinformacij in napačnih informacij na spletu. Hany Farid, strokovnjak za odkrivanje globokih lažnih vsebin, opozarja na tveganje, da bi lahko Sora in podobne platforme še povečale širjenje škodljivih vsebin, vključno z globoko lažno pornografijo in politično propagando. Te platforme namreč lahko ustvarjajo lažne videoposnetke, ne da bi za to potrebovali prave posnetke, kar uporabnikom olajša ustvarjanje in razširjanje zavajajočih vsebin.

Podobno strokovnjak za digitalno forenziko Siwei Lyu opozarja na izzive, s katerimi se soočajo običajni uporabniki družbenih medijev, ko naletijo na videoposnetke, ustvarjene z umetno inteligenco. Ti videoposnetki so lahko zelo zavajajoči, trenutni algoritmi za odkrivanje pa jih težko prepoznajo kot ustvarjene z umetno inteligenco, saj so le malo boljši od naključja.

{{related}}

Koraki OpenAI k varnejšim videoposnetkom umetne inteligence

Organizacija OpenAI je sprejela ukrepe za izboljšanje varnosti sistema Sora, vključno s postopnim sproščanjem in izvajanjem vsebinskih smernic. Sprejeli so tudi standard Coalition for Content Provenance and Authenticity (C2PA), da bi pomagali izslediti izvor vsebine. Vendar Farid in Lyu opozarjata, da ti ukrepi morda ne bodo v celoti zmanjšali tveganja zlorabe, saj lahko odločni posamezniki najdejo načine, kako zaobiti varnostne protokole.

Irene Pasquetto, docentka, ki preučuje dezinformacije, poudarja, da vprašanje dezinformacij presega podjetje Sora. Trdi, da bi lahko preveliko osredotočanje na potencialne nevarnosti orodij umetne inteligence, kot je Sora, zasenčilo širše vprašanje dezinformacij. Pasquetto poudarja, da zmožnost manipuliranja z videoposnetki ni nova in da se lahko dezinformacije širijo s preprostimi metodami, kot je napačno označevanje resničnih videoposnetkov. Zavzema se za odpravljanje temeljnih vzrokov spletnih dezinformacij s socialnimi, zakonodajnimi in izobraževalnimi prizadevanji, hkrati pa priznava, da preproste rešitve ni.

Pasquetto svari tudi pred pretiravanjem v zvezi z umetno inteligenco in opozarja, da lahko podjetja zaradi finančnih koristi pretiravajo z zmogljivostmi svojih modelov, tudi če ta orodja veljajo za družbeno grožnjo. Javnosti svetuje, naj ostane skeptična glede pristnosti predmetov, krajev in ljudi v videoposnetkih, ter poudarja potrebo po kritičnem pristopu k uživanju digitalnih vsebin.