OpenAI har afsløret Sora, deres nyeste kunstige intelligenssystem, som er i stand til øjeblikkeligt at generere videoer i høj kvalitet.
Sora, der er opkaldt efter det japanske ord for himmel, lover et ubegrænset kreativt potentiale, men vækker bekymring for potentielt misbrug. Teknologien, som er blevet delt med en udvalgt gruppe testere, kan producere fantastiske billeder ud fra simple tekstbeskeder, såsom uldne mammutter, der vandrer gennem sneen, eller travle Tokyo-gader midt på en snevejrsdag.
Se også: Hvad kan man gøre med AI?
Frygter misbrug til desinformation
Mens dette fremskridt indvarsler en ny æra for filmproduktion og digital kunst, frygter eksperter dets konsekvenser for desinformationskampagner, især i følsomme områder som politiske valg.
Oren Etzioni, professor ved University of Washington er bekymret for, at denne type kunstig skabt men meget overbevisende videoer kan påvirke den offentlige mening og forværre udfordringen med at skelne sandhed fra løgn online.
“Jeg er helt skrækslagen for, at den slags vil påvirke et snævert valg,” siger Oren Etzioni, der har specialiseret sig i kunstig intelligens. Han er også grundlægger af True Media, en nonprofit-organisation, der arbejder på at identificere desinformation online i politiske kampagner.
Se også: De bedste mobilabonnementer
Forskere skal evaluere potentielle risici ved Open AIs Sora
OpenAI’s forsigtige tilgang afspejler denne bekymring. Virksomheden afholder sig fra at offentliggøre videoerne bredt og vælger i stedet at engagere en lille kreds af akademikere og forskere til at evaluere potentielle risici. Vandmærkning af videoer som A.I.-genererede giver en vis gennemsigtighed, men der er stadig bekymring for, om de kan fjernes eller skjules.
Da disse teknologier fortsætter med at udvikle sig, er det fortsat vigtigt at finde en balance mellem innovation og ansvarlighed. Mens Sora viser AI’s utrolige potentiale ud i kreative bestræbelser, afhænger dens ansvarlige anvendelse af grundig evaluering og sikkerhedsforanstaltninger mod misbrug. Fremtiden for skabelse af digitalt indhold er spændende, men den kræver også et årvågent tilsyn for at navigere i dens etiske kompleksitet.
Sora tilhører området for generativ AI, der er i stand til at skabe multimedieindhold ud fra tekstlige beskrivelser. Dens hurtige udvikling afspejler andre A.I.-teknologier som DALL-E, der har udviklet sig fra mest at være til sjov og ballade til næsten 1:1 fotorealisme på blot et par år.
Se også: Nyheder om AI