Med den voksende udbredelse af AI-genererede billeder, står sociale medieplatforme og lovgivere over for nye udfordringer i bekæmpelsen af digitalt misbrug. Et dugfrisk eksempel er sagen om Taylor Swift. Her har det sociale medie X taget det drastiske skridt for at håndtere spredningen af falske billeder af sangerinden helt at blokere for søgninger på navnet. Det skriver BBC.
Joe Benarroch, chef for forretningsoperationer hos X, betegnede blokeringen som en "midlertidig handling" med fokus på sikkerhed. Dette skridt blev taget, efter at falske billeder af Swift, genereret ved hjælp af kunstig intelligens, begyndte at cirkulere og blev set millioner af gange.
Platformens reaktion var hurtig: "Vi har en nul-tolerance politik overfor sådant indhold," udtalte de, idet de forpligtede sig til aktivt at fjerne de identificerede billeder og tage skridt mod de ansvarlige konti. Men dette rejser spørgsmål om platformenes kapacitet og ansvar i bekæmpelsen af digitalt misbrug.
Problemet med deepfake-billeder har også vakt bekymring på højeste politiske niveau. Det Hvide Hus's pressesekretær, Karine Jean-Pierre, udtrykte alarm over spredningen af disse billeder og understregede, at kvinder og piger er de primære ofre for denne type misbrug. Hun opfordrede til lovgivningsmæssige tiltag og en aktiv rolle fra sociale medier i bekæmpelsen af misbrug af AI-teknologi.
En undersøgelse fra 2023 viste en 550% stigning i skabelsen af manipulerede billeder siden 2019. Mens der endnu ikke findes føderale love mod deepfake-billeder i USA, har Storbritannien taget skridt i denne retning med deres Online Safety Act i 2023, der gør deling af deepfake-pornografi ulovligt.
