Kvinde delte billede af 3 hunde på Facebook: Endte med at koste hende 320.000 kroner.

Det er velkendt, at kunstig intelligens ikke altid fremstiller mennesker og ting helt præcist, men nu ser det ud til, at dens fortolkning af billeder kan være endnu mere problematisk.

Meta, moderselskabet bag Facebook og Instagram, forsøger at stramme op på håndteringen af upassende indhold på deres platforme. Og til dette formål bruger de tilsyneladende AI.

Men en kvinde endte med at få sig lidt af et chok og en stor regning, da Meta markerede et uskyldigt billede af hendes tre hunde for at overtræde retningslinjerne omkring ‘seksuel udnyttelse, overgreb og nøgenhed relateret til børn’.

Da hun appellerede afgørelsen og sendte 22 e-mails til Meta, opdagede hun, at der ikke var ét eneste menneske, hun kunne tale med om sagen.

Den australske virksomhedsejer modtog ingen hjælp fra Meta, som i stedet valgte at suspendere hendes konto som følge af billedet.

“Da det først skete, troede jeg bare, det var en dum fejl, som hurtigt kunne rettes – måske på en time,” sagde hun til Daily Mail.

“Jeg appellerede, og ret hurtigt modtog jeg besked fra Meta om, at mine konti var permanent deaktiveret uden mulighed for yderligere handling.”

Rochelle Marinato er administrerende direktør for Pilates World Australia og er stærkt afhængig af sociale medier for at få virksomheden til at fungere.

“Vi var midt i vores afsluttende udsalg for regnskabsåret, så det var virkelig dårlig timing. Jeg brugte tre uger på at undersøge, hvordan jeg kunne få kontoen tilbage. I den periode faldt vores omsætning med 75 procent,” sagde hun.

“For en lille virksomhed som vores er sociale medier altafgørende. Alt gik i stå, da vores konti blev suspenderet.”

Ifølge Marinato kostede det hendes virksomhed 50.000 dollars at miste adgangen til kontoen, hvilket svarer til omtrent 320.000 danske kroner.

“Jeg lavede en simpel sammenligning med sidste år, bare for at være sikker på tallene, og det kostede mig omkring 50.000 dollars,” sagde hun.

Ud over det økonomiske tab var Marinato mest rystet over at blive beskyldt for noget så alvorligt.

“Det er en forfærdelig og modbydelig beskyldning at få kastet i hovedet og blive forbundet med. Folk vil tro, at vi har gjort noget forkert, siden vi har mistet vores konto,” lød det også fra hende.

Det kom senere frem, at Metas AI-system fejlagtigt havde tolket billedet af hendes hunde som ‘seksuel udnyttelse, overgreb og nøgenhed relateret til børn’.

“Det er skræmmende, at AI har den slags magt og samtidig kan tage så meget fejl. Vi kan være på vej ud ad en farlig glidebane,” fortsatte hun.

Problemerne blev værre, da hun fandt ud af, at hun ikke kunne få kontakt til et rigtigt menneske i forbindelse med suspenderingen.

“Jeg kunne ikke få et menneske til at se på sagen. Det er klart, at enhver person, der ser dette billede, straks vil kunne se, at det er helt uskyldigt,” sagde hun.

“Man kan ikke kontakte et menneske hos Meta. Der er ikke noget telefonnummer, ingen e-mail, ingenting – man bliver fuldstændig efterladt i mørket.”