A Facebookon és az Instagramon is egyre nagyobb gondokat okoznak az AI-generálású tartalmak, ezen belül külön kategóriás képvisel az AI-generálta celebpornó. A Meta függetlenül működő, de a cég által finanszírozott felügyelőbizottsága úgy döntött, megvizsgálja, hogyan kezeli a cég ezt a kérdést, illetve mennyire hatékonyan az irányelvei, a gyakorlatai az AI-alapú, hamis pornó kapcsán.

A téma azért aktuális, mert két női hírességről is ilyen tartalmak keringtek a Facebookon és az Instagramon. Azt nem árulták el, hogy kiket érintettek ezek, mert szeretnék a további károkat megelőzni. Mindössze annyit mondtak el, hogy milyen csoportokban jelentek meg a tartalmak, és azt, hogy egy indiai és egy amerikai női hírességről készültek.

Az AI fejlődése lehetővé tette az olyan képek, hanganyagok és videók generálását, amelyek gyakorlatilag megkülönböztethetlenek az emberi gyártású tartalmaktól, ennek eredményeképp ömlik a hamis szexuális tartalom is a webre.

Kiemelt botrány volt például Taylor Swifté az X-en, amire utóbbi platform a keresések blokkolásával válaszolt, mert nem tudott gátat szabni a hamis tartalmak terjedésének.

Egyes iparági vezetők törvény keretében büntetendővé tennék a káros deepfake gyártását, továbbá a tech cégeket köteleznék, hogy gátolják meg az ilyen célú használatot.

Az amerikai nőt ábrázoló képet a zaklatási irányelvekre hivatkozva törölték, azok ugyanis tiltják a derogáló szexuális képek és rajzok közlését. Az indiai nőről készült képet csak akkor törölték, amikor a vizsgálóbizottság foglalkozni kezdett vele.