Binigyang-diin ng pamahalaan na lumalala ang banta ng artificial intelligence (AI) sa kaligtasan ng mga kabataan online, lalo na sa pagkalat ng AI-generated sexualized images na ginagamit sa online exploitation.
Kasabay ng paglulunsad ng Safer Internet Day, ikinababahala ng Department of Justice (DOJ) ang pagtaas ng bilang ng mga kasong gumagamit ng AI upang lumikha ng abusadong content na ginagawang instrumento sa pananakot, sextortion, at online grooming.
Ayon kasi sa ahensya, nagiging mas mahirap tukuyin ang mga bagong uri ng child sexual abuse materials dahil kayang manipulahin ng AI ang mukha o katawan ng bata sa larawan, puwedeng gumawa ng “deepfake” na mukhang totoo kahit hindi naman nangyari, mabilis itong kumakalat, at ginagamit ito para takutin o kontrolin ang mga menor de edad.
Kaya naman plano ng pamahalaan ang pagbuo ng mas mahigpit at updated na guidelines sa kapisan, pakikipag-ugnayan sa tech industry para agad ma-take down ang AI-generated abusive content, pagpapalakas ng reporting channels lalo na para sa mga kabataan, at mas malalim na imbestigasyon sa mga kaso na gumagamit ng AI.
Paalala rin ng ahensya, dapat nagsisimula ang mas ligtas na paggamit ng internet sa bahay dahil hindi lang iisang sektor ang may responsibilidad, kundi bawat Pilipino.
Hinikayat nila ang mga magulang, paaralan, komunidad, at online platforms na maging mas mapagmatyag at aktibo sa pagprotekta sa mga kabataan.
