NAGBABALA si Senadora Risa Hontiveros kaugnay ng lumalalang paggamit ng artificial intelligence (AI) sa online sexual exploitation, lalo na sa paggawa ng deepfake na materyales kung saan pangunahing biktima ang kababaihan at kabataan.

Sa pagbubukas ng pagdinig ng Senado kamakailan, inilahad ni Hontiveros ang panganib na kaakibat ng simpleng pagbabahagi ng mga inosenteng larawan sa social media. “Ngayon, kahit ang simpleng pag-upload ng inosenteng family picture ay pwedeng maging paraan kung paano makuha ng mga perpetrator ang imahe nyo,” aniya. “Gagamitin [ang mga larawan] sa paggawa ng explicit AI deepfake video.”

Binigyang-diin ng senadora na “AI is now speeding up the production and distribution of abusive materials.” Batay sa datos ng Sensity AI, 95% ng mga deepfake ay pornograpiko at 90% nito ay laban sa kababaihan at kabataan. Isinaad din ni Hontiveros ang ulat ng National Center for Missing and Exploited Children (NCMEC) noong 2024 kung saan iniulat ang tumataas na bilang ng mga kaso ng financial sextortion gamit ang AI-generated content, karamihan ay biktima ang mga batang lalaki.

Iginiit naman ni Senadora Pia Cayetano na ang mga biktima ay kadalasang mula sa mga pamilyang salat sa kabuhayan. “It’s usually children and women in poverty situations that get victimized,” aniya. “Even mothers sacrifice their children because of poverty. It’s not an excuse, but it is the reality.” Ipinaliwanag niyang ang mga kaalamang malilikom sa pagdinig ay makatutulong sa kanyang mga isinusulong na batas ukol sa AI at makabagong teknolohiya.

Ibinahagi naman ni Senador Bam Aquino ang kanyang sariling karanasan bilang biktima ng isang pekeng video. “I had a deepfake of myself and Bernadette Sembrano selling a scam… maluloko ka talaga,” aniya. “Even my own mother sent it to me to ask if it was real.” Iminungkahi niya ang mas mabilis na pagtanggal ng ganitong content online, gayundin ang pagtatatag ng isang pambansang mekanismo sa pagrereport. “It’s about time that we find a solution to this problem,” dagdag pa niya.

Nagpahayag rin sa pagdinig ang content creator na si Queen Hera, matapos niyang matuklasan na ginamit ang mukha ng kanyang anak sa isang malisyosong deepfake video. “One day, may nag-DM sa akin sa Instagram saying na yung anak ko ay nakita sa isang dark web,” kuwento niya. “Nakita ko mismo yung picture niya. Edited… naka-edit yung mukha niya sa isang private part ng isang lalaki.” Ayon sa kanya, “Kahit sobrang inosente ng post mo, hindi ligtas yun sa mga taong nakakapanood. Hindi natin alam kung ano yung intention nila.”

Maging ang aktres na si Angel Aquino ay hindi nakaligtas sa ganitong uri ng digital na pag-abuso. “I found out that there was a deepfake video using my face and it was a friend from the industry who reached out to me and told me about it,” aniya. “My reaction was both internal and physical… para kong nasusuka.” Tinawag niya itong “digital assault, one that leaves no bruises on the skin, but strips away one’s dignity in the most obscene manner imaginable.” Dagdag pa niya, “There are personalities in the limelight who have become victims… and they don’t know about it. How about other innocent, unsuspecting women and girls who may not have the voice, influence, or platform to fight back?”

Ipinaliwanag ni NBI Senior Agent Alvin Bernardo na mahirap tuluyang matanggal ang mga iligal na content sa internet. “We cannot assure na wala na [ang content]… Kung sino man ang merong hawak ngayon, merong copy, he can anytime upload it again,” aniya.

Sa panig ng Philippine National Police Anti-Cybercrime Group, sinabi ni Col. Romeo Desiderio na hindi na sapat ang kasalukuyang batas upang tugunan ang mga bagong uri ng krimen. “The Anti-Cybercrime Act of 2012 is already outdated. At that time, we don’t have this cryptocurrency problem, AI or deepfakes,” paliwanag niya. Ayon pa sa kanya, madalas galing sa ibang bansa ang mga gumagawa ng ganitong krimen at gumagamit ng mga pekeng account, kaya mahirap silang usigin.

Ipinabatid naman ni Assistant Secretary Aboy Paraiso ng Cybercrime Investigation and Coordinating Center (CICC) na kulang pa ang mga umiiral na mekanismo sa pagrereklamo ng publiko.

“There seems to be a lack of reporting mechanisms… there should be a feedback mechanism—not only noted, but actual status of your complaint,” aniya. Kinumpirma rin niyang may kinalaman ang mga organisadong sindikato sa malawakang paggamit ng deepfake at AI-generated content sa iligal na paraan.

Ayon kay Atty. Ives Gonzalez ng TikTok, tinanggal ng kanilang platform ang mahigit 21 milyong video sa Pilipinas mula Abril 2024 hanggang Mayo 2025, kung saan 99.7% ay tinanggal bago pa man maireklamo. “We have a zero-tolerance approach to child sexual abuse material,” aniya.

Mula naman sa Google, ipinaalam ni Norman Nang na lahat ng request para sa pagtanggal ng abusadong content ay tinatrato nilang pantay-pantay. “We treat all takedown requests equally—regardless of whether the complainant is a public figure or not,” aniya. Kinikilala rin niyang mababa pa ang kaalaman ng publiko tungkol sa mga paraan ng pagrereport, at iminungkahi ang pakikipagtulungan sa Senado upang mapalawak ang edukasyon ng mamamayan.

Sa pagwawakas ng pagdinig, iginiit ni Senadora Hontiveros ang pangangailangan ng agarang aksyon. “Ang kababaihan at kabataan ay hindi dapat gawan ng materyales na bastos, malaswa, o malisyoso gamit ang AI,” mariin niyang pahayag. Inilahad niyang isusulong ang pagtatatag ng isang centralized hotline para sa mga kaso ng AI-related abuse. Kasabay nito, rerepasuhin ng komite ang Safe Spaces Act at tatalakayin ang posibilidad ng pagsasabatas ng mga panibagong alituntunin na partikular na sasaklaw sa deepfake at AI exploitation.