不法之徒在互聯網上散播兒童色情影像的問題日趨嚴重，澳洲警方展開了一項特別行動，向公眾徵集10萬張內容安全健康的兒童照片，用作訓練偵查案件的人工智能系統（AI）「閱讀」兒童及青少年影像，從而提升執法工作的效率。
關注兒童失踪及受虐問題的美國非牟利組織NCMEC在2021年處理了8,500萬宗涉及兒童色情內容的個案。逾六成半受害人表示自己的相片在網絡流傳，長期受影響，感受與實際受性侵犯十分不同。
英國執法部門在過去10年接獲有關兒童性侵害內容的舉報增加了15倍。澳洲網絡安全部門在新冠肆虐期間錄得的網絡兒童色情案件飆升1.3倍。Facebook由2021年至今接獲2,200萬宗有關其伺服器上有兒童受虐影像的舉報。
過去十年，世界各地的執法部門開始運用AI偵查網上的違法內容，他們多採用從落網者搜查到的相片作訓練，不過，這種做法可能對相中人造成二次創傷，研究人員亦擔心，若AI的演算程式只「看」問題圖片，會形成「偏見」，演算時傾向生成有問題的圖片。
澳洲聯邦警察三年前與蒙納許大學的AliLecs實驗室合作，推出My Pictures Matter計劃，目標是建立幫助執法人員打擊網上兒童色情物品的AI技術。該計劃公開邀請年滿18歲的人提交自己的童年照片。參加者上載相片時須提供的拍攝時的年齡，以及確認已取得相中人同意。內容例如：幼孩在沙灘玩沙；小學生在學校領獎狀；少年興奮地拆聖誕禮物⋯⋯，相片必須內容健康，不得有未成年人的裸體，亦不得有非法活動、暴力或虐待成分。
資料庫只限有關執法人員及研究人員登入，參加者如改變主意，可以要求移除自己的圖片。
負責該項目的高級警官戴廉士博士（Dr Janis Dalins）說，計劃收集到的10萬張兒童相片構成了內容和來源都安全的圖片庫。研究人員會訓練AI重複細看這批相片，學習辨認小孩的臉容、估算其歲數、確認相中人數、相中地點與提供者報稱的是否脗合、相片是否裁剪過、是否含不雅成分等。
研究人員相信，這樣訓練AI有助其演算程式運用排除法，更有效率地識別出網絡上經歷性侵犯、性虐待或性騷擾的孩子影像。
戴廉士表示，警方偵查時，追溯問題相片的來源往往極為耗費人力和時間，AI技術可幫上大忙。她說：「過去一個疑犯收藏的相片多得要我們花幾星期，甚至幾個月去處理。」
坊間亦有其他機器學習運算法，以打擊兒童色情物品，例如由非牟利機構開發的SAFER，用戶可用它篩檢網民上載至公司網站伺服器的圖片。Project Arachnid 則讓用家搜尋已知兒童色情圖片的相關內容。
戴廉士說，道高一尺，魔高一丈，執法部門不斷加強網絡保安措施，但不法之徒很快會有方法繞過，例如用加密方法傳送相片。
新南威爾斯大學的犯罪學家米高・索塔（Michael Salter）認為，互聯網和社交媒體為不法之徒帶來便利，令他們能夠以極高的效率散播兒童色情內容和建立社群。甚少網絡內容供應者會採取預防措施，例如預先審查網民上載檔案的內容。
在澳洲陽光海岸大學教授犯罪學的基絲汀遜（Lara Christensen）亦表示，科技發展令人輕易生成以假亂真的圖片，網上身份假冒亦愈來愈容易。易於接觸、匿名和低成本是網絡兒童色情內容氾濫的三大因素。
