Google免費釋出可辨識兒童色情內容的AI工具

為防止兒童色情及性侵犯的影片或照片透過網路散佈,Google周一免費釋出人工智慧(AI)工具,協助服務供應商、非政府組織和科技業者等透過API存取,以加速辨識兒童色情犯罪內容(child sexual abuse material)。

這項工具是Google現有自用的AI圖片辨識技術,希望以深度神經網路為基礎的圖像處理技術,可以更快過濾出兒童色情犯罪的圖片供人工檢閱。過去的作法包括微軟發展、並獲臉書、推特使用的PhotoDNA技術,乃仰賴比對現有已知兒童色情內容的雜湊值,但無法辨識沒有標示的內容。新的過濾方法則還能鎖定之前尚未被認定為兒童色情的內容,這也有助於發現需要保護的兒童受害者。

Google透過其內容安全(content safety)API將這項技術提供給非營利組織及合作夥伴,像是網際網路觀察基金會(Internet Watch Foundation)。Google表示用了AI的協助,將能加速圖片辨識,同一時間可以辨識出的兒童色情內容較以前增加700%。

有意使用Google這項API者可以上網填表申請

原文來自 iThome Online