臉書社群守則執法報告出爐,鼓勵自我傷害的內容也會被移除

臉書在本周公布了社群守則執法報告( Community Standards Enforcement Report),揭露今年第二季與第三季所移除的內容數據,新增了有關自我傷害內容的移除說明。

臉書《社群守則》(Community Standards)所禁止的內容包括成人色情、霸凌、兒童色情、假帳號、仇恨言論、非法物品、垃圾訊息、恐怖主義宣傳、暴力內容及自戕等,而臉書所移除的內容絕大多數都是透過AI主動偵測到的,只有霸凌內容主要仰賴使用者檢舉。

此次的報告新增了有關自殺與自我傷害的移除數據。臉書表示,此一類別既敏感又複雜,既要保留真正求救的內容,又得過濾那些可能鼓勵他人自戕的內容。今年第二季臉書移除了200萬筆的相關內容,有96.1%都是由AI偵測到的,第三季移除了250萬筆內容,97.3%來自AI。

該報告還列出了違規內容的比例,例如在所有用戶所張貼的內容中,第二季出現違規成人色情內容的比例為0.07%到0.08%,第三季則是0.05到0.06%;至於假帳號不管是第二季或第三季出現的比例都占臉書每月用戶數的5%,臉書在第二季移除了15億個假帳號,在第三季移除17億個假帳號;而在第二季所移除的藥品違規內容則有260萬則,第三季為440萬則,所占比例低於所有內容的0.04%。

在霸凌或騷擾內容上,臉書在第二季移除250萬筆內容,於第三季移除320萬筆內容,不過,有鑑於霸凌與否可能得視使用者與對方的關係而定,因此被上訴的機會也相對較高,是故臉書並未估算其普遍性,而且這也是極少數無法透過AI辨識的內容,大多數都仰賴使用者檢舉。

臉書在第二季以AI所偵測並移除的霸凌內容只占所有霸凌內容的17.9%,第三季則是16.1%。

值得注意的是,在臉書上出現的兒童色情內容愈來愈多,臉書在第二季移除了690萬筆相關內容,第三季移除1,160萬筆內容,但有高達99%都在使用者檢舉前就被臉書移除了。

原文來自 iThome Online