臉書:每季處理200萬件網路霸凌,AI只能偵測2成,8仍得靠民眾通報

臉書在臺灣2019兒少網路安全年會中公佈了網路霸凌案件處理成果,近1年來,全球每季處理案件量約為2百萬到3百萬件,若再進一步分析,可以發現受通報而處理的案件約占8成,由AI自動偵測的案件量約占2成,臉書亞太區安全政策經理Snow White說明,涉及暴力、性剝削等圖片,99%可由AI主動發現而下架,但文字內容則因語言差異,如隱晦意涵而難自動偵測,大多需要靠民眾或iWIN等民間組織來舉報。

Snow White表示,臉書反霸凌言論機制上,無論對方的攻擊行為是透過照片、影片或文字,只要涉及霸凌、暴力、或仇恨言論等都可檢舉,臉書將透過全球3萬名專業人士審核內容,再根據各地區文化與法律的不同,因地制宜來決定如何處理不合時宜的內容。

此外,臉書也依據用戶是公眾人物、個人、或13-18歲的青少年,提供不同層級的保護措施,比如針對青少年,臉書與耶魯大學情緒智能中心共同合作創立「霸凌防制中心」,提供有關霸凌及其他衝突的相關支援,協助青少年、家長與教育工作者以正確的心態來面對並處理相關的問題。被檢舉人也有上訴機制,提供對於臉書處置有疑慮者進一步申訴。

另外,iWIN網路安全防護機構也揭露從去年開始研議的網路霸凌處理標準,iWIN要扮演各網路平臺業者的橋樑,針對「大量、明顯、嚴重」的言語霸凌內容,溝通平臺業者「緊急」刪除或隱藏。

依據兒少法第46條,早在6年前,國家通訊傳播委員會、衛生福利部、教育部、文化部、經濟部以及內政部共同委辦民間成立了iWIN機構來推動網路內容安全,iWIN更從去年開始建立網路霸凌的處理標準,邀請產官學26名代表召開多場會議,一來確認iWIN處理網路霸凌事件的角色,以及不同案件嚴重程度相對應的措施。

iWIN執行祕書劉昱均表示,由於網路霸凌事件的處理無專法,無法轉案或通報主管機關,且多數網路霸凌屬於告訴乃論,iWIN也難以代表民眾進行司法訴訟;而面對受害者的心理傷害時,其它非營利組織也有更專業且全面的社工資源來輔導與陪伴。

劉昱均進一步解釋iWIN的處理判準,「受害者會遭受到相關的人身安全,或他的精神狀況已經不堪一擊,這個情況下,iWIN會與業者商量,下架相關文章。」不過,其它涉及私人糾紛如侮辱、誹謗或騷擾等內容,則需由當事人透過司法途徑,為自己主張權益。

舉例來說,iWIN曾處理過一個個案。一位高中老師受到瘋狂家長的追求,但對方追求不成反而匿名開設粉絲專業,將老師的照片醜化,並散布老師有婚外情等不實謠言,時間長達兩年之久。iWIN剛開始向警局報案求助無果,後來與臉書溝通後,臉書以對方使用假帳號,也符合臉書的反霸凌守則規範等緣由,僅花一天時間就將粉絲專業下架,讓該名受害者免受霸凌的威脅。

從2018年的統計數據來看,民眾認為霸凌而通報的案件有180件,真正符合iWIN定義的有21件,顯示出iWIN的網路霸凌定義嚴謹,與民眾認為霸凌的標準有落差。而這21件由申訴小組聯繫平臺業者協助緊急處理的案件,業者協助處理下架的成功率達84.21%,「其實大多平臺業者還是願意自律來協助改善網路霸凌情形。」

臉書揭露即將在IG上線的網路霸凌防治新功能

近期,Instagram將要推出霸凌防治機制的新功能,當用戶留言的內容涉及霸凌或歧視性言論,AI將主動偵測並攔截留言,顯示是否確認要將訊息送出的提示,讓用戶在留言送出之前有機會再次思考;另一個功能,是讓用戶將針對自己的霸凌留言,設為限定瀏覽,如此一來,只有留言者能看見自己留下的霸凌言論,其他人均看不見,這是為了避免用戶使用網路檢舉功能後,反而在現實生活中被報復的一種手段。

目前,這兩項功能都還在測試中,待英文版先上線後,也才會逐漸推及到其它常用的15種語言。對於網路霸凌的防治,Snow White表示:「臉書會結合產官學界人士,盡力保護網路安全、防治霸凌。」

當用戶留言的內容涉及霸凌或歧視性言論,AI將主動偵測並攔截留言,顯示是否確認要將訊息送出的提示。(圖/取自IG官網)

用戶能將針對自己的霸凌留言,設為限定瀏覽,只有留言者能看見自己留下的霸凌言論,其他人均看不見。(圖/取自IG官網)

原文來自 iThome Online