回到頂端
|||
熱門:

後續在台推出!Meta 測試「裸露影像防護」功能 遏止性勒索與性私密影像散布

上報/林冠伶 2024.04.15 16:10

性勒索是一種可怕的犯罪行為。Meta 與打擊此類犯罪、有豐富經驗的專家們密切合作,藉此了解犯罪者如何在網路上尋找並威脅受害者的犯罪模式,進而制定有效的方法幫助阻止犯罪,希望減少潛在的受害者。

Meta 分享預防性勒索犯罪的最新進度,包括目前正在測試的最新防護工具。這些工具讓犯罪者更難找到鎖定的潛在目標,避免大家在 Meta 應用程式與網路上遭受性勒索、或經歷其他類型的性私密影像遭到散布。此外,Meta 也在測試新的方式,幫助大家辨別並保護自己遠離性勒索。

Meta 長期致力於幫助守護青少年,避免讓青少年與不想要或有害的人互動,持續更新相關安全工具。Meta 為青少年預設更嚴格的訊息設定,防止未聯繫過的陌生人直接向其傳送訊息。此外,青少年與潛在可疑帳號互動時,系統會顯示安全通知,並提供專用檢舉選項,讓青少年更直接快速地檢舉威脅分享私密影像的私訊。

測試 Instagram 訊息中的「裸露影像防護」功能 後續在台灣正式推出

人們使用訊息與親友、喜愛的創作者分享喜歡的內容,但犯罪者也可能會使用訊息威脅他人分享性私密影像。為了有效預防,Meta 將於 Instagram 訊息進行全新「裸露影像防護」功能測試,此功能在偵測到裸露影像後將模糊處理,不僅將防止大家直接看到來自陌生人寄送裸露圖像的性騷擾,也鼓勵人們在發出自己的或分享他人的裸露影像前審慎考慮。此項功能在完整測試後,未來將推廣至台灣正式上線。

未滿 18 歲的青少年訊息設定選項中,將預設啟用「裸露影像防護」功能,而 Meta 也將發送通知給成人的帳號,鼓勵大家啟用此項功能。啟用「裸露影像防保護」功能時,經偵測含裸露內容的影像,將會自動地被模糊處理並以警示畫面遮蔽。這代表接收者不會直接看到此影像,且可選擇是否開啟觀看。系統也會跳出提示,讓接收者了解無需回覆,並提供封鎖寄件者、檢舉對話內容的選項。嘗試轉發裸露影像的使用者,則會收到系統訊息提醒發送前需再三審慎考慮。若已將裸露影像寄出,也可主動選擇回收影像。

只要開啟「裸露影像防護」功能,無論是發送或接收影像,皆會收到由專家研擬的安全提醒,告知其潛在風險。這些提醒包括他人可能未經允許便截圖或轉發此影像、使用者與對方關係未來可能生變,以及應仔細檢查對方個人檔案,確認對方身份以避免他人假冒事件。安全提醒亦包含一系列資源,如 Meta 安全中心、支援專線、協助移除非意願性私密影像的 StopNCII.org。

「裸露影像防護」功能運用終端機器學習(on-device machine learning),分析 Instagram 訊息中的影像是否包含裸露內容。由於影像是在裝置上分析,故裸露影像分析亦適用於端對端加密對話,除非使用者提出檢舉,Meta 無法存取這些影像。

經偵測含裸露內容的影像,將自動模糊處理並以警示畫面遮蔽,系統也會跳出提示,讓接收者了解無需回覆,並提供封鎖寄件者、檢舉對話內容的選項。(Meta 提供)

防止潛在詐欺犯與青少年互動

Meta 對於涉及性勒索的人採取嚴厲的制裁,包括移除帳號,採取措施禁止建立新帳號,並於適當的情況下向美國國家兒童失蹤與受虐兒童援助中心(National Center for Missing and Exploited Children,NCMEC)及相關司法部門檢舉。Meta 的專家團隊亦全力調查並擊破罪犯的網絡,包括停用帳號,並向 NCMEC 和司法部門檢舉,Meta 於 2023 年透過上述措施,成功打擊多個性勒索犯罪網絡。

此外,Meta 將根據一系列疑似性勒索行為的訊號,辨別帳號可能涉及性勒索。無論是否證明此帳號確實違規,Meta 仍將採取預防措施,阻止此類帳號聯繫青少年的帳號。Meta 已推行相關措施,預防潛在可疑帳號取得青少年帳號並與之互動。

另一項措施,則是提高此類帳號直接向人們發送訊息或與之互動的門檻。現在,潛在將進行性勒索的帳號若想嘗試發送訊息,這些訊息將直接進入收件者的「隱藏的陌生訊息」資料夾中,意指收件者不會收到訊息通知,也永遠不會看到這些訊息。若已經和這些潛在性勒索帳戶對談的人,Meta 將會顯示安全性通知,鼓勵人們檢舉任何威脅將分享他們性私密影像的行為,並提醒大家可拒絕任何讓自己感到不自在的事物。

Meta 針對青少年帳號採取更嚴格的標準,現在 Meta 已限制陌生的成年人帳號向青少年帳號發起訊息。今年 1 月,Meta 宣布 針對 16 歲以下青少年帳號更嚴格的預設設定,代表青少年們僅可接收既有聯絡人的訊息。現在,不管是否已建立關係,潛在性勒索帳戶無法在青少年的個人檔案中看到「訊息」傳送的按鈕。目前 Meta 也正在測試將青少年帳戶從粉絲清單、追蹤清單、按讚清單中隱藏,讓潛在性勒索帳戶更難搜尋到青少年的帳號。

青少年與潛在可疑帳號互動時,系統會顯示安全通知,並提供專用檢舉選項,讓青少年更直接快速地檢舉威脅分享私密影像的私訊(Meta 提供)

為可能遭到勒索的受害者提供更多資源

針對可能曾與性勒索帳戶互動的使用者,Meta 正在測試彈出式訊息,系統訊息會引導使用者獲得專家提供的資源,包括 Meta 的性勒索防治中心、危機支援資源、尋求朋友救援、協助移除非自願性私密影像的 StopNCII.org。

Meta 也將全球各地最新推出的兒童安全求助專線納入應用程式內的檢舉流程。一旦青少年檢舉如裸露、威脅分享性私密影像、性勒索、性誘拐相關問題,系統會指引他們撥打當地的兒童安全支援專線電話。

打擊網路性勒索詐欺

去年 11 月,Meta 宣布成為由科技公司發起營運的 Lantern 專案的創始成員,讓各科技公司能跨平台共享有關違反兒童安全政策的帳號和行為的相關資訊。此產業合作意義重大,因罪犯與性勒索犯罪者不會只限於在單一平台上活動。他們會在不同的平台上尋找受害者,且通常會將平台上的對話轉移到其他的應用程式。

有鑑於此,Meta 已在 Lantern 上分享更多針對性勒索犯罪的資訊,並以此為重要的合作基礎,不僅是針對單一平台進行防範,更全面地在網際網路防堵性勒索。

社群留言

台北旅遊新聞

台北旅遊新聞