AI 正在努力識別陰莖圖片,使女性免受互聯網的性騷擾

軟件

09-18 11:38

互聯網給大家聯通了一個更大的世界,但這個世界并不總是美好的。

如果你想要尋找一些限制級的成人內容,那 Pornhub、(整改前的)Tumblr 這類垂直類網站總能滿足你的需求,這是美好的互聯網世界。但如果你只是想看一些嚴肅的、與性無關的內容,那評論區或陌生人私信可能會出現的陰莖圖片或者性暗示內容就屬于性騷擾了,這是不美好的互聯網世界。

隨著 Tumblr 的轉型,有很多其本有的成人內容換了個陣地,轉移到了 Twitter。Twitter 的女性用戶自此開始非自愿地收到男性的陰莖圖片,她們為這類非自愿獲取的內容感到困擾。而研究也顯示,在英國 18 至 36 歲的女性中,有 41% 的人都收到過未經雙方同意的性圖片。

▲ 圖片來自:unsplash

在這個隨時可能受到性騷擾的世界,女性開發者 Kelsey Bressler 決定做出改變。她在 Twitter 上表示:「不喜歡醒來就看到一個不請自來的陰莖圖片 ??」。

為此,她曾嘗試和發送陰莖圖片的人進行溝通,質問對方為何未經允許發送令人不適的圖片,但對方卻再次回應了一張陰莖圖片。

當你被動收到一張照片時,你會感到不被尊重。你沒有給他們(發送圖片的人)發送圖片的允許,你被強迫接受了這些圖片,這是不對的。

▲ 圖片來自:unsplash

Kelsey Bressler 決定自己動手去解決這些陰莖圖片,她和一個通過激進主義工作認識的一個朋友正在開發一種工具,可以自動檢測和刪除令人不適的圖片。

Kelsey Bressler 和她的朋友正在訓練 AI 以篩選和識別未經允許的非法圖像。該計劃目的是將該程序變成一個專門識別陰莖圖片的 Twitter 插件,插件可以識別并限制用戶的私聊內容。但這是 Twitter 目前在其「敏感媒體政策」中所不支持的。

而 Twitter 自身的「敏感媒體政策」在過去這些年也有些自相矛盾的猶疑歷史。2017 年,《紐約客》作家 Maura Quint 三次收到了同樣的陰莖圖片,照片來自三個不同的賬戶,賬戶名稱和用戶形象都相同。當她向 Twitter 回應這三起事件時,社交平臺給出了三種不同的回應,一次要求她直接報告敏感媒體,一次直接鎖定了違規賬戶,還有一次舉報者得到了未發現違規行為的反饋。

不同的結果顯示了平臺在這類事件的處理上缺乏標準和統一的流程。Kelsey Bressler 就認為社交媒體對此做的還不夠「我們多年來一直在抱怨這件事。他們要么不聽,要么沒有把這件事當作足夠重要的事情來做。」

她在接受 BBC 訪問時表示她幾乎每天都能看到這個問題確實普遍存在,但 Twitter 還沒有表現出對這個問題的關心,也沒有找到合適的解決方案。

如果這項技術能在幾天內問世,我不知道為什么科技公司沒有帶頭采取類似的舉措……人們說,簡單的解決辦法是關閉你的信息——但我們不應該因為一些人不知道如何表現而把自己與世界隔絕。

▲ 圖片來自:unsplash

目前,Kelsey Bressler 正在訓練和測試自己的 AI。她公布了一個郵箱,邀請男性用戶向郵箱發送自己的陰莖圖片。如果 AI 確認了圖片內容為陰莖,AI 就會直接刪除該圖片。

但很多志愿參與的人發送的都是自己的裸體照片,為此,團隊不得不暫時關閉了收件箱。在他們關閉收件箱前,她們已經收到了三百多張陰莖的圖片,系統只有兩次沒有成功識別,一次是陰莖上套了個籠子,一次則是圖片里的陰莖覆蓋著一些發光的東西。

Kelsey Bressler 為了鼓勵男用戶勇敢「獻身」,還特意做了 T 恤和衛衣,上面寫著「我為科學上傳了陰莖圖片。」

事實上,這個現實生活中發生的案例很容易讓人想到《硅谷》第四季中的劇情。楊建作出了一個價值 400 萬美元的 app——Not Hotdog,這個 app 只能用于識別熱狗。在圖像識別時,他只能給出 Not Hotdog 和 Hotdog 兩種識別結果。

這么一個聽上去非常雞肋的玩意賣出了 400 萬美元,就因為收購的科技公司想要將它用于陰莖圖片的識別。

▲ 圖片來自:《硅谷》

這個 app 之后甚至也有在 App Store 和 Google play 上上架,之后被網友們用各種圖片騙過,給出了錯誤的答案。

▲ 圖片來自:Azure1984

但不管怎么說,用 AI 識別此類性騷擾圖片內容都是看得到的一種方向。

Kelsey Bressler 也表示,當項目完成時,如果他們的插件對于陰莖識別是有效的,那么她們也愿意與 Twitter 分享自己的研究成果。

登錄,參與討論前請先登錄

評論在審核通過后將對所有人可見

正在加載中
福彩3d组3和组6的区别