匯流新聞網記者紀沈廷／綜合報導
看來人工智慧對於人類，並不是這麼的一視同仁呢。有消息指出，Google研發、用在紐約時報、BuzzFeed News等單位監管仇恨言論的AI人工智慧，竟然有種族歧視的傾向。
先前，Google曾宣布，旗下的新聞實驗室（News Lab）跟專門從事調查報導的非營利組織Propublica合作，推出一套機器學習工具，藉此追蹤美國仇恨言論攻擊，建立美國仇恨言論紀錄資料庫，收集與仇恨言論攻擊與辱罵有關的新聞故事，提供記者能藉由這些資料來撰寫仇恨言論犯罪相關新聞。Google新聞實驗室打造了仇恨言論新聞紀錄索引，將仇恨言論相關新聞與美國民眾的通報，通通蒐集起來；而Propublica和資料視覺化工作室Pitch Interactive則藉由Google雲端自然語言API，來建立視覺化工具，幫助記者查找群國發生的仇恨言論相關事件。
但從今年8月初起，來自華盛頓大學、卡內基梅隆大學與艾倫人工智慧研究所的研究員，在義大利佛羅倫斯所舉辦的國際計算語言學大會上發表一篇研究，他們表示，Google與其母公司底下一間子公司研發的這項人工智慧，經常把非裔美國方言當作遏獨言論。根據研究發現，這凸顯了電腦學億容易受到偏見影響的特點，還有這項特點對資料庫中缺乏代表性團體所導致的無心後果。研究這個問題的AI研究員擔心，這種科技藉由大量資訊來歸納出某種特定模式，所以很容易會發生不平等的情況。
事實上，Google過去也曾發生過電腦學習有歧視的問題；在2015年時，Google底下一個用來搜尋照片的功能，便曾將非裔美國人標記為大猩猩；到了2018年，另一個把人們自拍照及熱門藝術作品湊對的功能，也不小心將非裔美國人士與描繪奴隸的作品進行連結。另外，研究也強調了電腦學習其實在過濾、檢查網路言論方面有所限制，儘管電腦學習可以自動運行、減少審核員的工作量，不過時常無法根據前後文正確理解，無法分辨帶有嘲諷意味的玩笑，究竟是有趣還是會造成困擾。
研究成員在閱讀過去所發表的報導中，發現仇恨言論辨識器，經常無可避免的將非裔美國英語標記成不恰當的言論，他們也因此擔心這項科技是否可能會讓非裔美國人的聲音，從社群媒體或網路討論上消失。不過也有人認為，科技不會有完美的一天，而這也是電腦學習相關研究的本質。
參考來源：Vox、TechCrunch
照片來源：Pixabay
更多匯流新聞網報導：
祂的降臨，是為眾生！京都百年佛寺請出「AI觀音」 當鎮寺之寶
去年虧損5億！全球最有名的人工智慧公司 得靠Google出手救援
【匯流筆陣】
CNEWS歡迎各界投書，來稿請寄至[email protected]，並請附上真實姓名、聯絡方式與職業身份簡介。
CNEWS匯流新聞網：https://cnews.com.tw
【文章轉載請註明出處】