人工智慧也在烏俄戰爭中助烏克蘭一臂之力?!

人工智慧也在烏俄戰爭中助烏克蘭一臂之力?!
人工智慧也在烏俄戰爭中助烏克蘭一臂之力?!

人工智慧也能在戰爭中助一臂之力?這一臂之力不是攻擊對方~而是幫助自家罹難者辨識面孔!關心時事的你跟著我們往下看吧!!

成功協助烏克蘭政府識別罹難者的臉部辨識系統

2022 年 3 月,人工智慧公司 Clearview 宣布將提供自家的 AI 臉部辨識系統給烏克蘭國防部,協助烏克蘭政府從全國的戰爭殘骸中,準確辨識出罹難者與生還者。

舉例來說,BBC 記者在烏克蘭東部的戰爭中拍攝到一具擁有頭部外傷、左肩紋身,卻幾近赤裸且無任何身分證明的男性遺骸,由於烏克蘭當局無法就遺骸本身判定其身份,因此決定採用人工智慧技術進行臉部辨識,後來成功確認該名男子的真實身份。

然而,對烏俄戰爭做出了正面貢獻的人工智慧公司 Clearview,長久以來卻爭議不斷。 

備受爭議的人工智慧公司 Clearview

Clearview 可能是世界上最著名、最具爭議的臉部辨識系統了,這項 AI 技術透過 Facebook 和 Twitter 等社群平台上搜集了數十億張照片學習,以此為基礎創造了一個龐大的「臉部辨識」數據庫。

Clearview 的執行長兼創辦人 Hoan Ton-That 表示:「這個臉部辨識數據庫有點像 Google,但不是在搜尋欄位輸入詞彙或句子,而是輸入一張人臉照片,就像『臉部辨識搜尋引擎』一樣。」

一直以來,Clearview 面臨了許多法律挑戰。Facebook、Youtube、Google 和 Twitter 已經向 Clearview 寄送了終止警告信,要求 Clearview 必須停止使用這些平台上的圖片。英國資訊專員辦公室(ICO)則因為 Clearview 未經告知就使用他人的照片,已經對它們處以罰款。然而烏克蘭政府公開於戰爭中使用 Clearview 的服務,再次引發人們質疑並議論這種備受爭議的人工智慧應用與技術。

臉部辨識功能的其他應用

雖然存在爭議,但美國的執法部門早已廣泛使用 Clearview,Ton-That 表示,烏俄戰爭前其實就已經有 3,200 個政府機構曾經試用甚至購買了人工智慧臉部辨識技術。而在烏俄戰爭開打後,看到了戰爭、戰亂的影像紀錄之後,Ton-That 認為,這項技術將能在戰場發揮作用,所以才有了文章開頭的那個情境,這項技術也因此受到烏克蘭政府的重用。

不過,使用臉部辨識技術來識別罹難者,其實並不是什麼新鮮事,Clearview 也並非唯一擁有這項人工智慧技術的公司。2019 年,一家位於荷蘭,專門從事事實查核和開源情報的調查性新聞組織 Bellingcat 就曾使用臉部辨識技術,來識別出一名俄羅斯男性私人僱傭兵,該名僱傭兵在敘利亞拍攝了一段以酷刑折磨囚犯並將其殘忍殺害的影片,在影片公諸於世後引發譁然。

由此可知,這並非臉部辨識技術參與的第一場戰爭,然而,這項技術在烏克蘭的應用範圍無疑比以往的任何一次還要更廣泛。

Bellingcat 的研究主管 Aric Toler 更表示,另一個臉部辨識平台 FindClone 對辨識陣亡的俄羅斯士兵特別有幫助,即使是找出沒有社群帳號的人也不是問題。FindClone 甚至可以交叉比對同個區域裡親朋好友帳號發出的照片,找到這些沒有使用社群平台的人。這意味著只要有臉部辨識系統的人工智慧技術,即使是在不曾註冊任何網路身份的軍事安全人員,仍然可能被這項技術準確追蹤。

臉部辨識系統的風險和隱憂

然而,有反對者指出臉部辨識系統的隱憂——尤其在戰爭期間,任何一個錯誤的辨識結果,都可能帶來潛在的災難。

Clearview 已經證實 Clearview 的臉部辨識技術不僅只是用來辨識罹難者,甚至還用來在烏克蘭的哨站辨識敵軍。一封來自烏克蘭不具名官員的電子郵件中甚至表示,已經使用這項技術來執行超過一千次臉部辨識任務,這樣的結果讓許多相關專家感到擔憂,位於美國的安全和監視行業研究小組 IPVM 也是其中之一。

IPVM 的臉部辨識系統專家 Conor Healy 擔心,烏克蘭政府不僅會將臉部辨識系統用於烏俄戰爭,甚至在戰後仍會持續使用這項技術。隱私問題仍是臉部辨識技術的最大隱憂。

推薦閱讀:AI 增添步槍精準度,以色列戰隊藉助人工智慧取勝

 

 

 

 

更多人工智慧或程式語言相關文章請點閱下方連結

 

 

 

其他閱讀

富比世企業技術專欄:2022 年的人工智慧七大突破

不只是自駕!特斯拉自研發高效能AI晶片D1,運算每秒262兆次

自動駕駛巨頭相互 diss?Waymo 槓上特斯拉,嗆「不是對手」

曾預言AI自駕、鐵達尼沉沒…特斯拉也以他命名,天才工程師竟被愛迪生迫害

2022最佳職場NVIDIA蟬聯第一!!Meta元宇宙呢?

義大利廠Brembo幫你實現人工智慧自動煞車的夢想(上)

Spotify研發人工智慧技術抓住客戶!穩坐串流音樂龍頭!

LineClova人工智慧服務即將上線優化你我的生活!!(下)

LineClova人工智慧服務即將上線優化你我的生活!!(下)
LineClova人工智慧服務即將上線優化你我的生活!!(下)

LineClova人工智慧終於要來台灣啦!!想知道提供了哪些服務嗎?快一起往下看吧!!(下)

本篇為下篇,上篇請點LineClova人工智慧服務即將上線優化你我的生活!!(上)

4. 人工智慧電話接聽服務「LINE AiCall」

 

 

 

▲ LINE AiCall 宣傳影片

 

 

 

結合 STT 與 NLU 兩項技術發展出的 LINE AiCall,是許多人最期待來台的服務。LINE AiCall 已經在日本餐飲業逐步推廣,從官方宣傳影片中可以看到,人工智慧機器人能用自然語言與客戶互動、對話,代替忙碌餐廳業者處理的訂位問題,例如在熱門時段幫忙「喬」出座位。

LINE 官方表示提到,過去的 STT 技術需建立三種模型──聲學模型(Acoustic model)、語言模型(Language model)、發音模型(Pronunciation model),如今,LINE 只需建立一個 NEST model 即可進行語音辨識,並表示他們的模型擅長辨識自然隨興的對話,和較長的語句。同時也特別強調,即使是在吵雜環境噪音中(畢竟餐廳店內通常都很吵雜)也能提取語音做辨識。

5. LINE eKYC 數位辨識身份

 

CLOVA OCR 光學字元辨識
 

▲ CLOVA OCR 不只可以辨識文字,還能辨識規格。|圖片來源:LINE 官網

 

 

 

將上述的 CLOVA Face 加上 CLOVA OCR 後,就誕生出 LINE eKYC 數位辨識身份(Know Your Customer)的人工智慧服務了。

過去在申辦很多如銀行開戶等服務前,為了預防身份盜竊、金融詐騙或洗錢,會要求客戶填寫能確認身分的個資,這個步驟被稱為「Know Your Customer」,簡稱 KYC;從紙本填寫轉為數位化,就稱為 eKYC。

LINE eKYC 便是以透過線上掃描身分證、健保卡等個人證件來確認身份。除了 CLOVA Face與 OCR 技術以外,LINE 於 2017 年加入了全球最大身份驗證技術聯盟「FIDO」,採用 FIDO生物辨識認證技術,讓 LINE eKYC 服務更臻成熟。

LINE 招募台灣技術人才 期待 2021 年正式落地

LINE 台灣技術長陳鴻嘉表示,LINE AiCall 目標是在 2021 年找合作試行夥伴,進行開發前期測試應用與台灣在地化;而 CLOVA Chatbot 以及 CLOVA Face 也正式開放台灣企業夥伴進行合作洽談。

除了招募合作夥伴,一直以來 LINE 也不遺餘力地挖掘台灣技術人才。例如從 2018 年開始啟動的「LINE TECH FRESH-技術新星人才計畫」,每年共開出 30 個實習職缺,讓獲選者有機會跟著開發團隊實際參與專案,提供校園開發者有累積實務經驗的機會。

LINE 官方表示,爭取明年讓 LINE CLOVA 的應用融入台灣市場,也將會積極招募台灣本地的人工智慧技術人才,如果想在這波機會加入LINE團隊,現在開始學習還不算晚!

 

 

更多人工智慧相關文章請點閱下方連結~

 

 

 

其他閱讀

外貌影響面試?新人工智慧機器人 Tengai 面試不再以貌取人

秀程式設計也能交女友!工程師專屬交友App:VSinder

生物學最大謎團被人工智慧 破解!DeepMind 攻克「蛋白質折疊」奧秘

測試員”微痛”轉職前端工程師,現在切版和網站開發一把罩!

盲人也能獨立參加路跑?人工智慧幫助視障朋友一圓夢想!!

人工智慧人臉辨識不稀奇~你聽過熊臉辨識嗎?

人工智慧從備料到上菜一手包辦!!還懂得設計食譜?!

LineClova人工智慧服務即將上線優化你我的生活!!(上)

LineClova人工智慧服務即將上線優化你我的生活!!(上)
LineClova人工智慧服務即將上線優化你我的生活!!(上)

LineClova人工智慧終於要來台灣啦!!想知道提供了哪些服務嗎?快一起往下看吧!!(上)

LINE CLOVA 確定登台!以後可以讓人工智慧幫你訂餐廳啦

LINE 年度科技盛會「LINE TAIWAN TECHPULSE 2020」日前落幕,大會上不但為台灣開發者帶來 LINE 總部的第一手技術資訊,更宣布將引進在日本推行人工智慧技術「LINE CLOVA」,目標是提供貼近使用者需求的「友善人工智慧」。

未來將在台提供 CLOVA 的相關服務包括:CLOVA Chatbot、CLOVA Face、CLOVA OCR,除此之外人工智慧訂位服務「LINE AiCall」、數位身分識別服務「LINE eKYC」也將進軍台灣!

 

Line Clova 登台確定!讓人工智慧幫你接電話、訂餐廳
 

▲ LINE 自日本引進人工智慧技術「LINE CLOVA」相關服務包括:CLOVA Chatbot、CLOVA Face、CLOVA OCR,而人工智慧訂位服務「LINE AiCall」、數位身分識別服務「LINE eKYC」也將進軍台灣!|圖片來源:LINE官網

 

 

 

近年來 LINE 積極發展人工智慧應用服務,原先於 2019 年的開發者大會將導入 AI 計畫「LINE BRAIN」,而今年宣布將 LINE BRAIN 與自家智慧助理「LINE Clova」合併,發展為 AI 技術品牌「LINE CLOVA」,成為 LINE 旗下人工智慧技術的集大成者。

整併當然不是只有統一名稱,LINE 台灣技術長陳鴻嘉表示,兩項產品線的合併後最重要的突破就是「商業落地」,未來這些 AI 技術不再只是概念而已,而是會實際應用在產品之中,為台灣的使用者帶來更多生活與工作的便利。

LINE CLOVA 主要涵蓋四大領域的技術: NLU(自然語言理解)、Face(臉部辨識)、OCR(光學字元辨識)、STT(語音辨識)。而統整這些技術、確定將會登台的應用服務分別有:

1. CLOVA Chatbot 聊天機器人

 

CLOVA Chatbot 聊天機器人
 

▲ CLOVA Chatbot 能精確地判讀使用者的對話內容與意圖。|圖片來源:LINE 官網

 

 

 

NLU 技術是一直是 LINE 在人工智慧服務項目發展的核心之一。自 LINE 從 2016 年發表Chatbot 功能以來,已漸漸普及為公眾人物及企業與使用者之間的溝通橋樑。諸如公司行號、社群媒體、公眾人物等皆會開設自己的 LINE Chatbot,作為與客戶、大眾快速溝通的管道。

根據 LINE 官方資料,CLOVA chatbot 所累積的問答資料庫達 100 萬筆,使用超過 1 億人次,累積的使用者對話保守估計約有 17 億之多。如此豐富的資料累積,加上 LINE 在亞洲市場過去的利基,讓 CLOVA Chatbot 特別擅長辨識在全世界語言體系之中相對困難的亞洲語言。

2. CLOVA Face 臉部辨識

 

CLOVA Face 對一位女性進行臉部辨識
 

▲ CLOVA Face 可以在半小時內完成上千人次的臉部辨識。|圖片來源:LINE 官網

 

 

 

CLOVA Face 是一套臉部辨識系統,可在平板、手機等裝置上,提供快速準確的人臉辨識。

今年的 LINE TECHPULSE 2020 即是利用 CLOVA Face 作為入場方式。報名參加者可以在活動前上傳自己的照片,即可在報到櫃台使用臉部辨識驗證身份,代替人工核對資料,快速完成報到手續。

根據大會參加者的回饋,入場體驗相當順暢,辨識成功率也相當高,可以感受到 CLOVA Face 已經是成熟的商用產品;事後根據 LINE 官方的統計,CLOVA Face 順利在 30 分鐘內完成上千人次的入場報到手續。

3. CLOVA OCR 光學字元辨識

 

CLOVA OCR 光學字元辨識
 

▲ CLOVA OCR 不只可以辨識文字,還能辨識規格。|圖片來源:LINE 官網

 

 

 

OCR 技術同樣是 LINE 一直以來研發的核心之一,在現行的 LINE app 上已有將圖片轉換為文字的功能了。

而進一步的 CLOVA OCR 技術,配合資料強化演算提高識別精準度,不再只有針對文字辨識,也推出針對各種需求「特化性能」的不同產品:文字識別精準度較高的 general OCR;可以辨識出特定樣式、規格的 specialized OCR;還有操作介面簡易,並且具備深度學習等AI運算邏輯的 OCR Builder,讓企業可以根據不同需求導入不同應用技術。

其中官方也特別表示,Specialized OCR 將會「在地化」,開發台灣使用者需求度最高的辨識格式,例如:火車車票、發票、身分證和健保卡等等,落實為民眾帶來便利的初衷。

 

 

本篇文上篇,下篇請點LineClova人工智慧服務即將上線優化你我的生活!!(下)

更多人工智慧相關文章請點閱下方連結~

 

 

 

其他閱讀

外貌影響面試?新人工智慧機器人 Tengai 面試不再以貌取人

秀程式設計也能交女友!工程師專屬交友App:VSinder

生物學最大謎團被人工智慧 破解!DeepMind 攻克「蛋白質折疊」奧秘

測試員”微痛”轉職前端工程師,現在切版和網站開發一把罩!

盲人也能獨立參加路跑?人工智慧幫助視障朋友一圓夢想!!

人工智慧人臉辨識不稀奇~你聽過熊臉辨識嗎?

人工智慧從備料到上菜一手包辦!!還懂得設計食譜?!

保育棕熊就交給人工智慧熊臉辨識吧!!

保育棕熊就交給人工智慧熊臉辨識吧!!
保育棕熊就交給人工智慧熊臉辨識吧!!

人工智慧也懂得保育棕熊?最新的熊臉辨識的確做得到喔!!一起來看看這想科技的介紹吧!!

矽谷工程師用人工智慧開發「熊臉辨識」技術 準確率高達 80% 以上

全身毛茸茸的棕熊可愛的外表讓不少人十分喜愛,更有一對矽谷的人工智慧工程師夫婦喜歡棕熊到開發出熊專用的臉部辨識技術!

人臉辨識早已不是新鮮事、五官立體的貓也有「貓臉辨識」AI,但滿臉毛毛的熊臉,AI 能怎麼辨識出來呢?

 

人工智慧貓臉辨識門禁系統
 

▲ 百度開發的貓臉辨識門禁系統。

 

 

 

 

人工智慧熊臉辨識系統「BearID」 AI
 

▲ 在矽谷任職的一對工程師夫妻開發出熊臉辨識 AI,來協助動物保育。(source:BearID 官網)

 

 

 

在美國矽谷擔任 AI 軟體工程師的埃德‧米勒(Ed Miller)和瑪麗‧阮(Mary Nguyen)是一對夫妻,像很多網友一樣,閒暇時喜歡看位於阿拉斯加的卡特邁國家公園(Katmai National Park)於 YouTube 上的直播,直播內容是國家公園內棕熊們的自然生態──從此這對夫妻就迷上這種可愛的生物。

巧的是,卡特邁國家公園正在尋找能夠用人工智慧技術來協助動物保育的專業人員;同時,夫妻倆人也有意尋找一個項目,來磨練他們的機器學習專業技術。

「機器學習真的非常擅長識別人臉,如果是用在棕熊身上呢?」米勒表示。臉部辨識 AI 可以區分出不同熊的臉嗎?

以狗臉辨識為基礎 訓練出「BearID」 AI

 

人工智慧熊臉辨識系統「BearID」 AI
 

▲ 在矽谷任職的一對工程師夫妻開發出熊臉辨識 AI,來協助動物保育。(source:BearID 官網)

 

 

 

除了米勒夫婦外,住在加拿大英屬哥倫比亞的 Melanie Clapham 博士也正在思考同樣的問題。

Clapham 是加拿大維多利亞大學的博士後研究員,與雨林保護基金會(Raincoast Conservation Foundation)的保育員 Chris Darimont 一起,探索如何將人臉識別技術應用在保育熊類上。但是他們的專長是生物學,而不是人工智慧

雙方在媒合技術人員與保育者的網站 Wildlabs.net 上一拍即合,展開密切的合作,眾人各自發揮自己的所長,自願利用業餘時間、耗費數年的時間耕耘這個充滿理想的項目。最終,他們在《生態與進化》(Ecology and Evolution)期刊上發表了成果──熊臉辨識系統「Bear ID」。

最一開始,他們採用可以識別出狗狗臉部的 AI 為基礎,用了超過 4000 張的棕熊照片讓AI模型訓練。每張照片都手動勾勒出每隻熊的眼睛、鼻子和耳朵,方便訓練 AI 如何找到這些特徵。

推薦閱讀:

 

人工智慧辨識人臉、貓臉不稀奇!矽谷工程師開發熊臉辨識AI保育棕熊
 

▲ 讓 AI 辨識熊臉很有趣?瑪麗‧阮表示,勾畫熊臉的工作其實相當乏味。(source:BearID 官網)

 

 

 

經過訓練後,深度學習演算法就能找到獨特的界標來區分每隻熊──也就是說,AI 能想出自己的方式來區​​分不同的熊。「棕熊的個體辨識難度較高,因為他們身上沒有人類指紋的特徵,也沒有如斑馬、長頸鹿的獨特斑紋。」Clapham 博士表示。

找到熊臉後,AI 接著會將臉部調整以便提取、編號和分類臉部特徵。

最終,AI 模型可以自動判別出攝影機、相機陷阱等鏡頭捕捉到的是哪一隻棕熊,而且準確率高達 84%。到目前為止,Bear ID 已經持續追蹤了 132 隻棕熊。

「現在的 BearID 只是個開始。」Clapham 博士表示。這套人工智慧系統能替保育工作者們追蹤世界各地熊隻的分布、健康與族群狀況,更有機會可以拓展應用到其他生物的保育。

「我們所希望的是,人們某天在某個地方上傳了動物照片,該系統不僅可以分析出照片中的物種,還可以告訴人們,這個動物的名字、性別和年齡等詳細資訊。」

 

 

更多關於人工智慧的相關文章請點閱下方連結~

 

 

 

其他閱讀

Nature:語言天才比數學高手更適合學 Python!別在嘴文科生、女性不能寫程式了

人工智慧能「聽咳嗽聲認出新冠患者」!成功率達 98.5%

Google 正測試人工智慧系統,助盲人和視障人士獨立參加路跑

用說的就能寫程式!人工智慧替手傷工程師開發語音程式工具

SEO小幫手:轉址404,軟性404是什麼?差在哪?

SEO小手冊:如何才能修復轉址404的錯誤?

玩不過人工智慧?前西洋棋冠軍攜手新科技改寫西洋棋!!()

人工智慧居然只辨識得出白人的臉?!真的假的?!(下)

人工智慧居然只辨識得出白人的臉?!真的假的?!(下)
人工智慧居然只辨識得出白人的臉?!真的假的?!(下)

人工智慧臉部辨識系統乍聽之下很威,但實際上居然只辨識得出白的臉~實在是太誇張了!一起來看看是怎麼一回事~(下)

本篇為下篇,上篇請點人工智慧居然只辨識得出白人的臉?!真的假的?!(上)

為什麼人工智慧不擅長辨識黑人女性?

▲ 科學期刊《自然》所刊之專文指出,被偏倚資料組訓練出來的演算法,通常僅會將左圖辨識成「新娘」。(圖片來自:Left:iStock/Getty;Right:Prakash Singh/AFP/Getty)

 

那究竟為什麼 AI 不擅長辨識黑人與女性呢?讓我們從波拉維尼的故事說起:

在 MIT 實驗室的某日,波拉維尼用自己的臉部照片測試了微軟、IBM 等公司的臉部辨識 服務,卻發現這些將自己宣稱的多先進的服務,有的將她誤認為男性、有的對她的照片沒有反應,根本辨識不出東西,錯誤率高得令她吃驚。

一直到她戴上白人面具,AI 彷彿恢復正常般,又可以辨識了。難道是她的臉部長相太特別、剛好是 AI 辨識不出來的特例?還是……這些辨識服務本身就有漏洞?

於是,波拉維尼決定進行更廣泛的測試。她輸入了超過 1000 張照片,包括不同種族、不同性別。結果發現一個明顯的趨勢:膚色愈白,辨識正確率就越高;另一方面男性的正確率遠比女性高。讓她明白為何臉部辨識幾乎無法認出她——因為她是一位具有「雙重弱勢」黑人女性,她這類人的辨識正確度,遠遠低於白人男性。

真相其實很簡單,歸根究柢就是因為在訓練演算法時,開發團隊沒有提供多元的種族和性別資料給 AI 所導致。換句話說,AI 在「成長過程」中,認知到的世界就多由白人、男性所構成。

即使並沒有人刻意將人工智慧訓練成這樣,但它可能引發的後續問題,或許比存有種族偏見的街頭警察更加嚴重……

還沒有完善就直接上陣的演算法

這個問題多花點時間就可以修正,只要提供多元組成的資料給 AI 即可,但這些科技公司依然選擇讓不完全的臉部辨識服務上線。

而臉部辨識服務也不是唯一一個,將存有偏見疑慮的 AI 服務投入實用的案例:

2018 年紐西蘭移民署(Immigration New Zealand)實行一項實驗計畫(pilot programme),藉由國家簽證申請程序蒐集移民的年齡、性別、種族、犯罪紀錄、醫療費用欠繳紀錄等等資料,預測這些居留者如果續留,有無犯罪的可能或是否帶來更多醫療支出。一旦 AI 認為,某些移民有治安或醫療方面的疑慮,他們將無法重新申請簽證,甚至會直接被驅逐出境。

消息一出立刻引發強烈抨擊,不少民眾與人權團體質疑這套演算法帶有偏見、背後隱藏著種族歧視,並且也鬧過荒謬的烏龍──一位印度裔移民的家屬被拒絕居留,只因移民署的 AI 認為他的母親過去曾經患有乳癌,但實際上他母親不曾患過任何關於乳房組織的疾病。

科技巨頭急煞車 將道德倫理納入考量

波拉維尼的研究成果公開後,IBM 於 2018 年投入解決 AI 歧視的問題、2020 年甚至直接宣布「不再開發、提供授權或研究臉部識別技術」;微軟則採納報告以改善誤差,並表示未來開發演算法時會納入道德倫理的考量。

▲ 波拉維尼之研究成果

 

2018 年微軟在官方網站上公布人工智慧開發應考量的六大倫理原則:公平性、可信賴性與安全性、隱私與安全、包容性、透明以及課責。並透露微軟已成立「人工智慧與工程及研究倫理委員會」,負責研究人工智慧產品研發對人類和社會的影響。

IBM 2020 年 4 月新上任的執行長 Arvind Krishna 撰寫一封公開信致函美國國會:「IBM 堅決反對且不會容許任何技術(包括其他業者的人臉辨識技術)用於大規模監控、種族歧視、違反基本人權與自由,或不符合我們價值觀與《信任與透明度準則》的行為。」

反觀亞馬遜,一開始不斷否認自家臉部識別平台 Rekognition 存有缺陷,甚至指波拉維尼的研究為「詆毀」,直到 2020 年年中因非裔男子喬治‧弗洛伊德之死,讓美國種族膚色衝突白熱化,亞馬遜才宣布將暫停讓美國執法部門使用 Rekognition 一年,以避免更嚴重的爭議。

臉部辨識技術雖然為人們的生活增添許多便利,但同時公共安全與個人隱私之間的取捨、種族性別的偏見爭議,都為這個自發展初期即飽受爭議的 AI 技術,更蒙上一層陰影。

 

 

更多人工智慧相關文章請點閱下方連結!!

 

 

 

 

其他閱讀

 

愛沙尼亞即將任用 AI 法官!人工智慧走入司法領域就一定公正嗎?

【疫情下的人工智慧】拉開「社交距離」後,機器人如何幫我們維繫心理連結?

每個成功的人工智慧背後,都有一群來自「國家級貧困縣」的訓練師-薪水嚇死人

暴躁老人唱情歌、憂鬱阿嬤笑了!4個翻轉家庭的人工智慧 讓家更溫暖

人工智慧貓砂盆問世!!全面掌控愛貓健康!!(1)

人工智慧電影影集:韓劇搭上AI!!真能和AI談戀愛嗎?

人工智慧電影影集:AI是蜜糖還是毒藥?讓這五部電影告訴你!!

 

人工智慧居然只辨識得出白人的臉?!真的假的?!(上)

人工智慧居然只辨識得出白人的臉?!真的假的?!(上)
人工智慧居然只辨識得出白人的臉?!真的假的?!(上)

人工智慧臉部辨識系統乍聽之下很威,但實際上居然只辨識得出白的臉~實在是太誇張了!一起來看看是怎麼一回事~(上)

為了人工智慧辨識,你願意戴「白面具」嗎?臉部辨識的隱憂

人工智慧臉部辨識技術越加成熟,能辨別出「你是誰」已經是基本款中的基本款了!越來越多 AI 辨識技術宣稱可以「從臉孔辨識出智商、性取向、政治傾向甚至是犯罪可能」。

看上去功能如此強大的 AI,卻遭披露「其實只擅長辨認白人」,讓臉部辨識的隱憂浮出水面。

AI 臉部辨識技術已被廣泛使用,也實際應用於執法:根據紀錄,從 2011 年起美國聯邦調查局(FBI)偵辦案件時就開始使用臉部辨識技術,至今累計了超過 39 萬次的臉部辨識搜索紀錄,是近年美國執法部門應用成長速度最快的系統工具。

但隨之而來的是被大力敲響的警鐘:一位麻省理工媒體實驗室的資料科學家喬伊‧波拉維尼(Joy Buolamwini)指出,臉部辨識技術其實十分容易誤認有色人種。

只擅辨識「中年白人男性」的 AI

 

In this Wednesday, Feb. 13, 2019, photo, Massachusetts Institute of Technology facial recognition researcher Joy Buolamwini stands for a portrait at the school, in Cambridge, Mass. Buolamwini’s research has uncovered racial and gender bias in facial analysis tools sold by companies such as Amazon that have a hard time recognizing certain faces, especially darker-skinned women. Buolamwini holds a white mask she had to use so that software could detect her face. (AP Photo/Steven Senne)

 

▲ (圖片來自:圖片來自:AP Photo/Steven Senne)

 

AI 臉部辨識技術已經成熟了嗎?或許真的該打上個大問號。

來自 MIT 實驗室的迦納裔資料科學家喬伊‧波拉維尼表示,根據她於 2018 到 2019 年間做的兩項研究,證實眾多科技公司開發的 AI 都無法如辨識白人男性臉孔般、準確的辨識出膚色較深的女性臉孔。

其中,尤以 IBM 系統失誤率最高,竟高達 34 %;而亞馬遜的 Rekognition 會將 19 %的女性誤認為男性,若分析對象為膚色較深的女性,誤判機會更是高達 31 %,同時該系統在分析膚色較白的人種時,錯誤率幾乎為零。

波拉維尼發現,這些由科技巨頭如微軟、亞馬遜與 IBM 等公司研發出的臉部辨識 AI 演算法,對於判讀白人、黑人與女性竟然出現了差別待遇:「判讀白人的正確度比較高,判讀黑人與女性的正確性則較低。」

推薦閱讀:
微軟AI新聞編輯才上線就出包!錯置有色人種配圖,女歌星森77

 

 

本篇為上篇,下篇請點人工智慧居然只辨識得出白人的臉?!真的假的?!(下)

更多人工智慧相關文章請點閱下方連結!!

 

 

 

 

其他閱讀

 

愛沙尼亞即將任用 AI 法官!人工智慧走入司法領域就一定公正嗎?

【疫情下的人工智慧】拉開「社交距離」後,機器人如何幫我們維繫心理連結?

每個成功的人工智慧背後,都有一群來自「國家級貧困縣」的訓練師-薪水嚇死人

暴躁老人唱情歌、憂鬱阿嬤笑了!4個翻轉家庭的人工智慧 讓家更溫暖

人工智慧貓砂盆問世!!全面掌控愛貓健康!!(1)

人工智慧電影影集:韓劇搭上AI!!真能和AI談戀愛嗎?

人工智慧電影影集:AI是蜜糖還是毒藥?讓這五部電影告訴你!!

 

人工智慧也出包?(2)國會議員與罪犯傻傻分不清!!

人工智慧也出包?(2)國會議員與罪犯傻傻分不清!!
人工智慧也出包?(2)國會議員與罪犯傻傻分不清!!

人工智慧竟然也有出包的一天!!!!趕緊來看看人工智慧這次做了甚麼烏龍舉動~(2)

本篇為上篇,下篇請點此人工智慧也出包?(1)女星照片配置錯誤超烏龍!!

人工智慧臉部辨識 不易分辨有色人種

▲ 被亞馬遜「Rekognition」 臉部辨識系統錯認的 28 位國會議員

 

其實人工智慧在辨識有色人種時,似乎常常犯錯。如 2018 年,美國公民自由聯盟(American Civil Liberties Union,ACLU)就對亞馬遜提供的「Rekognition」 付費臉部辨識服務做了一項測試。

ACLU 蒐集了 25000 張嫌犯照片做為臉部辨識的資料庫,並使用預設的設定,讓 Rekognition 逐張比對國會議員和資料庫裡的嫌犯照片。結果,最後有 28 名國會議員被誤判,在誤判的議員中,有 40% 的議員是有色人種 ── 即便有色人種在全部的國會議員中只占了兩成。

▲眾議員 Sanford Bishop(D-Ga.)被 Amazon Rekognition 臉部辨識系統錯認為罪犯

 

然而,「Rekognition」 臉部辨識系統也被美國警方使用。這是否會在不知不覺中侵犯到有色人種的權益?目前亞馬遜已因此問題,暫停提供這套系統給美國政府使用。

現有的臉部辨識技術,在分辨有色人種特別容易出錯,也許是以下原因導致:

AI資料庫的白人照片比較多

美國喬治城大學法律中心(Georgetown Law School Center)的隱私與科技領域資深助理 Clare Garvie 表示,原因可能是出在工程師建立AI人工智慧的臉部辨識資料庫時,提供的白人照片比有色人種多而導致。

開發工程師以白人居多

一個研究顯示:人們在辨識另一種族的人員時,準確度會低於辨識與自己相同種族的成員。 而大部分 IT 產業的工程師以白人男性居多,他們開發出的臉部辨識系統在辨識有色人種的準確度時,無形中也比白人還差 ── 即使他們無意為之。

其時除了臉部辨識的問題,使用人工智慧來取代真人撰寫、改編新聞,本來就爭議連連:

過去英國《衛報》曾將一則關於英國脫歐的新聞中,第一段中的一些句子餵給人工智慧,結果 AI 馬上產生「可信度高」的假新聞與文章 ── 文中的人名 (如政壇人物的名字)、地名與所提到的片段事件皆為真實存在,不過新聞的內容卻是將這些真實的元素移花接木而成,但是卻符合邏輯,因此易被有心人士用來製造假新聞。(詳細報導:AI寫作能力強過人類,恐成為假新聞製造機?)

人工智慧太會捏造新聞,甚至有人懷疑之前馬斯克離開自己創立的 AI 人工智慧研究團隊「OpenAI」與此有關呢!(詳細報導:馬斯克宣布離開 OpenAI 的真正原因是…研發的 AI 太會寫假新聞?)

無論如何,人工智慧畢竟沒有靈魂,因此沒有明辨是非的能力,所以生產出的文章都會跟現實有些出入。所以最好的方法還是把新聞的編輯、審稿工作交還給人類,畢竟這世界八卦與謊言已經夠多了!我們需要真實的東西!

 

 

更多關於人工智慧的文章請點閱下方連結~

 

 

 

其他閱讀

線上職訓正夯 從零開始花半年錄取軟體工程師

Python vs R語言:哪個比較適合人工智慧/機器學習?

台灣本土開發AI 發行首張音樂專輯<<武漢肺炎>>

六個月從工地工人轉職 Java 軟體工程師,全因半年做了「對的決定」

人工智慧居然會釀酒?!還贏過真人奪得大獎!!()

台版人工智慧雅婷推出了首張完整疫情創作專輯?!

人工智慧準確測量社交距離,讓你出門在外也放心!!

人工智慧也出包?(1)女星照片配置錯誤超烏龍!!

人工智慧也出包?(1)女星照片配置錯誤超烏龍!!
人工智慧也出包?(1)女星照片配置錯誤超烏龍!!


人工智慧竟然也有出包的一天!!!!趕緊來看看人工智慧這次做了甚麼烏龍舉動~(1)

▲ 普林斯敦大學的研究團隊結合人工智慧新聞編輯混淆了英國兩位有色人種歌手:Leigh-Anne Pinnock(左)和 Jade Thirlwall(右)。
 

 

微軟用人工智慧編輯新聞!全球近百名員工飯碗不保?

日前微軟公司宣布:要讓 AI 人工智慧取代旗下近百位「真人」新聞記者與編輯,來為微軟新聞、MSN.com 等管道,挑選、編輯新聞。根據 Business Insider 報導,美國有約 59 人遭裁撤;衛報也則提到英國也有約 27 人遭裁,還有其他國家地區的辦公室,也有許多員工面臨飯碗不保的窘境。

沒想到這個AI 人工智慧才上線一個月就出包,還牽扯到近期非常敏感的種族議題,引發人們對人工智慧的編輯新聞能力、整體臉部辨識科技的疑慮。

推薦閱讀:AI寫作能力強過人類,恐成為假新聞製造機?

人工智慧錯置新聞配圖 女歌手指名「請加油吧」

根據英國《衛報》指出,微軟旗下的 MSN 新聞網站,近日轉載了英國《獨立報》有關英國流行女團 Little Mix(混合甜心)的報導,內容是關於其中一位成員 Jade Thirlwall 過去在學校中遭受種族歧視的心路歷程。

雖然這是一篇單純的採訪報導,但是經過微軟的 AI 人工智慧編輯轉載後,新聞配圖竟然不是採訪的對象 Jade Thirlwall,而是同團的另一名團員 Leigh-Anne Pinnock 與另一名男性的合照!

▲ 被人工智慧錯置配圖的新聞主角 Jade Thirlwall 在 IG 上表達對 MSN 新聞的不滿

 

AI 人工智慧造成的烏龍,引發新聞主角 Jade Thirlwall 的不滿。她在 Instagram 上標註 MSN 並抱怨說:「@MSN 如果你們要複製貼上別家正確的媒體文章時,應該要確認一下配圖是否為正確的有色人種團員」。她還補充說:「這讓我很生氣,你們竟然沒辦法從只有 4 人團體中,區分 2 個有色人種女性?請加油吧!」

目前尚不清楚讓微軟 AI 人工智慧犯下如此錯誤的原因,但微軟在新的聲明中表示:這不是「演算法偏見(註解如下)」的結果,而是自動化系統中的新功能測試。

所謂的「演算法偏見(algorithmic bias)」是指在看似沒有惡意的程式設計中,卻帶有程式設計人員的偏見、或者採用的數據是有偏見的。「演算法偏見」的結果當然帶來了各種問題:如 Google 搜尋被曲解、合格的考生無法進入醫學院就學、聊天機器人在推特 (Twitter) 上散佈種族主義和性別歧視資訊等。

 

 

本篇為上篇,下篇請點此人工智慧也出包?(2)國會議員與罪犯傻傻分不清!!

更多關於人工智慧的文章請點閱下方連結~

 

 

 

其他閱讀

線上職訓正夯 從零開始花半年錄取軟體工程師

Python vs R語言:哪個比較適合人工智慧/機器學習?

台灣本土開發AI 發行首張音樂專輯<<武漢肺炎>>

六個月從工地工人轉職 Java 軟體工程師,全因半年做了「對的決定」

人工智慧居然會釀酒?!還贏過真人奪得大獎!!()

台版人工智慧雅婷推出了首張完整疫情創作專輯?!

人工智慧準確測量社交距離,讓你出門在外也放心!!