資訊專欄INFORMATION COLUMN
摘要：一名德國男子不在家，家中的被意外激活，并在半夜兩點開始播放音樂，吵醒了鄰居。然而在兩個小時后，公交車就被一輛大貨車撞上了。匯豐馬上推出了解決方案嘗試三次失敗之后就鎖定賬戶。
簡評：整體來說，2017 年的 AI 進步還是不小的，比 2016 的 AR/VR 強很多。今天的案例中有些還挺萌的。
今年，AI 項目 AlphaGo 和 Libratus 成功戰勝了人類最頂尖的圍棋選手和撲克選手。但即使 AI 有這么多里程碑式的事件，仍有不少人對 AI 持懷疑態度，特別是見過了 2017 年不少 AI 的失敗案例之后。
一些新技術，新想法在努力的執行它們的任務，然而也經常會犯一些人類不會犯的錯，這里總結了 2017 年值得注意的 AI 失敗案例。
1.被面具破解的 Face ID
特別加工區域的額頭、2D 圖片的眼睛、硅膠鼻子、3D 打印的輪廓，輕松破解
FaceID 面部識別是最新的 iPhone X 的解鎖技術，據傳是迄今為止最安全的 AI 激活方式，蘋果吹噓這項技術被破解的可能性是百萬分之一。但隨后越南公司 Bkav 花費 150 美元使用 3D打印的塑料、硅膠、化妝品、圖片、和鏤空結構組成了一個臉部模型輕松破解了 FaceID。Bkav 只是掃描了一個測試對象的面部，使用 3D 打印生成了個臉部模型，貼上紙的眼睛和嘴巴，硅膠鼻子就成功破解。這給行業帶來了很大沖擊，預示了消費者設備隱私的風險，以及人工智能的安全問題。
2.鄰居們因為 Amazon Echo 半夜自嗨而報警
還上了新聞
Amazon Echo 被公認為是先進的智能語音助手，很受歡迎。但沒有事情是完美的。一名德國男子不在家，家中的 Echo 被意外激活，并在半夜兩點開始播放音樂，吵醒了鄰居。鄰居打電話報警，警察不得不破門而入，關閉 Echo，警察還換了門鎖，這個德國男子回家的時候，發現自己的鑰匙打不開自己家門了。
3.Facebook 聊天機器人 Chatbot 關閉
兩個機器人互相聊天，完全在說胡話
今年七月，兩個 Facebook 機器人無法互相識別彼此的語言，Chatbot 無法溝通而被關閉。大家猜測這兩個機器人溝通的語言可能是一種新的加密語言，謠言四起。最后 Facebook 出面解釋說這種神秘的交流只是語法編碼自檢的結果。
4.拉斯維加斯的自動駕駛公交車第一天就撞車
左邊那個小車，被一輛貨車轉撞了，雖然責任在大貨車，但明顯小車不夠聰明
拉斯維加斯一輛自動駕駛公交車在十一月亮相，當時著名魔術師佩恩·泰勒也排隊等候坐了這輛車。然而在兩個小時后，公交車就被一輛大貨車撞上了。盡管從技術上來說，公交車沒有責任，是大貨車的問題，但是這輛車上的乘客抱怨，當卡車慢慢靠近的時候，公交車不夠聰明，根本沒有任何躲避的動作。
5. Google Allo 使用頭巾回應槍支表情
槍的提示回復：穆斯林
美國有線電視臺的一位工作人員使用 Google Allo（Google 的一款即時通訊軟件）時，發現對方如果發來一個槍的表情，軟件推薦回復的表情是 bad、刀和戴頭巾的人（穆斯林？）。這個問題比較尷尬，Google 馬上向公眾保證已經解決了這個問題并且發表道歉。
6.雙胞胎戲耍匯豐銀行語音識別 VoiceID
雙胞胎成功破解語音識別
匯豐銀行的語音識別 VoiceID 是一個語音 AI 安全系統，允許用戶通過語音訪問賬戶。匯豐聲稱它和指紋 ID 一樣安全，但是 BBC 記者和他雙胞胎兄弟卻模仿彼此的聲音成功訪問了對方賬戶，只用了 7 次嘗試就成功了。匯豐馬上推出了解決方案：嘗試三次失敗之后就鎖定賬戶。（？？？）
7. Google AI 把步槍指認為直升機
Google AI 把槍認成直升機
麻省理工一個研究小組通過微調步槍的圖片，欺騙了 Google Cloud Vision API，讓 AI 把步槍判定為直升機。他們使用的方法是「不良樣本」，給計算機引入一些人眼無法察覺的修改來對圖像進行錯誤的分類。在過去，需要知道目標計算機系統的基本機制，這招才能奏效。但是這次麻省理工學院團隊在沒有獲得系統信息的情況下，就成功的觸發了錯誤分類。
8.用路牌戲耍自動駕駛汽車
把停車牌認成限速45
研究人員發現，通過使用油漆或者膠帶，修改停止標志，可以成功的欺騙自動駕駛汽車，使之進行錯誤的指令。比如把「LOVE」和「HATE」這兩個詞放在「STOP」標志上，就成功欺騙了自動駕駛汽車的機器學習系統，在測試中所有的車都把其誤認為「限速 45」（Speed Limit 45）的標志。
9. AI 識色系統各種混亂的匹配
把顏色匹配各種奇怪的名字
機器學習研究人員 Janelle Shan 訓練了一個神經網絡，以產生新的油漆顏色以及可以「匹配」每種顏色的名稱。產生新顏色很順利，但匹配名字簡直是車禍現場。即使在用顏色名稱數據進行少量訓練之后，該模型仍然將天藍色標記為「灰色恥骨」，將深綠色標記為「狂暴棕色」，將深粉標記為「銀行屁股」。
10.有了 Alexa 要什么圣誕老人?
小女孩對語音助手說：我超愛你。然后語音助手就下單了
Amazon Alexa 語音助手幫助我們提高了購物體驗，讓買東西變得非常簡單。不過有時候過于簡單了，2017 年 1 月，一個小女孩用跟 Alexa 說我想要個玩具房子和一罐曲奇，當時小女孩的原話是「你可以給我一個玩具屋并和我一起玩么？」。然后小女孩又說「我超愛你」。然后 Alexa 就下單了，第二天 170 美元的玩具屋和一罐曲奇就送到了家里，當然是她媽媽買單。現在她媽媽設置了密碼，不能語音直接買了。（sad。。。）
以上就是 10 個 2017 年的 AI 失敗案例。
英文原文：Synced | 2017 in Review: 10 AI Failures
文章版權歸作者所有，未經允許請勿轉載,若此文章存在違規行為，您可以聯系管理員刪除。
轉載請注明本文地址：http://specialneedsforspecialkids.com/yun/19699.html
摘要：毫無疑問，深度學習將驅動在公司中的應用。在其價值評估和策略評估上使用的就是深度學習。端到端的深度學習是一個令人著迷的研究領域，但是迄今為止混合系統在應用領域會更有效率。目前專注于深度學習模式，方法和戰略的研究。 在之前的博客中，我曾預言過未來幾年的發展趨勢。我記得上一篇博客的內容是《2011年軟件開發趨勢和相關預言》（Software DevelopmentTrends and Predic...
摘要：年，依托于品高原有的行業積累，品高云開始致力于幫助企業和政府構筑私有云。截至年底，品高云的產品激活量已達到了萬臺，其中最長的客戶穩定使用時間已達年。品高云創造了很多私有云的第一次成立于2003年的廣州市品高軟件股份有限公司，在2008年就開始進行云技術的探索和研發，在2010年，就推出了品高云產品，直到今天，已經發布了品高云8．0版本，品高成立之初便服務于大型公司。旗下擁有1000多名員工，...
摘要：營收利潤雙增長艱難轉型多年，直到年營收和利潤才出現雙雙增長局面，盡管營收依舊低于千億美元，但豪賭多年的云計算和人工智能，伴隨物聯網部署規模日益擴大的態勢，經營開始取得成效。誕生于1911的IBM，已超過百年歷史，不僅是基業長青最具代表性企業之一，且歷經多次成功轉型，依舊活躍在科技界，對全球科技發展仍然舉足輕重，讓他成為全球企業轉型經典案例之一。這個藍色巨人能屹立百年不倒，核心是持續不斷的創新...
摘要：月日，在世界人工智能大會長三角產業智能論壇上，優刻得創始人兼季昕華被授予年長三角人工智能十大杰出人物獎。季昕華年創立，深耕云計算大數據人工智能領域，公司自主研發大數據流通平臺服務平臺等系列產品和服務。7月9日，在2021 世界人工智能大會——長三角產業智能論壇上，UCloud優刻得創始人兼CEO季昕華被授予2021年長三角人工智能十大杰出人物獎。長三角作為我國經濟與創新力的領頭羊，與人工智能...
閱讀 2161·2023-04-26 00:43
閱讀 2680·2021-11-22 15:22
閱讀 3808·2021-11-11 16:55
閱讀 965·2021-11-04 16:06
閱讀 1781·2019-08-30 14:12
閱讀 993·2019-08-30 14:02
閱讀 3365·2019-08-29 17:05
閱讀 1414·2019-08-29 12:27
