2017年人工智能的十大失誤

人工智能 (174) 2022-06-27 18:36:15

從自動駕駛車輛事故到Face ID黑客,人工智能的這一年并不能算是完美無缺。

軟件頻道消息:人工智能(AI)在2017年經常會登上技術頭條新聞,內容通常是關于創新的新產品和在工作場所的增長的。

多個報告探討了這項技術的未來和影響。據Gartner 10月的一份報告預測,到2020年,人工智能將創造230萬個就業機會。而中國現在正在爭奪人工智能的世界主導地位,這可能意味著全球權力的轉移。

專家們預測了人工智能的增長以及針對商業用戶和消費者的潛在道德問題。雖然2017年只有17%的開發者參與了這項技術的研發,在2018年仍不計劃使用人工智能或機器學習的人只有其中的四分之三,這意味著持續的增長。

但是,像大多數新興領域一樣,人工智能經歷了一些值得注意的、成長中的痛苦。

這里的十個錯誤讓可以讓大家了解人工智能。

1. 谷歌翻譯在把土耳其語翻譯成英文的時候表現出了性別偏見

土耳其語有一個代詞"o",用于指代單數的、不分性別的第三人稱,這個詞沒有直接對應的英文翻譯。Quartz在11月份的時候注意到,谷歌翻譯并不知道到底該如何處理這個問題,并使用了帶有性別偏見的算法來猜測相應的英文代詞是"他"、"她"還是"它"。

結果是:在有"醫生"或"努力工作"等詞的句子中,這個中性的代詞被翻譯成"他",而在有"懶惰"和"護士"的句子中,這個中性的代詞就會被翻譯成"她"。

2. Facebook的聊天機器人在發展出自己的語言后被關閉

Facebook的研究人員發現,愛麗絲(Alice)和鮑勃(Bob)--該公司的兩個人工智能聊天機器人--已經發展出了它們自己的秘密語言,并且正在用這種語言進行對話。不過談話記錄看起來是無害的,這家社交媒體巨頭表示這是一種速記形式。在他們的談話被發現后,愛麗絲(Alice)和鮑勃(Bob)被關閉了。

3. 第一天就出了事故的自動駕駛面包車

就在自動駕駛班車在拉斯維加斯推出的不到兩個小時之后,一輛半卡車倒車撞到了其中一輛班車。班車本身沒有錯--當傳感器發現卡車在倒車時,它將車停了下來,警方指控卡車司機非法倒車。

雖然該市的一份聲明表示,如果卡車有類似的傳感器,這起事故就可以避免,但是如果班車采取了不同的反應,也可能就避免了輕微的剮蹭。

4. 谷歌Allo建議使用圍頭巾的男子的表情符號回應槍支的表情符號

對于消費者和商業專業人士來說,谷歌的智能回復功能可以幫助你快速、簡單地做出回應。但CNN Money發現,在一種情況下,建議的答復顯示出偏見的跡象。

在谷歌Allo上,對于槍支的表情符號給出的三個建議的回應中,有一個是帶著頭巾的男子的表情符號。在CNN向谷歌報告了這一實例之后,谷歌進行了道歉,并調整了Allo的算法。

5. Face ID被面具打敗

在iPhone X發布后的一個星期,黑客們已經繞過了手機的簽名Face ID面部識別系統。越南的安全公司Bkav用3D打印的面具讓一個iPhone X相信它是一個人,并解鎖了電話。該公司表示,這個面具的制作成本大約是150美元。

6. 人工智能在Kentucky Derby賽馬比賽結果預測中失敗

在依次猜出2016年所有的四位獲勝者之后,人工智能沒有猜對5月份的2017 Kentucky Derby的獲勝馬匹。雖然表現超出了人類,但人工智能只猜出了前四名中的兩名,而且這兩名的順序也是錯的。雖然賽馬比賽的結果是不可預測的,但是一些人對人工智能有很高的期望。

7. Alexa把她的派對帶到了德國

11月1日晚間,在接到鄰居的報警后,德國警方闖入了一間公寓,鄰居們報警稱這間公寓在凌晨發出嘈雜的音樂聲。原因?不是派對,而是在居民離開家之后,Amazon Echo隨機地播放音樂。

更糟糕的是,警方在關閉了Alexa之后改變了鎖的設定,把該居民鎖在了外面,并且要支付一大筆鎖匠的賬單。

8. Google Home故障導致了將近100%的故障率

幾乎所有的Google Home設備在六月都出現了故障,幾個用戶報告稱每當他們嘗試與智能助理進行交互時都會得到錯誤信息。投訴從5月31日開始,并且在下一周堆積成山,而谷歌在那時正在尋找解決方案。

9. Google Home Minis監視著它們的主人

十月份,安全研究人員發現一些Google Home Minis被秘密地打開了,錄制了數千分鐘的主人的音頻,并將這些錄音發送給谷歌。一位用戶注意到他的數字助理已被打開并試圖偷聽電視的聲音,然后他檢查了谷歌的"我的活動"門戶,在那里他發現設備已經在錄制他的聲音。

谷歌很快發布了一個補丁來阻止這個問題。

10.Facebook允許廣告針對"猶太人的仇敵"

使用Facebook的人工智能驅動的自助服務平臺來購買廣告,企業和品牌可以將他們的信息針對不同的人群。ProPublica在9月份報告表示,其中一些人口統計分類包括那些有種族主義者或持反猶太人觀點的人。

這家新聞機構發現,廣告可以專門針對那些對"如何燒死猶太人"或"'為什么猶太人毀壞世界'的歷史"等話題感興趣的人。"Facebook表示,這些類別是由算法創建的,而不是由人類創建的,并且已經刪除了這些選項。

THE END

發佈留言