人工智慧：我們更應該擔心什麼

如今，每個行業多少都會涉及到人工智慧，仿佛人工智慧處在一個大爆發的階段。

但是人工智慧專家、加州大學伯克利分校教授邁克爾·喬丹表示，人工智慧目前還處於非常初級的階段。很多事情我們還不瞭解，現狀並不是一個“人工智慧的神奇大爆炸時代”。喬丹教授在人工智慧領域非常有名氣，他也是前百度首席科學家吳恩達的導師。9月9日，喬丹教授在混沌大學的的課堂上，分析了人工智慧的現狀，以及幾個值得擔心的問題。

首先，喬丹教授說，想要準確地理解人工智慧，就要瞭解一下人工智慧目前有哪些可能性，以及哪些技術還不太可能實現。比如人臉識別技術，電腦能做到在可視場景中標記物件，但沒辦法做到對視覺場景的常識理解。就拿開會來說，在一個會議室裡面放上聯網的攝像頭，電腦能區分出來哪些是人臉，但卻不能理解開會這個場景。再比如，機器只能做到死記硬背，

卻沒有辦法真正地回答問題。當你和電腦交流的時候，它可以回答你“中國最大的城市是哪一個”，那是它通過“中國”“城市”“最大”三個關鍵字，搜索出來的答案。但如果你問“中國不在河邊的第二大城市是哪一個”，電腦就不一定能答上來。因為之前可能沒有人做過這個問題的相關資料，所以就沒有這個問題答案的資料清單。

喬丹教授說，未來十年，以上這些沒辦法實現的部分，

或許能做到基本的實現，而且會做得越來越好。但他還是堅持認為，我們不太可能看到和人有同等智力的人工智慧系統。因為人類在講話的時候，是可以不斷講新內容、新理念的。同時人類還擅長進行新的抽象推理。這些人工智慧系統就做不到，它需要反復、重複用海量的資料才能得出一個答案。人工智慧系統可以知道世界所有的城市、餐廳、電影院，然而它也只知道這些事實而已。人工智慧很難有靈活性和創造性。

不過，喬丹教授說，雖然我們不用擔心出現超級人工智慧的出現，但是反過來說，目前看似智慧，實則不夠智慧的這些系統，卻是值得我們警惕的。尤其是在未來，涉及到城市規劃、推薦系統、醫學診斷等領域，都不再是傳統單一機器人的問題。如果用過去傳統演算法去應用到這些領域，就會出現很多問題。

接著，喬丹教授從五個方面，

分析了我們需要擔心的問題。

第一，大規模多重相關決策的錯誤控制。喬丹教授說，搜尋引擎給了你一個錯誤的建議，不會給你添多大的麻煩，你最多會覺得這個搜尋引擎不好用，再換一個就完了。但假設這個推薦是醫療診斷意見，錯了是有可能出人命的。而且，現在已經發生過這樣的事情了。類似的錯誤放在金融領域，可能會引發市場的動盪，放在交通領域，可能會讓整個城市的交通都癱瘓。所以，一旦擴大到這些領域，我們就不能用傳統應用到單一機器人的方法來做，而是要有新演算法。但目前來說，我們採用的思路都是比較傳統或者通用的，還沒意識到在這個層級上還要做很多事情。

第二，如何在競爭環境中共用資料。喬丹教授說，很多掌握資料的公司都不願意和別人分享。他認為，資料分享的好處是，我們可以從整個行業的角度速考慮問題。比如一個駭客攻擊了一家公司，這家公司就會從這次攻擊中學到新東西。但因為當初只有這家公司受到了攻擊，其他公司並不知道。如果這家公司把這個資料分享給所有人，整個行業就可以一起改善這個演算法。現在大家都不願分享，一方面是技術原因，一方面也有法律的原因。

第三，大規模的雲端互動。人們都在說雲計算，所有的東西都在雲上，但其實這些智慧設備都是所謂的端設備，它們沒有時間把資料上傳到雲中。如果你和人工智慧的每一次對話都要傳到雲上，就會導致速度跟不上。比如，在汽車智慧這個領域，像“我在這裡到底要不要轉彎”這樣的問題，是不可能每一次都即時和雲進行交互的。因此，要把端設備和雲連接起來，還要即時交互，是有極大挑戰的，我們現在也不知道該怎麼做。

第四，公平和多元化的問題。喬丹教授認為，搜集大量資料沒問題，但這些資料是可能產生偏差的。比如，如果資料人員因為不喜歡某類人而不把這類人納入樣本，用這樣的樣本做預測，本身就是有偏差和偏見的。

第五，穩健性和安全性問題。比如，無人駕駛技術怎麼能確保在所有氣候條件下，在所有的路況上面，每一台車都能安全駕駛？這其實就是一個極大的挑戰。此外，還有失業浪潮。喬丹教授說：“每一次工業革命，都有很多人會因此失去工作。但值得注意的是，過去的失業浪潮是花費三五十年完成的。但接下來，很多工作可能在5-10年內就會被完全取代，這是一個新的趨勢，貧富差距也會隨之進一步拉大。”還有就是人工智慧被濫用的問題，人工智慧本身沒有邪惡和正義，主要還是看它被誰利用。

科技有溫度，點擊下方，關注「 酷玩兒 」帶您發現新奇、好玩的科技！

所以，一旦擴大到這些領域，我們就不能用傳統應用到單一機器人的方法來做，而是要有新演算法。但目前來說，我們採用的思路都是比較傳統或者通用的，還沒意識到在這個層級上還要做很多事情。

第二，如何在競爭環境中共用資料。喬丹教授說，很多掌握資料的公司都不願意和別人分享。他認為，資料分享的好處是，我們可以從整個行業的角度速考慮問題。比如一個駭客攻擊了一家公司，這家公司就會從這次攻擊中學到新東西。但因為當初只有這家公司受到了攻擊，其他公司並不知道。如果這家公司把這個資料分享給所有人，整個行業就可以一起改善這個演算法。現在大家都不願分享，一方面是技術原因，一方面也有法律的原因。

第三，大規模的雲端互動。人們都在說雲計算，所有的東西都在雲上，但其實這些智慧設備都是所謂的端設備，它們沒有時間把資料上傳到雲中。如果你和人工智慧的每一次對話都要傳到雲上，就會導致速度跟不上。比如，在汽車智慧這個領域，像“我在這裡到底要不要轉彎”這樣的問題，是不可能每一次都即時和雲進行交互的。因此，要把端設備和雲連接起來，還要即時交互，是有極大挑戰的，我們現在也不知道該怎麼做。

第四，公平和多元化的問題。喬丹教授認為，搜集大量資料沒問題，但這些資料是可能產生偏差的。比如，如果資料人員因為不喜歡某類人而不把這類人納入樣本，用這樣的樣本做預測，本身就是有偏差和偏見的。

第五，穩健性和安全性問題。比如，無人駕駛技術怎麼能確保在所有氣候條件下，在所有的路況上面，每一台車都能安全駕駛？這其實就是一個極大的挑戰。此外，還有失業浪潮。喬丹教授說：“每一次工業革命，都有很多人會因此失去工作。但值得注意的是，過去的失業浪潮是花費三五十年完成的。但接下來，很多工作可能在5-10年內就會被完全取代，這是一個新的趨勢，貧富差距也會隨之進一步拉大。”還有就是人工智慧被濫用的問題，人工智慧本身沒有邪惡和正義，主要還是看它被誰利用。

科技有溫度，點擊下方，關注「 酷玩兒 」帶您發現新奇、好玩的科技！