人工智能有哪些益處？在過去的幾十年中，人工智能在我們的生活中已司空見慣。我們利用依賴于人工智能的全球定位系統為旅行制訂計劃，從復雜的數以百萬計的路線中找到最好的一條。我們的智能手機理解我們的語言，Sii，微軟小娜（注：微軟發(fā)布的一款個人智能助理系統）和Google Now(注：谷歌推出的一款語音助手應用程序)在理解我們的意圖方面做得越來越好。我們用手機照相時，人工智能可以檢測到人臉，我們把那些照片上傳到臉書時，人工智能能識別出不同人的面部?；ヂ摼W搜索引擎，如谷歌和必應，是基于一個人工智能的子系統。每天，人工智能都為數億人提供搜索結果、交通預測、圖書和電影推薦。人工智能在不同語言間實時翻譯，通過猜測我們的下一步動作加速我們在筆記本電公司都在研究可以自主駕駛的汽車一在人的監(jiān)督下半自動或全自動駕駛。除了對我們日常生活的影響之外，人工智能技術在科學和醫(yī)藥領域也扮演著重要的角色。人工智能在醫(yī)院中幫助醫(yī)生了解哪些病人患并發(fā)癥的風險最高，人工智能算法也有助于在龐大的數據堆中找到重要的東西。例如，人工智能近期已被應用于發(fā)現藥物之間不易察覺的相互作用，這些相互作用可能因嚴重的副作用而將病人置于危險之中。人工智能如何具有危險性？多數研究人員認為人工智能不可能具有愛、恨等人類的情感，沒有理由期待人工智能變得友善或者兇狠。相反，考慮到人工智能可能如何成為隱患時，專家們認為以下兩種情況很有可能出現：人工智能被設定執(zhí)行一些破壞性的活動。自主式武器就是被設定為進行殺戮的人工智能程序。這些武器在壞人手中，很容易造成大量傷亡。此外，人工智能軍備競賽可能會無意地引發(fā)人工智能戰(zhàn)爭，同樣會造成大規(guī)模傷亡。為避免被敵方阻撓，這些武器被設計為很難輕易關閉，因此人類似乎有可能對此失控。目前連弱人工智能都存在這種危險，隨著人工智能程度和自主化的提升，其危險性會隨之增加。人工智能被設定來做好事，但為達目標，它發(fā)展出具有破壞性的方法。當我們不能將人工智能的目標與我們的目標保持完全一致（這很難）時，這種事情就會發(fā)生。如果你要求順從的智能汽車盡快帶你去機場，它可能以快于直升機的速度帶你去機場，并淹沒在你的嘔吐物中，雖然違背你的意愿，但表面上卻是在按你的要求做事。如果超強人工智能系統被安排執(zhí)行一項躊躇滿志的地球工程項目，它帶來的副作用可能是嚴重破壞我們的生態(tài)系統，并將人類試圖阻止它的行為視作威脅。正如這些案例所表明的，人們擔憂的不是高級人工智能的惡意而是它的能力。你可能不是一個出于惡意踩死螞蟻的螞蟻憎恨者，但如果你掌管著一個水電綠色能源項目，在需要淹沒的區(qū)域中有一個螞蟻窩，那螞蟻們就要遭殃了。人工智能安全研究的一個主要目標就是永遠不讓人類淪落到螞蟻一樣的境地。近期人們?yōu)槭裁搓P注人工智能的安全？近期，史蒂芬·霍金、埃隆·馬斯克、史蒂夫·沃茲尼亞克、比爾·蓋茨以及其他許多科學和技術領域的大腕都通過媒體或公開信表達了對人工智能引發(fā)的風險的擔憂，許多杰出的人工智能研究者也同意他們的觀點。為什么這個話題突然成為頭條熱點呢？數百年來甚至更長期以來，追求強人工智能終會成功被認為只出現在科幻小說里。然而，由于近期的重大突破，專家們五年前認為尚需幾十年時間的人工智能里程碑式進展，現在都已實現，這讓很多專家認真思考在我們的有生之年超強智能發(fā)生的可能性。雖然一些專家仍舊猜測類人級別的人工智能還需要數百年的時間才能實現，然而在2015年波多黎各大會上，大多數人工智能研究者清測這種情況在2060年之前就將實現。由于完成必要的安全研究需要幾十年的時間，現在就開始是明智的選擇。因為人工智能有可能變得比任何人都聰明，我們沒有萬無一失的辦法來預測它將來的表現。我們不能過多地將以往的技術發(fā)展作為基礎，因為不管是有意地還是無意地，我們從來沒有創(chuàng)造過比我們更聰明的東西。對于我們可能面臨什么，最好的例證或許就是我們自身的演變。人類現在控制地球，不是因為我們是最強大的，最快的或者最龐大的，而是因為我們是最有智慧的。如果我們不再是最有智慧的，那我們還有把握掌控一切嗎？美國生命未來研究所認為只要我們能在日益發(fā)展的技術力量與我們掌控技術的智慧之間的較量中取得勝利，我們的文明就將繁榮昌盛。至于人工智能技術，生命未來研究所認為贏得較量的最佳方式不是阻止前者的發(fā)展，而是通過支持人工智能的安全研究，壯大后者。