AI創世紀： 即將來臨的超級人工智慧時代

「2018人工智慧領域最值得一讀」選書 　　企業決策者「必讀AI書籍」Top 10入選 　　Amazon網路書店4.6星讀者口碑好評 　　波音、思科、福特汽車等跨國企業聯名推薦 　　終有一天，超級人工智慧必將實現 　　到那時候，人類有什麼值得保有的東西？ 　　人類獨一無二的價值是什麼？ 　　若AI能自主思考，我們真有必要視之為威脅嗎？ 　　AI（或稱人工「機器」智慧）在我們日常生活中扮演的角色益發吃重，從自動駕駛、搜尋引擎、無人機到最新的語音辨識軟體等種種技術發展，便可窺知一二。 　　然而，近來AI領域的突飛猛進卻引發了二極化的反應。有些專家主張，人類大部分的難題都能靠機器解決；有些人卻認為AI的進化將導致我們走上反烏托邦的暗黑之途，消弭人類之地位於無形。 　　AI究竟會對世界產生何種影響？答案儘管見仁見智，但想到人類有可能創造出具有智慧的東西，確實會讓人不寒而慄。不過，換個角度思考，如果這就是人類最終極的目的呢？如果AI就是人類最偉大的發明呢？ 　　傑出的發明電腦科學家埃米爾・侯賽因認為，人類已經寫下AI的初篇章，著手勾勒最偉大的造物神話。就近期而言，許多重要領域會在AI技術的輔助之下加速發展，例如智慧居家、網路資安、金融市場、能源開採、軍事國防、健康醫療產業等等。放眼未來，人工智慧的爆炸性成長也將全面改造人類的存在意義。 　　侯賽因在《AI創世紀》廣泛論述未來AI將引發的人類存在問題：人類為什麼很寶貴？人類究竟有多麼聰明？人類如果難有進步的原因又是為何？即將來臨的感知機器時代，讓大家有機會好好問一問自己：我們是誰？我們想變成什麼樣子？我們是否應該把握機會，將人工智慧當成一面鏡子，藉此審視人工智慧所映照的人性本質？ 　　侯賽因向笛卡兒、圖靈等大師之輩的思維取經，並針對未來提出精闢又實際的分析以回答這些問題。同時，他也以鼓舞人心的視角，展望人類即將迎來的巨大變革——我們不必成為機器的奴隸，而是成為生命的創造者。 本書特色 　　1.作者本身的專業背景令人信服，且書中引用大量實際案例與故事（例如臉書的個資外洩事件、「劍橋分析」以AI科技介入美國總統大選、勒索病毒蔓延引發全球恐慌），讀來津津有味又有感。 　　2.章節安排經過細心鋪陳、循序漸進，容易為讀者所接受。 　　3.從人工智慧為出發點，討論面向廣泛，例如虛擬貨幣、智慧居家、物聯網、未來醫療、機器人戰爭、，一次補足我們對AI現況發展與未來展望的認識。 　　4.〈後記〉題材特殊前衛，刺激讀者對「超級人工智慧」即將成真的想像。 　　5.作者擁有豐富的哲學人文素養，文筆洗鍊優美、收放自如，兼具廣度與深度，是此類書籍當中難得一見的優雅作品。

許毓仁／Ted×Taipei共同創辦人暨立法委員 　　陳良基／科技部部長 　　陶韻智／德豐管理顧問、前LINE臺灣區總經理 　　程世嘉／iKala共同創辦人暨執行長 　　黃從仁／臺灣大學心理學系助理教授 　　楊立偉／意藍資訊公司董事總經理、臺灣大學資訊管理學系兼任助理教授 　　楊谷洋／交通大學電機工程學系教授 　　趙坤茂／臺灣大學資訊工程學系教授 　　鄭國威／PanSci泛科學暨娛樂重擊總編輯 　　盧希鵬／臺灣科技大學資訊管理系特聘教授 　　簡仁賢／竹間智能科技CEO暨創辦人 　　簡禎富／清華大學工業工程與工程管理學系講座教授 　　（依姓氏筆劃排序） 各界好評 　　「聽膩了AI威脅論？對身患罕見惡疾的作者埃米爾・侯賽因來說，AI不只為他帶來希望，從更大的範圍來看，也是對抗AI威脅本身最好的解法。侯賽因旁徵博引諸多最新案例，試圖說服讀者：如果現在的科技快速發展讓你感到恐懼，而讓你出於直覺地想逃避跟壓抑，甚至發出禁令，請想想這是不是在掩耳盜鈴？我想我是被說服了。」——鄭國威／PanSci泛科學暨娛樂重擊總編輯 　　「無論是商界領導人、政策制訂者或企業家，都必須對人工智慧及其左右人類未來的力量有一定程度的瞭解。數一數二的AI專家埃米爾・侯賽因的醍醐灌頂之作，助你洞悉AI。」——約翰‧錢伯斯（John Chambers）／思科系統公司榮譽董事長暨JC2 Ventures創辦人兼執行長 　　「侯賽因透過他的著作《AI創世紀》，嚴密地論述各種風險與潛能，但不批判對錯，為我們描繪了一個更光明璀璨的未來。」——葛瑞格‧海斯洛普（Greg Hyslop）／波音公司技術長 　　「內容包羅萬象，從歷史談到數學哲學，令人折服，最令我動容的是探討意識的章節。侯賽因所闡述的都是我最感興趣的觀念，例如心靈、創造力、自利、遞回與內隱系統、穩定及其假象、控制的概念、定態混沌和可預測性等概念與淵源，這些環節集結成《AI創世紀》暢談的主要概念，讀來妙趣橫生，引人入勝！」——理查‧佛斯特（Richard N. Foster）／美國國家科學、工程與醫學學院（The National Academies of Science, Engineering, and Medicine）主席 　　「究竟應該恐懼人工智慧還是全心接納？AI下一輪要顛覆的產業有哪些？軍隊可有權使用自主武器？機器有創意嗎？本書以鏗鏘有力的科技視角，直搗科學、社會和人類的核心問題。此時正是人類最關鍵的時刻，我要向試圖以平衡與理性的觀點著眼未來的人推薦這本書。」——布魯斯‧波特教授（Professor Bruce Porter）／德州大學奧斯汀分校電腦資訊科學系系主任 　　「這無疑是一本探討AI及其意義的大作。侯賽因以鮮明又樸實的筆觸將複雜的問題化繁為簡，引領讀者探索各種影響人類未來的重要觀念。推薦入手細讀，隨著本書迎向未來！」——約翰‧桑頓（John Thornton）／巴利克黃金（ABX-Barrick Gold Corporation）執行總裁、中國清華大學教授暨布魯金斯學會主席 　　「任何想掌握人工智慧如何翻轉人類社會與生活的人，一定要讀《AI創世紀》。侯賽因不但是工程師和企業家，也是一位哲學家，對人工智慧與人類的關係有深入的琢磨。侯賽因樂觀看待AI的益處，以平實的筆調來描繪AI技術的種種，對很多畏懼AI的人而言十分容易領略，又具有安撫人心的作用。」——保羅‧雪爾（Paul Scharre）／新美國安全中心技術與國家安全計畫主任暨《無人軍隊》（Army of None）作者 　　「本書最成功的地方就是淺顯易讀，即便不是成天與科技為伍的人，也能夠心領神會。這本緊扣時事的好書，絕對值得一讀，特別適合想要瞭解AI造就何種影響，以及看多了AI會搶走人類飯碗之類言論的人。讀者或可從書中找到樂觀看待AI的理由。」——《愛爾蘭獨立報》（Irish Independent）

推薦序 羅伯特‧沃克（Robert O. Work）／前美國國防部副部長 〈瞭解AI、善用AI，為人類社會創造更大價值〉——許毓仁 〈接納AI，跟上時代巨變〉——陶韻智 〈人工智慧——從猴子，實驗家，到智慧大師〉——楊立偉 〈現代煉金術——AI科技〉——趙坤茂 〈感性解讀、理性認知，讓AI更懂得人並且為人所用〉——簡仁賢 各界好評 致臺灣讀者序 序幕：小男孩的新發現 第1卷 什麼是AI？ 第2卷 現況與不久的將來 第1章：物聯網的興起 第2章：健康醫療 第3章：網路時代的資安議題 第4章：AI在戰爭中的角色 第5章：金融市場 第6章：有認知能力的空間 第7章：駭入人心 第3卷 未來 第8章：缺漏的那塊構件 第9章：目的與職業分道揚鑣 第10章 求知 第11章 AI創世紀 結語：人類的本質又是什麼？ 後記 致謝 注釋 延伸閱讀

推薦序 　　2014春天，我匆忙走馬上任，擔任國防部副部長一職。 　　我身為國防部第二號人物，肩上扛著養成美國軍隊規模與優勢的責任。美軍的技術優勢，因為俄羅斯與中國在軍事上的種種進展而受到動搖，益發讓我感到不安。國防部對軍事武裝的規劃，一向十分重視尖端技術，正因如此，美國從來都不必透過軍備競賽和潛在敵人拚高下。然而今非昔比，令人憂心，我不斷琢磨該如何才能讓美軍在技術上重新奪回「居高臨下」的水準。 　　聲譽卓著的「美國國防科學委員會」（Defense Science Board，DSB）是由平民專家組成的單位，專門提供國防部有關科學暨科技事務的諮詢建議，我向他們請教了美軍究竟應該牢牢把握哪些關鍵科技，才能維持技術優勢，甚至加以精進。據DSB推斷，以人工智慧及機器學習所驅動的機器自主能力，所具備的價值已經「攀升至『引爆點』」。委員會評估了機器自主性「在作戰上的實質好處和潛在危險」之後，建議我應該盡快推動美國軍隊加強自主功能。 　　這個建議真是深得我心。我早預料到在新一代的戰爭型態中，將增加無人系統的運用，這是專屬於「機器人時代」的戰爭特色。若想朝自主無人系統與操作發展，人工智慧是不可或缺的技術祕方，但坦白說，我並不曾好好思考過益發精良的人工智慧究竟將帶來何種影響。為了彌補這個缺失，我竭盡所能地研讀各種研究論文、書籍和文章，以便深入瞭解軍隊以智慧機器來作戰會有哪些實質好處及潛在危險，並設法在這二者之間取得平衡。 　　我在研讀的過程中，接觸了大量的論述，這些論述當然有好有壞。有些文章過於深入鑽探科學與科技方面的原理，以致於見樹不見林。然而，最令我反感的恐怕是太多說法都只執著於二種分歧的觀點，不是主張邁向人工智慧將嚴重威脅人類生存，最好不計代價極力阻止，就是認定人工智慧必能解決世上所有問題，應想方設法發展此技術。但答案並不是非黑即白，而是和其他事物一樣，存乎於中庸之道。 　　後來我偶然看到埃米爾・侯賽因的佳作《AI創世紀》。這本書雖然不是大部頭之作，卻侃侃而談各種見解與觀點，探討AI在不遠的未來對人類生活各層面會產生的影響，包括金融、能源、健康醫療、網路資安和戰爭等等。他的著作之所以大大有別於其他論述智慧機器（有朝一日說不定還會成為知覺機器）的文章和書籍，主要是因為他用了幾個獨特的方式來闡述種種見解與觀點。 　　第一，由於人工智慧所牽涉到的科學十分複雜，故以此為主題的文章論述多半令人敬而遠之，但埃米爾卻能將演算法、人工智慧（弱人工智慧與強人工智慧）、機器學習、認知運算、互聯網、零時差漏洞等技術與概念講得淺顯易懂，讀者無論有無技術背景或是否愛好科技，都能輕鬆閱讀。此外，對於有興趣瞭解更多AI相關知識的人來說，這更是一本容易入門且不容錯過的好書。 　　第二，儘管埃米爾對AI技術具有廣泛深厚的造詣，但直覺告訴他，一本講述AI的書，最好少提技術原理，反而應該多談AI可能對人類產生的影響，無論這些影響是好是壞。從他在「前言」一開始就花了一些篇幅描述他跟Commodore 64個人電腦結下的緣分，以及他本能知道後來不斷改良的電腦一定會成為他的「終極創意工具」，就可以清楚看到他的用心。發炎性腸道疾病是各種和腸道內部發炎有關之病症的統稱，埃米爾將罹患此疾病的互助團體所發生的故事娓娓道來，並以此為引子，講述醫學界如何借重AI來終結這些病患的痛苦。他也透過WannaCry 勒索軟體的攻擊行動，以及未來的AI如何能從其他類似的資安威脅「推敲」出背後的戰術與手法，進而加以封鎖的案例，點出AI的能耐。埃米爾把故事說得津津有味，文筆討喜又發人深省，帶領讀者踏上一段兼具娛樂性與知性的旅程。 　　第三，埃米爾無疑是一名技術專家，但字裡行間卻也透露出他以人為本的氣息。儘管埃米爾本身對即將到來的知覺機器時代抱以樂觀的態度，但他的著作卻以平衡的角度，深入探索廣泛運用人工智慧對人類生活具有何種意義，並沒有避談AI技術潛在的危險，讀者因而能夠針對AI的益處或威脅歸納出自己的結論。 　　最後，我個人認為，就戰爭領域而言，採用新科技的嶄新作戰概念以及組織上的進步，才是促成變革的關鍵，新科技本身的開發並非造就創新的原因，能夠充分瞭解此番道理的技術專家僅在少數，埃米爾就是其中之一。他在書裡提到AI在動態與資訊戰爭（他和已退休的海軍將軍約翰‧艾倫稱之為「極速戰」）中的應用，不但充滿真知灼見，所秉持的觀念也和五角大廈的「美國第三次抵銷戰略」相互呼應。 　　很多人相信，人工智慧也許就是影響21世紀社會與人類存在意義最深刻的力量，埃米爾的著作可以說彰顯了這一點。換句話說，這本書既談知覺機器，也談全人類的生存意義。希望各位讀者會喜歡，同時也和我一樣，能夠從中瞭解人類共同的未來，並持續邁開探索的步伐。 　　沒錯，埃米爾這本著作對我的思維就是有這麼巨大的影響，我總盼望有朝一日能與他見上一面，針對他書裡提到的觀點大聊特聊一番。現在我已經離開五角大廈，到新美國安全中心（Center for a New American Security，CNAS）AI任務小組擔任副主席之一，此任務小組的宗旨就是探索AI應用於國防安全時對道德、倫理、法規與實務等層面所產生的影響。埃米爾・侯賽因也是小組成員之一，我們因此有幸成為同事和朋友，只要有機會見面聊天，我又能從他那裡吸收到AI的新觀念，當然也對他有更多新的認識。我鼓勵各位用這本書好好認識這位出色非凡的作者。 　　享受閱讀！ 　　 羅伯特・沃克（Robert O. Work）／前美國國防部副部長 推薦序 現代煉金術——AI科技 趙坤茂／臺灣大學資訊工程學系教授 　　當今的人工智慧（AI），既有軟實力、又有硬底子，其精算能力在許多特定領域早已遠遠凌駕人類，我們不禁要問： 　　我的工作是否會被AI取代？若是的話，何時會發生？ 　　AI的極限在哪裡？AI能否在各個面向都超越人類？ 　　我們該恐懼AI或者擁抱AI？AI是永不背叛的忠僕，或是必須處處提防的管家？ 　　AI的認知有感嗎？它能否像人類般具備意識？ 　　AI是否該被賦予基本權利？ 　　以AI對決AI，全體人類將瞬間陪葬嗎？ 　　雖然這些問題目前尚無定論，但AI早已無所不在，成為各領域從業人員的必備技能。本書作者透過數以百計的案例，以淺顯易懂的生花妙筆娓娓道出AI的過去現在與未來，涉獵範疇包括健康照護、金融科技、國防軍事、自主裝置、資訊安全、人文哲思等。 　　如果你是AI的初學者，本書是很棒的入門書，能讓你一窺AI殿堂的奧妙；如果你已有些AI的運用經驗，本書可協助你建立系統性的概念，讓你的功力大進，從而擴展你的視野。 　　2018年8月初，台積電因電腦病毒感染而發生機臺停擺事件，一夕之間就損失了數十億元，令人咋舌。當今產業鏈結已逐步導入AI科技，其仰賴程度日益加深，有朝一日，AI的魅力將可一「肖」傾城，其安全性絕不容忽視。 　　弔詭的是，不少精準度極高的AI深度學習方法，其決策過程目前仍無法解釋，這隱藏了許多潛在危機。例如在自動駕駛時，若發生了事故，可能在究責時就無法確認事故發生的原因以及未來改善的方式。各國法規若無法適度規範其黑箱式的決策過程而讓它貿然上路，街頭亂象將是無可避免的災難。 　　AI已是國安層級的科技，各國無不摩拳擦掌，希望能在這波競賽中取得領先。當各家逐鹿中原之際，不要忘了物理學家霍金的警語：「全方位發展AI可能宣告人類的絕跡，一旦人們發展了AI，它將自主前行，並愈來愈快速地重新設計自我，而人們由於緩慢的生物演化，將無法與AI匹敵而被超越。」 　　此刻，我蹲在倫敦西敏寺祭壇前方霍金長眠之地，耳際隱約聽到了老前輩的話語：「或許我們都應該暫停一下，不僅專注於讓AI更好、更成功，同時也應多多著重它對人類福祉的助益。」 　　聰明的你，快快拿起本書，讓作者引領你的天工智慧，共同迎向人類物種最具創造力的時代……。

我們究竟在怕什麼？ 在我故鄉奧斯汀舉辦的「西南偏南藝術節」（South by Southwest，SXSW），穿插了十分受到歡迎的科技論壇會議，我曾在會議上暢談人工智慧。過後沒多久，就出現了抗議人士高舉「阻止機器人！」和「未來由人類主宰！」的標語，大聲疾呼「機器人別來」。那是2015年的事，但氛圍也許跟1980年、1967年、1950年，甚至更久以前的1800年代晚期差不了多少。過去的這些時期也都經歷過科技突飛猛進讓人們希望無窮，但同時又為機器在我們文化中的角色感到惶惶不安。 歷史上那些時期之所以對機器自動化五味雜陳，或可從當代在科技上的進展找出脈絡。200多年前，蒸汽機的發明讓社會陷入動盪，文化評論員、預測分析人士和各行各業都試著解答「機器問題」（machinery question）。參與「青年英格蘭」（Young England）運動的作家心繫勞動者，將他們所付出的勞力多愁善感地描繪成勞苦功高的愛國行為。蒸汽機和動力織布機之類的機器，都成了致使人性喪失、動搖民族性的象徵。 由於英國脫歐的緣故，緬懷「老英格蘭」（merry old England）時光顯得特別應景。也就是說，科技創新產生的動盪，會不可避免激起大家對純樸年代的懷舊之情。瑪麗‧雪萊（Mary Shelley）就是在1818年工業革命風起雲湧之際，出版她的代表性恐怖小說，透過文學界首次出現的現代科學家角色維克多．法蘭肯斯坦（Victor Frankenstein）的視角，探討社會在逐漸科技化之後面臨的去人性化力量。 瑪麗・雪萊寫《科學怪人》（Frankenstein）的時候才18歲而已。1815年，印尼一座大火山噴發，龐大的火山灰雲在接下來一年橫跨北半球，造成1816年迎來有記錄以來最冷又最陰霾的一個夏天。雪萊和一群包括拜倫勳爵（Lord Byron）、 她的繼妹克萊爾‧克萊爾蒙特（Claire Clairmont），以及她的情人柏西．雪萊（Percy Shelley）在內的藝文界人士，窩在瑞士一棟高雅的別墅。雷雨不知連續下了幾夜，拜倫勳爵有一天提議大家應該來寫個鬼故事。雪萊當時才剛離開父親家不久，她父親正是鼎鼎大名的進步派人士威廉．戈德溫（William Godwin）。在父親的薰陶之下，她大量接觸當代偉大科學家的研究，吸收各種學科的觀念，舉凡解剖學到電療法（galvanism）這種關於電流造成肌肉收縮的研究，都有涉獵。於是，在拜倫的提議之下，雪萊發揮靈感，融入她所受的薰陶，創造出《科學怪人》的主人翁維克多．法蘭肯斯坦。 在20世紀改編自《科學怪人》的電影和舞臺劇，法蘭肯斯坦創造出來的怪物形象變得更誇張，頭上有導電機件，還布滿了小瘤。不過在雪萊的原著當中，科學家維克多．法蘭肯斯坦其實是使用生命的基本原理，將生命力注入屍體。她甚至清清楚楚地說明法蘭肯斯坦如何利用科學方法來打造他的作品。然而，寫到怪物誕生時，她那段書寫卻使人聯想到古希臘神話中的普羅米修斯（Prometheus）或《舊約聖經》的〈創世紀〉篇： 我看到那邪惡學門的信徒，臉色蒼白地跪在他拼湊出來的東西旁。我看到了一個恐怖至極的男人躺在那兒，隨著某種動力器械的運作，露出生命的跡象，動起來的模樣既笨拙又半死不活。怎麼不可怕？世上最恐怖的莫過於人類試圖模仿造物主至高無上的能力所產生的副作用了。 這段文字直搗一個很重要的哲學難題的核心，那就是人類不安的原因：誰可以當造物者？我們創造出來的東西何時會真正取得代理？ 《科學怪人》向逐漸現代化的社會拋出這些問題，但人類自從被創造以來，就和同時又身為創造者的角色相互衝突。有很多世上最偉大的宗教都制訂了非偶像崇拜的教條與規範，禁止人或動物以及神形象化。以《希伯來聖經》（Hebrew Bible）來說，從第二誡（Second Commandment）開始就出現了大量反對偶像的篇幅： 除了我以外、你不可有別的神，不可為自己雕刻偶像，也不可做甚麼形象，彷彿上天、下地和地底下、水中的百物。不可跪拜那些像，也不可事奉他，因為我耶和華——你的神是忌邪的神。恨我的，我必追討他的罪，自父及子，直到三、四代。 不過，希臘故事卻充滿各種傳說，具體描繪自動化機械的樣貌。比方說古希臘神話裡的奧林帕斯山鐵匠，也就是火神赫菲斯托斯（Hephaestus），他發明的東西就被譽為是不可思議的創新之作。他甚至打造了有20個輪子的裝置，可自行進出奧林帕斯大殿，為縱情於飲酒作樂的眾神提供服務，堪稱是世上第一代發揚全自動服務機概念的機器。 歷史學家兼作家潘蜜拉‧麥可杜克（Pamela McCorduck）在其職業生涯中花了不少時間記錄人工智慧的歷程，將眾人看待人類所創造的「類生命機器」所持有的「神奇好用」及「狂妄可怕」二種視角，歸結為相互對峙的觀點，反映出時至今日依然存在於人類內心的自我矛盾。人類竟然敢篡奪神或自然界的力量？倘若真的僭越了，我們準備好面對始料未及的後果嗎？ 舉個例子來說，《古蘭經》的〈創世紀〉記述了真主將自己的精神吹入黏土而創造了亞當（Adam），內容和《舊約聖經》裡的故事十分雷同。真主接著又傳授亞當萬事萬物的道理。亞當得到知識並因此擁有思考能力之後，真主將他視為萬物之靈。在這篇特別的〈創世記〉中，真主命令天使以及由火創造出來的伊布里斯〔Iblis，也叫做路西法（Lucifer）〕，向祂新造出來的自主生命體亞當鞠躬。眾天使天真地問真主為何要這麼做，真主解釋，這是因為亞當有能力獲取知識的關係；他的思想是活的，這使他能夠學習、成長和改變。就這樣，在這個重要的創世記故事裡，真主之外的第一個有自主性的智慧形式「人類智慧」，被釋放到天地之間。 當然，我們現在要討論的並不是神話預言，而是要探究人工智慧的爆炸性成長在我們尚無法瞭解有什麼後果的情況下，將對真實世界產生何種影響。即便是矽谷的巨擘，也為了自身究竟站在這種對立科技觀點的哪一邊而分成二派。2014年，特斯拉（Tesla）和SpaceX創辦人伊隆‧馬斯克（Elon Musk）在麻省理工學院演講時，稱AI為人類「最大的生存威脅」，接著又譴責說發展人工智慧形同「喚醒了惡魔」。 「大家都知道有個人拿著五角星和聖水，以為自己可以控制惡魔的故事吧？」他問聽眾。接著他說：「那其實是徒勞無功的。」 伊隆‧馬斯克並不是唯一發出警告之聲的人。一些重量級知識分子，例如史蒂芬‧霍金（Stephen Hawking）、比爾‧蓋茲（Bill Gates）、牛津大學教授兼存在主義哲學家尼克‧伯斯特隆姆（Nick Bostrom）以及亨利‧季辛吉（Henry Kissinger）等人，都與他同聲一氣。2014年，霍金向英國廣播公司（以下簡稱BBC）表示「人工智慧發展到極致，將招致人類滅亡」；另外於2015年，比爾‧蓋茲接受很紅的矽谷網站Reddit訪談時指出：「我屬於擔心「超智慧」（super intelligence）的那一派。剛開始機器確實會替人類做很多事，但不至於太聰明，要是能夠好好控制的話，不失為正面之舉。但是這種智慧經過數十年的發展後，就會強大到值得我們憂心。我非常認同伊隆‧馬斯克等人的觀點，不能理解為什麼有些人覺得這種問題無關緊要。」 2015年末，馬斯克宣布打算提供10億美元資助一個專門研究安全人工智慧的非營利機構。這家名為OpenAI的組織匯聚人工智慧領域的實務工作者，使這些人所做的設計及程式碼公開讓大家取得，正是該組織的宗旨。不久後，馬斯克、霍金以及上千位科技巨頭和有力人士聯合簽署一封公開信，要求禁用自主武器。2015年秋天，矽谷眾家科技龍頭公司組成「人工智慧夥伴聯盟」（Partnership on Artificial Intelligence），專門探討即將出現的智慧機器時代所挾帶的各種疑難雜症、威脅與道德方面的顧慮。 本書引領各位一起探索，反AI運動對發展重大科技以解決本世紀最複雜的難題將形成何種阻礙。第二卷則闡釋為何禁止AI的發展或是用嚴苛法規加以約束，將對人類文明招來重大禍患。不過，在討論這些新課題之前，我們必須先讓自己置身於人工智慧概念所產生的恐懼文化當中，對於演算法為何能夠勝任人類能力所不及的任務，也必須做全盤的瞭解。究竟什麼是「機器智慧」（machine intelligence）？ ＊＊＊＊＊＊＊＊＊＊ 我們對AI的探討，往往過於侷限在AI以人為中心的特質上：AI有多麼像人類？AI可視為人類嗎？這種思維可以回溯到1950年代，當時有一位非凡的數學家叫做艾倫‧圖靈（Alan Turing），前陣子上映的電影《模仿遊戲》（The Imitation Game）就是在紀念他；當時他發表了〈運算機器與智慧〉（Computing Machinery and Intelligence）這篇論文，提出一種現在稱之為「圖靈測試」（Turing Test）的實驗。進行圖靈測試時，人類測試員會透過螢幕之類的裝置，以文字同時和人及機器交談，倘若電腦的回答能夠騙倒測試員，讓測試員以為它是真人，那麼根據圖靈論文的解釋，這臺機器就算通過了測試。時至今日，將圖靈測試作為人工智慧成功標竿的例子仍舊隨處可見，比方說語音識別軟體程式（voice-recognition software program），假如跟這種程式講電話的人，以為自己是在跟內布拉斯加州某位很親切的銷售員通話，沒把它當成電腦演算法，那就表示這個軟體創下壯舉了。 這是一種很奇怪的自戀情結。我們當真認為只有人類智慧是唯一值得模仿的智慧嗎？難道模仿就是最終目標？對於不摻雜一絲絲人類思維的「思維」，能夠從機器學到的東西太多了。 或許就人工智慧在當前實務上的應用而言，圖靈測試和其他類似的「模仿」基準已不再舉足輕重，但這些基準卻依然牽制人類的文化論述，從近來的電影紛紛以人類「愛上」擅於模仿的機器為主題，譬如史蒂芬‧史匹柏（Steven Spielberg）的《AI人工智慧》（A.I.）和史派克‧瓊斯（Spike Jonze）的《雲端情人》（Her），便可略知一二。 在此有必要先解釋一下，「思維」是如何透過人工智慧以全然不同的方式寫入程式設計之中。我們或許自以為很瞭解人類的「認知多樣性」（cognitive diversity），但每一個人的腦內其實都有會激發恐懼感的杏仁核（amygdala），也有激發展望未來能力的前額葉皮質（prefrontal cortex），還有視覺皮質（visual cortex）這個可將眼睛接收到的資料轉換成影像的腦區。機器的運作模式卻大不相同，就連機器的矽基底（silicon substrate）也有別於構成人類大腦的碳基底（carbon substrate）。因此，機器心智（machine-mind）固有的長處，包括速度、能量消耗不受限、永無止盡的回憶能力（無論是短期或長期記憶），本來就跟生物心智（biological mind）的強項相去甚遠。當前的AI走到什麼階段了？還要多久才能發展出真正的AI智慧形式？ 人工智慧、機器學習與認知運算：人類智慧如何匹敵呢？ 人工智慧這陣子有一波利多，大眾媒體幾乎都將認知運算和機器學習這些術語跟AI劃上等號。瞭解這些術語真正的含意是有必要的，因為這些名稱不只是指同樣的東西而已，若能認識到它們之間的差別，對於區分機器智慧（machine-based intelligence）與人類思維的不同會大有助益。 1956年夏天舉辦的達特茅斯會議（Dartmouth summer conference）探討了數學、賽局理論和邏輯等主題，十分有名；會議過後，約翰‧麥卡錫（John McCarthy）和馬文‧閔斯基（Marvin Minsky）便正式「築起」人工智慧這門博大精深的學問。該領域歷來都在研究各式各樣由機器執行的技術，使機器能夠聰明地推理、學習和行動。其中有些技術是根據系統建構之時提供給系統的知識和規則集來採取行動，有些技術則使用「捷思法」（heuristic）來搜尋大範圍的可能選項，從中挑出看起來最合理的選擇；換言之，就是有根據的猜測。另外也有一些技術會先做出幾個重要的假定，再將新資訊納入考量，也就是說，這些技術可以邊執行、邊「學習」。 「人工智慧」（Artificial Intelligence）是包羅萬象的科學，使用智慧型演算法（intelligent algorithms），無論演算法是否從資料學習。相比之下，「機器學習」（Machine Learning）則是「AI」領域下的分支，專門使用向資料學習的演算法，而機器學習又可分為幾個類別。比方說「監督式學習」（supervised learning），這種演算法會輸入一系列事先標籤過的範例資料，優點是能夠辨識資料和「有標籤資料」〔labeled outcome，或稱「標籤分類」（classification）〕之間的關聯。「非監督式學習」（unsupervised learning）則不會有事先標籤過的範例，演算法輸入的是沒有標籤或未分類的資料。以區分貓狗圖片來打個比方；監督式學習會先輸入許多貓狗的圖片，每一張圖片上都標記了「貓」或「狗」，以便針對之後提供的圖片辨識哪張是貓、哪張是狗。非監督式學習的目標則恰恰相反，這種演算法會設法在大量沒有標籤的貓狗圖片中，區分二者之間的不同。 機器學習技術旨在使用各範例當中的特徵或屬性，達到校準標籤或分類的目標；以貓狗圖片的例子來看，透過哪些關鍵特徵可以區分貓狗圖片的不同呢？提供愈多貓狗的範例圖片，機器學習演算法就可以設法建構出其基本辨識元素（也就是特徵），能夠準確預測某張圖片是貓或是狗的模型。 現在來看看另外一種並非透過資料來學習、但仍然可以「聰明」行動的演算法，西洋棋演算法就是其中一個例子。這種演算法會先輸入西洋棋規則和某種能把棋步歸類為有利形勢或不利形勢的方法。在沒有精準的科學方法可確認棋盤上的局勢好壞與否的情況下，我們會用「捷思法」，也就是憑直覺下棋，比方說一般來講，留下的棋子最好比對手多。同樣地，保住皇后通常是上策，也盡量別讓國王有機會被「將殺」（checkmate）。而西洋棋演算法（chess-playing algorithm）則是利用西洋棋規則，針對目前盤面上的特定局勢將各種可能的走法建構出來，再根據每一種局勢給予評分，以決定是否有利於形勢。接著演算法會選擇走看起來最有利的棋步，一直重複這樣做，直到贏了棋賽或被擊敗為止。這當然只是其中算是非常簡單的西洋棋演算法，因為只估算下一棋步根本不夠，大家都會希望能推算好幾步棋。不過演算法大致上就是靠這樣的流程，做出看起來很聰明的行動，而且並不是從既有的結果或新資訊來學習。 最後要認識的是「認知運算」（Cognitive Computing）。學術界至少自1980年代起就開始使用這個術語，不過直到採用認知運算技術的IBM華生系統（Watson system）流行之後，這四個字才成為業界的普遍用語。認知運算就是指一種設法應用仿人腦運作方式的機器學習技術的領域，這樣的定義最為恰當。確切來說，認知運算可分為硬體和軟體這二個層面。採認知運算技術的IBM重大專案其實使用的是TrueNorth架構，這種新型處理器試圖操作以矽組成的仿人腦結構，也就是大家比較熟知的「華生」軟體。 從前述例子可以清楚看到，種種智慧型演算法的行為方式和人類心智有很大的不同。比方說，假設現在有個已經充分瞭解西洋棋規則的西洋棋演算法，它在下棋時碰到特定單一狀況時，會設法建構每一種可能的盤面局勢，或至少是很大一串選項。人腦卻不會這麼做；我們通常會把看起來可笑至極或不屑一顧的選項統統「砍掉」。演算法因為靠處理速度極快的電腦來運作，才能夠分析大範圍的選項，那不是人腦可以匹敵的。人腦雖然對各種認知型任務駕輕就熟，但是和由矽構成的處理器比起來，人腦運作的「時脈速度」（clock speed）還是比較緩慢，因此純粹就數學方面的任務上而言，人腦便顯得慢吞吞又不怎麼精確。在某些案例中，電腦在探索「各種可能性」的能力上跟人腦之間的差異，變成很大的優勢。 1982年，道格拉斯‧B‧萊納特（Douglas B. Lenat）、威廉・蘇瑟蘭（William Sutherland）和詹姆斯・吉本斯（James Gibbons）這三位史丹佛大學研究員在他們發表於《人工智慧雜誌》（AI Magazine）的論文中，證實這種產生大量可能性並加以分析的能力，促成了新型3D微電子裝置（three-dimensional microelectronic device）的發現。這些新發現由一個名為Eurisko的演算法自行產生，過去沒有研究人員知道。