蓋茨想讓機器人交稅，還有公司談起它們的言論自由，這只是想多了么？

“工人工作要繳所得稅、繳社保。機器人也做同樣的工作，也應該同樣收稅。寧愿增加稅收，也要降低自動化的速度。”

不久前，比爾·蓋茨在一次媒體采訪中說道。

蓋茨說的不是瘋話。如果不糾結像人一樣走路、說話，機器人搶走的工作已經不少。

以機器人普及的汽車制造業(yè)來說，1955 年通用汽車雇了 57.6 萬人造車?，F在，通用汽車產量翻了一倍不止，雇員少了一半，而且當中只有 5 萬在工廠工作。

因為就業(yè)反對生產力是一個跨越兩百年的運動。1811 年，英國諾丁漢的織布工人就用大錘砸爛過織布機。

正在砸紡織機的盧德分子

但之后兩個世紀，新技術和機器替代了人類的工作這件事已經變得平常。

30 年前，個人電腦、智能手機成了新一批提高人類效率的機器。比爾·蓋茨也是其中重要的推動者之一。

這個話題又被提起來，無非是最近幾年，機器人從能力上越來越像，甚至超越了人。

在 Siri 之后，微軟的 Cortana、微軟小冰等等已經可以處理簡單任務，聊天對答越來越像樣。

假裝成人類棋手的人工智能，把中國最優(yōu)秀的圍棋手全都打敗了。

至今，科學家還弄不清楚人腦到底怎么運作。什么是思維和記憶，意識是怎么產生的還處于假設。所以要制造出來跟人完全一樣的人工智能還是一個遙遠的設想。

但在代碼和硬件表面看來，機器人是越來越像人了。它們也在做越來越多之前由人來做的事。

Uber 宣布研發(fā)自動駕駛汽車的時候，它的 CEO 直接說司機是自己最大的成本，如果全部換成人工智能開車，服務可以更便宜。而《華盛頓郵報》已經用人工智能寫了數百篇體育新聞。

蓋茨提到的工作問題已經顯而易見。

具體應該怎么做，卻還沒有定論。

但即使還沒有答案，這個問題仍需要被關注和討論。于是我們摘抄了各種不同的觀點。機器人應不應該被收稅或者限制？人類工作未來會是如何？或許以下的卡片能給你帶來一些靈感。

機器人取代人討論了幾十年，但真正發(fā)生的時候這不會是一件輕松的事

喬治梅森大學的經濟學教授泰勒·科文（Tyler Cowen）在最近一篇專欄文章里談到，“機器人取代人的工作”這件事已經討論了幾十年，但最新的一波技術發(fā)展，可能會帶來比以往更大的社會問題，光是渡過技術發(fā)展的“過渡期”就足夠難的。

“這次為什么會不同？”當談到機器人和自動化會取代未來的工作，這是最常聽到的回應。這是因為西方世界過去成功地把農業(yè)用工轉入了工業(yè)用工，并且持續(xù)看到經濟增長。

所以這次也一樣嗎，自動化和人工智能取代人類的工作之后，不也會帶來新的工作機會，惠及人們？那些被自動駕駛汽車取代了工作的卡車司機，不也能找到一份照顧老人的工作，或者給交通業(yè)做維修工作，創(chuàng)造新的工作模式嗎？

工業(yè)革命里的紡織機工人

經濟上來說沒錯。但歷史上來說，這種觀點還缺了一個重要部分。雖然從農業(yè)工作中轉成工業(yè)，最終對人類整體來說是種好事，但它也帶來過嚴重的問題……

工業(yè)革命期間的薪水變化史，就已經足夠讓人擔心。盡管統計的時間不一，工業(yè)革命開始時間一般被認為是 1760 年左右，至少在英國是這樣。從 1760 年到 1831 間，英國的人均消費這個數字只增長了 22%。對于一個長達 71 年的時間段來說，這增長速度一點都不快。雖然在這 70 年間，有很多的新財富被創(chuàng)造出來，但由于經濟變化帶來的騷動，（農業(yè)轉工業(yè)）調整帶來的成本，還有戰(zhàn)爭，工人回報變得很低。

根據加州大學的經濟歷史學家格雷戈里·克拉克（Gregory Clark）估計，在 1770-1810 這 40 年間，英國人的薪水一直在下降?？死斯烙?，在工業(yè)革命開始之后，經歷了 60-70 年的過渡期，然后英國的工人才看到真正意義上的收入增長。

想象一下，如果讓當代美國也經歷類似的收入變化？那么我們中的大部分人都可能會遇上政治動亂，估計也沒有什么人會認為這“過渡期”很成功。但我們已經走在這條車軌上了，美國家庭收入中位數從 1999 年開始下跌，還有人認為 1969 年男性收入的中位數比現在還高。更多悲觀的統計引發(fā)了持續(xù)的討論，從目前事實和數據的暗淡結果來看，這過渡期的代價可能比很多經濟學家預想的還要高。

……

工作從農業(yè)轉出，也有對經濟政策有害的一面。美國政府每年要花掉 200 億美元補貼農民，盡管所有經濟學家都認為這筆支出是浪費。歐盟的情況更糟糕。盡管歐洲有一大堆問題要解決：銀行償付能力有問題、意大利和希臘的債務問題、難民問題，但它們還是花了歐盟預算的 38% 去補貼農業(yè)。農業(yè)在整體就業(yè)率中的占比很低（大概 2%），但農民這樣的職業(yè)不會消失，更何況，農業(yè)的就業(yè)情況從好幾百年前就已經開始降低了。

因為自動化和機器人而過時的工作，也在這個邏輯里。如果我們決定在未來的幾百年都去補貼和保護舊有的工作，那么對于長遠的經濟增行來說是一種傷害。

關于自動化，我的觀點依然是“開足馬力前進”，如果我生活在 18 世紀末期，我依然會這么說。從工業(yè)革命歷史找寬慰，不能停止我對此的擔憂。

支持蓋茨的人覺得，至少機器人稅是討論政府介入的契機

《衛(wèi)報》專欄作者本·塔爾諾夫（Ben Tarnoff）則覺得蓋茨的擔心不無道理，因為機器人的普及可能會讓貧富差距加劇，現在提機器人稅還為時未晚。

機器人帶來的真正威脅，并不是令 Elon Musk 輾轉反側的走上邪路、大開殺戒，而是它們可以把經濟差距擴大到一種極端的程度，極端到大多數人的生活無以為繼。對機器人征稅以避免這種情況，也可能不是有效的政策工具。但這是重要討論的良好開端。大規(guī)模的自動化提出了一個嚴肅的政治問題——迫切需要一個嚴肅的政策方案。

這一次的不同點在于，出現了一種可能性：技術將變得非常精巧純熟，以至于能把人類的工作侵占殆盡。假如 ATM 不僅能給你現金，還能給你提供浮動利息貸款，將是怎樣的情景？盡管當前對于人工智能的稱頌有些夸大其詞，但過去數年中，這項技術確實有著顯著的進展。更大突破的問世也并非意料之外。技術不僅僅是改進工作，更可能的是逐漸消弭工作。與其說是使更少的勞動力創(chuàng)造更多的財富成為可能，自動化更可能在創(chuàng)造更多財富時，消除勞動力的投入。

無需勞力的財富有什么問題？這取決于財富的主人是誰。在資本主義制度下，工資是工人勞動力價值的一部分。相對于流向資本家的回報，這部分一直微乎其微。過去幾十年里，它變得越來越小：工資在國民收入中的占比持續(xù)縮水，而資本的份額卻在增長。技術提高了工人的生產力，但利潤是在增長而非下降。1973-2011 年間，生產力增長了 80.4%，但實際時薪的中位數僅僅增長了 10.7%。

境遇已經如此糟糕的情況下， 大規(guī)模自動化可能讓它雪上加霜。如果你意識到了不平等的問題，想象一下一個有錢人僅靠自己就能變得更有錢的世界吧。從勞動中解放出資本，并不僅僅意味著勞動的結束，也意味著工資的終結。失去了工資，工人也就失去了獲取財富的唯一途徑，也失去了他們唯一的生存手段。同時，他們還失去了社會權力的原始來源。只要工人們還控制著生產的關鍵節(jié)點，就能將其關停。罷工仍然是工人所擁有的最有效的武器，即便他們很少再使用它了。在完全自動化的經濟當中，他們不僅會失業(yè)，也會失去權力。

與此同時，機器人資本將使得精英們完全脫離社會。從私人飛機到私人島嶼，富人們已經投入了大量時間和金錢與他人隔絕。但是，即使是最為固若金湯的奢華地堡，也與外部世界息息相關，只要資本家需要勞動力的話，大規(guī)模的自動化使切斷最后的維系成為可能。裝備有無限供應的、無需工人的財富，精英們可以圈出與世隔絕的樂土，無需操心失業(yè)人群的死活。

如果這種情況不夠慘淡，只需要想想，大規(guī)模自動化可能帶來的后果并不只是工人的貧困，還會導致他們的消失。彼得·弗瑞斯（Peter Frase）在他的著作《四種未來》（Four Futures）中推測，站在關閉的天堂大門之外的這些失業(yè)人群并不會忍耐太久。畢竟，他們會不安惶恐——那將是大量潛在的危機?！叭绻罕姵蔀橥{，但已經不再是工人階級，因而對統治者毫無價值，會發(fā)生什么？”弗瑞斯寫道，“一些人最終會覺得，還是擺脫掉他們更好?！彼麨檫@種未來賦予了一個相當駭人的名字——“滅絕主義”，一個富人對窮人發(fā)動種族滅絕的世界。

這些反烏托邦聽來可能像科幻小說，但沿著目前的發(fā)展軌跡，它們看上去完完全全合理。機器人和人工智能的技術將持續(xù)發(fā)展——但若沒有實質性的政策改變，對大多數人來說，最好的后果將是艱難度日，更糟則可能是末日的圖景。這就是為什么最近對機器人稅的討論值得重視。這為政策響應的提出提供了契機，趁現在為時未晚。

反對蓋茨的人覺得，機器人稅只是資本主義還是社會主義的老調重彈

英國的亞當·史密斯研究院的成員提姆·沃爾斯托（Tim Worstall）說，我們不需要給機器人上稅，也不需要過度擔心機器人帶來的極端貧富差距，因為這就跟資本主義和社會主義的爭論一樣，競爭會解決很多問題。

不，我們不需要（機器人稅）。我們需要做的就是明白資本主義是怎樣被競爭所調和的。這里真的需要爭論的，是資本主義和社會主義的老問題，機器人稅說白了是一種掩蓋。

那些社會主義者的基本論點是，工人應該擁有機器，能從機器里獲得收入。

這樣的爭論之前也有，現在只是換了一個偽裝。我們也知道為什么我們不需要機器人稅，因為有競爭本身。

這些（機器人稅）的政策推薦者有一個問題，他們不理解自己的這些預言不會成真。不僅是理論層面，還是現實都如此。

所以，現在大家的分析是，機器人來了，我們的生產力將會大大提高。假設在所有工作崗位上，它們都比人的大腦處理得更好，它們取代了人類所有的工作。那些擁有機器的人，所謂資本主義的“走狗”，最后就會獲得了所有的錢，以及所有的生產物資。我們，這些被機器奪走工作的人，就會沒有收入，會在街頭餓死，而富人們會在自己筑了高墻的城堡上俯視我們。

這不可能真的發(fā)生。如果我們沒有任何收入，我們不能購買這些機器人生產的任何東西，所以富人們也不會從我們身上賺到多少錢，他們自己也不會有錢了。當然，富人可以消費機器人給他們生產的東西，但這就不是富人的定義。

進一步講，如果我們不能從機器人制造的產品里面獲得什么，我們?yōu)槭裁匆淖兾覀儸F在的經濟呢？

我們對于住所、食物和娛樂的需求依然會存在，而機器人不會給我們提供任何物資，因為我們不能給他們錢。所以人類會自己生產這些物資，就像現在這樣。

這么說來，機器人經濟就結束了，因為他們只是給自己的主子提供服務。而正常的、大眾的經濟，還是會像現在這樣。

所以說以上的事情不可能成真。要么，我們能從機器人生產的東西里獲益跟富人一起致富，要么，我們將會活在跟我們現在經濟完全不同的環(huán)境里。

“蓋茨的做法實際上是減緩創(chuàng)新，是一種保護主義”

哈佛大學教授、美國總統奧巴馬 2009 年到 2010 年的經濟學顧問勞倫斯·蘇摩爾斯（Lawrence Summers）覺得，按照蓋茨的邏輯，我們應該給所有自動化程序上稅，如果是這樣，社會的生產效率又怎么會提高呢？

首先，把機器人當作是工作摧毀者沒有什么邏輯可言。按這個邏輯，那些機場可以打印登機牌的機器人呢？那些可以加速整理文檔的文字處理程序呢？可以在手機上使用銀行服務的科技產品呢？自動駕駛的汽車呢？那些防止人得病的疫苗，也是在摧毀醫(yī)療業(yè)的工作嗎？有很多種創(chuàng)新可以用更少的勞力輸入帶來更好的產品輸出。為什么專門挑機器人來說呢？蓋茨真的認為在特朗普政府，或者他參與的科技委員會，能夠區(qū)分什么行為是“節(jié)省人工”和“增強工人的能力”？即使專家能夠在這兩種行為中畫一條界線，美國國家稅務局要怎么執(zhí)行，也是一個疑問。

第二，很多創(chuàng)新的行為，包括類似于機器人這樣的，會參與創(chuàng)造比原來好得多的產品和服務，并不只是在原有的輸入上，榨取更多的輸出而已。例如，自動駕駛汽車將會比人類駕駛安全得多；機器人已經幫助外科醫(yī)生實施手術，比醫(yī)生自己實施的手術更好；線上預訂系統，比起旅行代理來說更快更方便。再者，因為競爭和淘汰，創(chuàng)新者只在這些創(chuàng)新中獲取了一小塊利益。

第三，最根基的原因是，為什么用稅收來縮小一塊蛋糕，而不是來保證更大的蛋糕能被很好的分配？想象一下，如果 50 人做出來的機器人，能做 100 個人的 工作，如果給機器人收很高的稅，會阻止人們生產這樣的機器人。讓社會分享這額外的輸出，比起建立一個稅收體系來保護那些被取代的工人要更好。很難理解為什么要縮小這塊蛋糕？讓蛋糕越來越大，然后重新分配才是一條前進的正確道路。

最后一個爭論點是，國際貿易已經成為標準了。打開國門，讓國際貿易流通，跟讓科技進行變革是類似的?？萍甲兏锊粫豢醋魇菈氖拢Q易也是，糟糕的是保護主義。蓋茨的機器人稅很有可能是反科技進程的保護主義。

而且這措施不能減少工作崗位和不平等問題，只是一個幫助那些不幸運工人的糟糕策略。另外，在公開世界里還有更深遠的問題，對于科技收稅，可能會導致科技產業(yè)離岸，而不是在本地創(chuàng)造就業(yè)機會。

不過不管搶不搶工作，我們都需要機器人來代替我們工作

在《紐約時報》工作了 29 年的科技記者約翰·馬爾科夫（John Markoff）說，現在已經不是考慮機器是否應該替代工人的時候了，因為全球老齡化來得更快更嚴重，勞動力人口都不夠了，機器人做了人類工作是必要的。

“我以前堅信機器人會改變生產。我當時跟 Daniel Kahneman（《思考，快與慢》的作者）說，機器人會顛覆在中國的工廠。

他說，你沒搞明白狀況，對于中國來說，機器人來得正是時候。因為人，尤其是工作人口不夠了，去年，中國的工作人口減少了 500 萬，跟計劃生育政策有關系。但這并不只是中國的問題，也是韓國、日本和美國的問題，世界正在老化（除了非洲），但沒有人明白這點。我們需要機器人。

我不是說技術、機器人變化不重要，但人口變化比技術變化重要得多，因為它的影響來得快得多。這是其一，還有一個數據是“依賴比例”，也就是提供照料和需要照料的人的比例。去年是世界首次，65 歲以上的人口比 5 歲以下新生人口多，本世紀中葉，80 歲以上的人會翻倍，到世紀末，會增長 7 倍，所以說自動駕駛汽車，可能是世界上首批照料長者的工具……什么時候，有個能安全的給長者洗澡的機器人重要得多。”

馬爾科夫也曾經在著作《與機器人共舞》里提到過這種照顧老人的機器人的問題，最后也是人和機器人關系的問題：

“但是，這些機器什么時候才能符合人們對他的期待呢？那些被照顧的人又應該怎么去接受這些機器呢？這些仍舊是問題。盡管有大量數據表明，隨著語音識別和語音合成技術的不斷改善，傳感器成本的下降，如果機器人專家能研制出更加靈活的機器，我們還是會心懷感激地接受它們……機器人擔任老年護理員、服務工人、司機和士兵，這是一種必然趨勢。但是人類與這些機器人的關系目前還很難預測。魔像一類的傳說已經把樂于服務的奴隸形象編織進了人類的思想和神話，在傳說中，這些奴隸實現了人類提出的每一個愿望?！?/p>

自動決定人類生死的機器已經被廣泛使用，沒有多少人不安

羅納德·阿金博士在喬治亞理工大學實驗室研究了 20 多年機器人學，他說，重來一次，他可能會想想要不要做這樣的研究，因為自己加速了戰(zhàn)爭自動化速度。以下的發(fā)言，選自他 2013 年的演講“怎樣才能不造一臺‘終結者’”。

我們已經有很多用于戰(zhàn)爭的機器人，不只是美國，上次我看到的數字是 53-76 個國家正在研發(fā)、派遣這樣的機器人，情況已經很普遍了。

機器人已經在地面、空中、海上、海底都有，例如，新的復仇者無人駕駛戰(zhàn)斗機 Predator C 就是一個很經典的機器。

還有一個韓國的 Comat Robot，我來念一下它的功能：自動檢測，自動安全開火，自動找到海軍工程目標甚至人類目標的能力，然后你還可以選擇用什么武器平臺……

我工作中得出的結論是，就是自動化致死（Lethal Autonomy）是不可避免的。

為什么這么說？因為它存在于此時、此地。每個人對于機器人的定義不一，但要我說，即使是反步兵地雷也算是機器人，因為它們能感知并且激活爆炸……它們對所有人都有危險性，不能分辨這是一個小孩，還是一個士兵。

還有一些系統，例如愛國者導彈，它是有人類的操作者的，導彈瞄準了之后，操作者有 9 秒鐘去按按鈕關掉系統。只有 9 秒鐘怎么能判斷這個目標是不是正確的呢？還是說人類被陷害了？他們只是這個殺人鏈條里的最后一步，是為錯誤判斷負責任的“替罪羊”。

作為機器學家，我們正在讓戰(zhàn)爭變得越來越快，這是我們工作的后果。這也意味著，智能化、自動化正在被推進得越來越遠，已經到了頂尖的地步，我們讓軍方來給這些機器做決定，無論他是一個“發(fā)射不理（Fire-and-Forget）”系統，還是以色列的導彈系統，可以自己通過雷達的信號，找到地上的目標然后打擊，不需要問任何人……這些東西正在改變以及挑戰(zhàn)人類參戰(zhàn)的方式。

但“自動化致死”的定義跟哲學家的不同，哲學家認為自動化是有自由意志的道德載體。但機器人真的應該承擔行為的責任嗎？機器人真知道自己在做什么？作為機器學家，我們對此的定義不一樣，我們要用機器去指明打擊目標，換句話說，就是扣下扳機。

當 1970 年代，基因工程學第一次能做克隆 DNA 的時候，生物道德委員會呼吁讓他們停止研究，他們明白了這點：天吶，我們的新技術讓我們可以復制人！我們應該后退一步，讓哲學家、公眾、生物工程師、政治家一起聊聊這個話題。

而我們面對“自動化致死”卻沒有這種不安，但我們真的應該談談，去提供這樣的討論的土壤也是社會的作用，而不是等著別人給我們做這件事。但我們現在就是等著，我們把自己的科技和未來委以政府和當局了。

這是不對的，我們科學家應該更有自主意識，我們要跟人們分享我們的觀點。這 20 年，我迷失在發(fā)現新知識的喜悅中，抬頭才看明白我自己在做的科技到底是什么。走出實驗室，去真實的世界吧，重新思考一下要不要這么做，我希望不要等你們 20 年后才去想。

在我探索的項目當中，我認為應該問這些問題：

我們應該讓士兵變成機器人嗎？

我們應該讓機器人變成士兵嗎？它們能變得更像人嗎？他們能在道德層面超越人類嗎？

機器人跟人應該是什么關系？關鍵在于“設計師”

這是托斯丹·凡勃倫 100 年前寫的一篇文章，當時還沒有能讓人失業(yè)的計算機和人工智能。但他說，政治力量會轉向工程師等專家崗位，工程師將會成為新經濟的控制者。在機器越來越聰明的時代，工程師的作用就愈發(fā)明顯：

起初，在機械工業(yè)的早期發(fā)展中，尤其是在工業(yè)革命直接催生的機械工業(yè)新增長當中，工業(yè)專家和企業(yè)經理之間的分歧并不明顯。

這一階段在新的工業(yè)體系走上逐步專業(yè)化和復雜化的道路之前，也是在商業(yè)規(guī)模遠未擴張之前；這樣，即使是當時并未受過技術訓練的商人，仍然可以對全局有著智能的監(jiān)督，以及理解他們所投資和從中獲益的機械生產流程的需求。尋常的情況是，工業(yè)流程和設備的設計者仍然掌控著財務，同時也管理店面。

但是，早期的發(fā)展階段中，分化就開始出現，比如將設計和管理工業(yè)流程的人，與設計和管理商業(yè)交易和掌控財務的人分開。這亦導致了商業(yè)管理和技術專家之間權力的分割。

這成為了技術專家的工作：在技術上決定產業(yè)中什么是可行的，并找到可行的方式和方法；但商業(yè)管理層總是可以決定，出于商業(yè)原因應該做多少工作，以及生產出什么樣的和什么質量的商品和服務；而商業(yè)管理層往往是最終拍板的人，持續(xù)地設置生產上限。

隨著專業(yè)化的不斷發(fā)展，專家們在工業(yè)事務中的話語權理應越來越大；但一如既往的是，他們關于生產中要做什么和怎么做的結論，仍有待于企業(yè)經理依據什么有利于商業(yè)獲益再做定奪。這種商業(yè)管理和工業(yè)管理間的分裂持續(xù)加速地向前行進，因為任何可靠的高效組織和工業(yè)流程所需要的專業(yè)培訓和經驗，都在不斷變得更為苛刻，這要求具備專業(yè)知識和能力的人各司其職，且對于手頭的工作有著未分割的所有權收益和全心全意的關注。

但是，這些擁有技術知識、能力、興趣和經驗的專家，越來越多地以這種方式參與其中——發(fā)明家、設計師、化學家、礦物學家、土壤專家、作物專家、生產經理和各式各樣的工程師——繼續(xù)成為產業(yè)首腦的雇員，也就是為金融首腦工作，而金融首腦們的工作則一直是將工業(yè)專家的知識和能力商業(yè)化，并將其轉化為自己的利益。

機器人都會最終引發(fā)人的身份認同危機，我們人類到底是什么

要思考制造怎樣的機器人，怎么給機器人制定行為準則，這最后也會逼迫人類工程師重新思考這個問題：我們人類是什么？

日本機器人學家、大阪大學教授石黑浩，研究了多年“仿生機器人”之后，石黑浩做出了一系列跟人長得很像的機器人，例如以下這個女孩子，名字叫做 Erica。

“當我 10 歲、11 歲的時候，我的一個基本問題是：什么是人？什么是思考、什么是感覺。我沒有得到正確的答案，但我一直通過開發(fā)機器人來尋找答案?！?/p>

“如果用機器替換身體，我們將會永遠活著。作為人類，我們的最終目標是成為一個機器人，從而突破時間的限制?！?/p>

石黑浩（右邊）和自己仿生機器人（左邊）

石黑浩的觀點跟俄羅斯億萬富翁迪米特·伊茲科夫（Dimitry Itskov）類似，他在之前接受采訪時表示：“人的身體是硬件，人腦是軟件?！?/p>

“人的身體不能長久保存，但只要把意識提取，移到機器人身上就可以讓人一直活下去。而且這么做，對環(huán)境可能更好——因為機器人不需要消耗食物?！?/p>

但這還是不是人類呢？

未來不需要我們？

創(chuàng)辦了太陽計算機系統（Sun Microsystems）的計算機科學家比爾·喬伊在 17 年前就開始擔心技術失控的問題。在他的眼里，機器人和基因工程、納米技術，都是潘多拉魔盒，一旦這些技術快速發(fā)展，人類可能會成為瀕危物種。以下是比爾·喬伊在 2000 年發(fā)布的文章《為什么未來不需要我們》的節(jié)選：

我們 21 世紀最厲害的科技——機器人、基因工程和納米科技，正在威脅著人類，讓人類變成瀕危物種。

我還記得《星際迷航》里的一個角色“博格人”（Borg），他是個半人半機器人，有很強的暴力傾向。博格人這種類型的災星，是科幻小說中常常出現的角色，但為什么我就沒有更早擔心機器人帶來的負面影響？為什么其他人也像我這樣，不怎么擔心這種噩夢般的場景成真呢？

一部分原因在于我們對于新事物的態(tài)度——我們更傾向于，很快熟悉一件事情，并且毫無誡心地接納它們。我們都習慣了每天都能聽到的科技新進展，卻還沒有人明白到 21 世紀吸引人的技術：機器人、基因工程和納米技術，跟其他技術不一樣，正在成為威脅。具體來說，機器人、經過改造的有機體、納米技術都具有同一個問題：它們能自我復制。一個炸彈只能炸一次，但一個機器人能自我復制成很多個，很快就會失去控制。

在過去 25 年中，我主要工作是計算機網絡研究，在網絡上，信息的收發(fā)，給失控的復制創(chuàng)造了機會。在計算機網絡上的復制讓人心煩，但最糟糕的情況也就是讓網絡和計算機癱瘓。而這些新科技帶來的不受控制的復制品，會造成更大危險：損害到物理世界。

這些新技術還帶來了一些承諾：永生的前景，讓庫茲韋爾帶著機器夢想前景；基因工程能很快為大部分疾病提供治療方案，或者治愈方案；納米技術和納米醫(yī)療，能治愈更多病人。所有這一切將會極大提高我們的平均壽命及生活質量。然而，對于其中任何一項技術，持續(xù)不斷的微小、個別的行為，將會積聚成巨大的力量，還有巨大的危險。

什么東西讓 20 世紀不一樣？新技術讓產生大規(guī)模殺傷性武器（WMD），例如核武器、生物武器、化學武器，成為巨大的威脅。但建造核武器至少需要一段時間，還需要接觸到稀有的、高度保密的資料；研發(fā)生物武器和化學武器，也需要開展大規(guī)模的活動。

而 21 世紀的技術——基因工程、納米技術和機器人，能激發(fā)新的意外和武器濫用情況，所以威力強大。最危險的是，個人或小型組織就能接觸和濫用這些技術，這是歷史上首次。它們不需要巨大的開發(fā)能力或稀少的原材料，只要有相關技術知識就能利用它們。

我想這么說不是夸張：我們正處在創(chuàng)造“極端邪惡”的邊緣，這一邪惡力量的傳播，將會超越國家制造的大規(guī)模殺傷性武器，成了極端個人的可怕力量。

我進入計算機行業(yè)的時候，沒有任何人告訴我，我可能需要面對這樣的問題。