我們生活在計算機的世界里，智能化產(chǎn)品真的必須嗎？
0
導讀：《大西洋月刊》(the Atlantic)近日發(fā)布喬治亞理工學院交互計算教授伊恩·博格斯特（Ian Bogost）的活計化產(chǎn)文章稱，你已經(jīng)生活在計算機當中。算機未來主義者們就機器展開了各種設想，世的必- 山東美女上門預約vx：365-*2895）但現(xiàn)實是界里，計算機已經(jīng)成為了一種生活方式，活計化產(chǎn)各種各樣的算機日常物品都在計算機化。
以下是世的必文章主要內(nèi)容：
突然之間，不管是界里什么東西，都成了計算機。活計化產(chǎn)除了常見的算機手機和電視機以外，變成計算機的世的必還包括烤面包器、門鎖、界里嬰兒監(jiān)視器、活計化產(chǎn)榨汁機、算機門鈴和燃氣烤架，世的必甚至水龍頭和花園澆水用軟管?！爸悄堋痹O備大概已經(jīng)無處不在，日常物品的計算機化趨勢在不斷地蔓延。
有那么一段時間，讓那些看起來平平無奇的東西看上去新鮮一點，是有必要的。但很快，質(zhì)疑聲四起。沒有人真正需要用智能手機操控的自行車鎖或者丙烷罐。他們顯然不需要那些替代原來的“笨”設備、沒那么可靠的設備。但人們似乎真的想要擁有它們——而且這一人群在不斷壯大。據(jù)估計，目前聯(lián)網(wǎng)設備數(shù)量達到數(shù)十億，到2020年，該市場的規(guī)模可能將高達2500億美元。
為什么那樣的設備還會吃香呢？一種說法是，市面上賣什么消費者就買什么，制造商們也十分渴望將它們的笨設備智能化。這么做可給它們帶來更多的收入，更多的控制權，以及更多鼓勵消費者替換舊產(chǎn)品的機會。它也催生了一個圍繞借這些設備收集到的數(shù)據(jù)的次級市場。例如，- 山東美女上門預約vx：365-*2895）掃地機器人生產(chǎn)商Roomba希望通過分析其家用掃地機器人的移動情況，推斷出家家戶戶的樓層平面圖，然后拿它們當商業(yè)智能去出售。
不過，市場強制的解釋并不能完全站住腳。更需要注意的是，普通物品的計算機化本身已經(jīng)成了目的，而不是實現(xiàn)目的的一種途徑。隨著計算機化趨勢從臺式機和后臺蔓延到手機、相機、汽車和門鎖，人們對于計算機的喜愛也轉(zhuǎn)移到其它甚至更加普通的物品上面。人們越是喜歡使用計算機來做各種事情，一旦計算機不在身邊，他們就越覺得生活不完整。
計算機化帶來的問題
之前，我寫過一款名為GasWatch的丙烷罐測量器的設備。該設備連接一款相配的智能手機應用，旨在避免煤氣罐在需要使用的時候突然就耗盡的情況。
每次看到像這樣的設備，我都會很詫異竟然會有如此荒唐的產(chǎn)品，它們的創(chuàng)造者和顧客似乎沒怎么留意到這一點，或者說完全不在乎。明明用個便宜的計量器就行了，為什么非得使用計算機來監(jiān)視丙烷用量呢？
然而，隨著聯(lián)網(wǎng)的設備和服務變得越來越司空見慣，對它們的制造商冷嘲熱諷也于事無補。聯(lián)網(wǎng)烤面包器宣稱可幫助人們“更加智能地烤面包”。連接智能手機的自行車鎖號稱要“消除鑰匙遺失和忘記密碼帶來的麻煩和沮喪情緒”，僅售149.99美元。然后是Nest，這款智能恒溫器由前iPod設計師設計而成，后來其廠商被谷歌以32億美元的高價收歸門下。該公司還生產(chǎn)智能監(jiān)控攝像機，那些設備可連接網(wǎng)絡來將視頻畫面?zhèn)鬏數(shù)剿鼈兊闹魅说闹悄苁謾C。嬰兒監(jiān)視器等曾經(jīng)的自給式設備如今也拿聯(lián)網(wǎng)功能作為重要賣點。
這種趨勢的擴散速度完全超出了我的預期。幾年前，我住過的一家時髦酒店聲稱不久以后它的房門卡將會被智能手機徹底淘汰。時至今日，再普通的漢普頓酒店房間都可以用希爾頓的應用來打開。家庭版的應用市面上也有。用戶甚至可以了解門被鎖了多長時間的分析數(shù)據(jù)——我完全沒覺得自己需要這種數(shù)據(jù)。
這些設備帶來了諸多的問題。成本是一個方面。跟廉價的丙烷計量器一樣，傳統(tǒng)的自行車鎖也是日用品。它的售價大概在10到15美元之間，而Noke的聯(lián)網(wǎng)自行車鎖的價格則達到它的十倍之多。這些設備還會帶來安全和隱私方面的問題。據(jù)說，美國中央情報局（CIA）在三星電視機里植入后門程序來實施監(jiān)視。由于嬰兒監(jiān)視器被黑客入侵，受到干擾的人與其孩子之間的對話可能會被偷聽。僵尸網(wǎng)絡可控制數(shù)千個安全性很低的聯(lián)網(wǎng)設備來對域名系統(tǒng)發(fā)動DDOS（分布式拒絕服務）攻擊。
可靠性問題也會困擾聯(lián)網(wǎng)設備。一旦網(wǎng)絡宕機，或者應用服務無法正常訪問，又或者某種其它的軟件行為帶來障礙，那些產(chǎn)品往往就無法正常運作。
以門鈴為例。普通的門鈴接通線路來激活電磁體，然后后者轉(zhuǎn)動活塞來發(fā)出響聲。名為Ring的智能門鈴用包含運動傳感器和攝像頭的盒子裝置來替代按鈕。很不錯的主意。但據(jù)一些用戶反映，Ring有時候無法發(fā)出響聲，又或者隔了很久才響。這種問題相當普遍，有人甚至開了個名為Internet of Shit的Twitter賬號，來專門匯總聯(lián)網(wǎng)設備的種種弊端，引發(fā)了不少的關注。
正如科技評論家尼古拉斯·卡爾（Nicholas Carr）所指出的，這些不是我們被允諾的那些機器人。飛行汽車、機器人房屋、快過光速的旅行等還沒有到來。與此同時，新的未來愿景設想，人類和機器可能將發(fā)生融合，要么通過生物黑客技術，要么是通過模擬的意識。那種未來也感覺非常遙遠——也許遙不可及。它的遙遠可能削弱了人們對于AI大災難的恐懼，同時也模糊化了一個關于機器在人類命運上的角色的特定真相：計算機已經(jīng)無處不在，人類生活已經(jīng)基本都離不開它們了，而人們也安于現(xiàn)狀。
模擬機器而非人類
計算機普通用途和超凡用途之間的分歧始于近70年前，當時阿蘭·圖靈（Alan Turing）提出了一個意外幫助創(chuàng)立人工智能領域的主意。圖靈猜測，當機器變得像人類一樣的時候，它們最令人信服。那也正是現(xiàn)在的智能手機（以及智能烤面包器）所做的事情。但計算機科學家們沒有抓住要領，他們反而將圖靈的思考實驗曲解為模擬或者替代人類大腦的一項挑戰(zhàn)。
在1950年發(fā)表的論文中，圖靈描述了一項被他稱作模擬游戲的派對游戲。游戲的內(nèi)容是，一男一女走進密室，然后密室外的另一個人發(fā)問，試圖猜測里面哪個是男哪個是女。圖靈后來想到了密室內(nèi)的其中一人是人類，另一人是類似于計算機的機器的游戲版本。如果外面的提問者分辨不出哪個是人哪個是機器，那該計算機就算通過測試。圖靈測試如今已經(jīng)聚焦計算機角色——現(xiàn)在流行于Twitter和Facebook Messenger的聊天機器人的前身。甚至有人每年圍繞它們舉辦比賽。有的人仍然將該測試視作驗證機器智能的正當方式。
但圖靈從未說過機器具有思考能力，更不用說它們或許能夠在智力上比肩人類智能。相反，他只是猜測，機器或許能夠表現(xiàn)出令人信服的行為。對于圖靈來說，那涉及機器表現(xiàn)得像某種其它的東西的能力。隨著計算機科學的進步，“通過”圖靈測試變得意味著成功通過許可證測試，而不是準確地扮演一個角色。
那種曲解可能標志著圖靈對計算機成為令人信服的機器的愿景的終結。但他也將他的想法融入到計算機硬件設計本身上。1936年，圖靈提出一種概念性機器，該機器根據(jù)有限的規(guī)則來控制磁帶上的符號。
該被稱為通用圖靈機器的設計成為了計算機處理方面富有影響力的模型。經(jīng)過了著名數(shù)學家約翰·馮·諾依曼等人的一系列修正，它變成了標準的存儲程序設計技術——一種同時存儲程序指令和數(shù)據(jù)的計算機。
在計算歷史中，圖靈機器通常被認為是獨立于圖靈測試的一項創(chuàng)新。但它們被關聯(lián)了起來。通用計算指代機器模擬任何圖靈機器的能力（計算機科學家將這種能力稱之為圖靈完全）。圖靈機器（以及計算機）成了假裝其它的機器的機器。
想想你每天用到的計算系統(tǒng)，它們?nèi)即砟M某種其它的東西的嘗試。正如圖靈當初設想的機器試圖假裝人類一樣，計算機在某種程度上也在試圖假裝另外的東西。例如，假裝計算器、賬簿、打字機、電話、相機、商店或者咖啡店。
經(jīng)過一段時間以后，模擬成功的機器替代和取代它們當初模擬的那些機器。文字處理器不再只是模擬的打字機或者秘書，而是用于生成各類書面材料的首選工具。最終，如果它們流行開來的話，那模擬的機器就真的成了機器。
現(xiàn)在，計算機的使用整體上就是圍繞這個。計算機不能處理的事情已剩下不多。計算機正在分離作為實現(xiàn)生產(chǎn)和創(chuàng)造目的的符號操控方式的本源，成為一項獨立的活動?，F(xiàn)在，人們尋求使用計算機并不是為了將事情完成；他們是去做那些讓人們使用計算機的事情。
“反向圖靈測試”
計算機的使用從它的目的分離出來，成為一種生活方式，目標和問題只有在它們能夠通過計算系統(tǒng)來處理和解決的時候才會顯得是正當?shù)?。物?lián)網(wǎng)設備為了那種新理想提供了一個例子。另一個例子可通過觀察硅谷科技公司如何設想它們的產(chǎn)品服務來發(fā)現(xiàn)。
以社交網(wǎng)絡上的辱罵行為為例。今年早些時候，Twitter數(shù)據(jù)戰(zhàn)略副總裁克里斯·穆迪（Chris Moody）坦言，“我們的平臺存在一些謾罵行為?！彼f遏制這種行為是公司的頭號要務，接著補充道，“但這是一個非常非常艱難的挑戰(zhàn)。”對此，Twitter決心部署IBM的沃森（Watson）AI來檢測仇恨言論。谷歌也采取了類似的行動。它的其中一個實驗室開發(fā)了Perspective，Perspective是“一個利用機器學習來發(fā)現(xiàn)網(wǎng)絡上的辱罵和騷擾言論的API（應用程序接口）”。
有時候，科技公司會把像這樣的努力當做業(yè)務可行性一般的事宜——為產(chǎn)品和服務尋找“可擴展的”解決方案。被問到穆迪發(fā)表的那番言論的時候，Twitter發(fā)言人表示公司同時采用計算系統(tǒng)和人工系統(tǒng)來審查安全內(nèi)容，但沒有透露具體的細節(jié)。
這似乎讓人看到了希望，但結果卻喜憂參半。Twitter聲稱它在抗擊辱罵行為上已經(jīng)取得了進步，但它似乎還是忽略了最嚴重的一些情況。谷歌的Perspective也會被簡單的打字錯誤和否定言語蒙騙。
盡管從商業(yè)利益角度來看，它們亟需盡早解決這些問題，但讓網(wǎng)絡空間變得更加安全，應該需要計算方面的解決方案。無可否認，人工內(nèi)容審查難度太大。內(nèi)容數(shù)量太過龐大（正如Twitter所強調(diào)的），因此需要計算系統(tǒng)來實施管控。
不過，也許管控辱罵內(nèi)容是“一項非常非常艱難的挑戰(zhàn)”，很大程度是因為那一假定。全球網(wǎng)絡是由無數(shù)能夠相互匿名進行互動的人組成的，因此無法實施高效的人工干預。Twitter的回答假定，他們的服務（幾乎完全是由應用和服務器來自動提供）完全沒有問題——他們只需要找到合適的計算管理方式，再將它建立在他們的服務上面。如果計算機自動化被假定是最好的或者唯一的答案，那當然只有工程解決方案似乎是可實行的。
從根本上說，GasWatch用戶不選擇廉價的模擬式測量器來管理野炊規(guī)劃，也是出于同樣的理由。在有計算機的情況下，人們?yōu)槭裁床贿x擇要選擇一個不涉及計算機的解決方案呢？丙烷罐和自行車鎖仍屬于極端例子，但普通的數(shù)字服務也是同樣的道理：人們所尋求的那些服務是那些可讓他們使用計算機來做事的服務——從尋找資訊，到打車，再到點外賣。這既是業(yè)務上的成功，也是感官上的成功。人們將計算機當做獲得使用計算機的快感的途徑，不僅僅是將其當做實用高效的問題解決途徑。
因此，不難理解生產(chǎn)所有的那些似乎毫無意義或者有問題的服務、應用和物聯(lián)網(wǎng)設備背后的用意了：他們在原來缺少計算機的地方放置一臺計算機。他們將普通的現(xiàn)實體驗變成計算體驗。如今，機器希望說服人類它們真的是計算機，而不是試圖說服人類它們也是人類。這跟圖靈測試恰恰相反。
隨時在線時代
這一現(xiàn)象也有一個名稱：“反向圖靈測試”。CAPTCHAs，那些在過濾自動化機器人的在線論壇上的代碼，屬于反向圖靈測試，在里面計算機判斷用戶是否是人類。也有讓人猜測大批計算機中哪個是人類的逆向圖靈測試。
這些項目本身是將圖靈測試用作一種體驗，而不是用它來測量智能。那個先例要追溯到計算時代初期。最有名的模擬游戲式聊天機器人案例之一是約瑟夫·魏澤寶（Joseph Weizenbaum）1966年的程序ELIZA。該程序充當一個羅杰斯學派心理治療師——一種基于向咨客拋回他們提出的問題的心理療法。這是一種容易模擬的模型，即便是在1960年代中期，但它很難稱得上智能、人工智能之類的東西。圖靈測試在人人都知道提問者是計算機但依然樂在其中的時候效果最好。
如今“變成計算機”的意思不同于1950年圖靈提出模擬游戲的時候，不同于人工智能的技術前提條件，表現(xiàn)得像計算機往往只涉及移動一些數(shù)據(jù)，或者充當控制器或執(zhí)行器。
以Uber為例，該打車服務巨頭的主要商業(yè)成功來自對勞動力的有效利用。但它的感官成功來自于讓人們通過智能手機就能打車。不必電話聯(lián)系也是這一過程的吸引力的一部分，在手機上通過數(shù)字地圖看到汽車接近上車地點亦然。同樣地，對于那些擁抱打車服務的人來說，自動駕駛汽車富有吸引力，不僅僅是因為它們可讓人們從駕駛的負擔和危險性中解放出來，還因為它們讓汽車變得更像是計算機。當然，計算機為汽車提供輔助已經(jīng)有多年時間。但無人駕駛汽車讓車輛變成了明顯是由計算機來驅(qū)動的機器。
又或者想想門鈴。忘掉Ring吧，該門鈴已經(jīng)被計算機取而代之。我的孩子的朋友來訪的時候，他們只需要發(fā)來請求短信即可讓我家的門打開。門鈴甚至沒有連接應用或者網(wǎng)絡，就已經(jīng)計算機化了。你硬要說的話，可以將其稱作“顛覆”，但門鈴、汽車和出租車在這一進程中幾乎不會消失。相反，它們只需要進入計算機里面，這樣它們就能產(chǎn)生新的吸引力。
其中的一個吸引之處在于聯(lián)網(wǎng)的愉悅性。你不想要離線。既然如此，你為什么會想要你的烤面包器或者門鈴離線呢？現(xiàn)在，沉浸在計算當中成了一種理想。終極的夢想是隨時都在線，或者至少連接某種計算機化的機器。
這不是任何人所想的計算的局面。早期的反烏托邦論調(diào)警告稱，計算機可能會變成官僚主義者或者法西斯主義者。又或者，強迫性的計算機使用傾向會讓人失去活力，讓人像被麻醉了一樣。
那些恐懼在某種程度上一直都存在，部分因為它們成為了現(xiàn)實。但它們也有被反轉(zhuǎn)。如今，離開它們，而非沒完沒了地被它們纏著，會讓人覺得沒有活力。因此，計算機所采取的行動成了一種自我指涉：將越來越多的東西變成計算機，從而延續(xù)那種情感連接。
計算機真正的威脅
一切都跟往常一樣，但對于現(xiàn)實，人們是覺得它處在計算機當中。
從這個角度來看，當代技術文化的所有問題——企業(yè)收集數(shù)據(jù)，隱私，我之前所說的“就業(yè)過多”（hyperemployment，人們?yōu)镕acebook、谷歌等公司免費提供的無形勞動力）——都不再是剝削行為，而只是人們有意無意選擇的結果。
未來主義者們看來，計算機革命的希望（或者威脅）往往都離不開人工智能的巨大躍進。哲學家尼克·博斯特羅姆（Nick Bostrom）將超過人類智能的AI稱作“超級智能”。超級智能一旦實現(xiàn)，人類要么將接近于永遠擺脫單調(diào)沉悶的工作，要么將接近于因為機器人大災難而滅絕。獲另一位哲學家大衛(wèi)·查爾莫斯（David Chalmers）和計算機科學家雷·庫茲韋爾（Ray Kurzweil）認同的另一種觀點是“奇點”，即一旦具備足夠的處理性能，計算機就將能夠模擬人類大腦。如果這成真的話，那么人類或許可以將他們的意識上傳到機器，理論上實現(xiàn)長生不老。庫茲韋爾如今供職于谷歌，該公司在運營一個致力于對抗死亡的項目。
有的人甚至認為超級智能是過往的技術，而不是未來的技術。
但智能機器的現(xiàn)狀比任何的未來機器人大災難都要無趣乏味，同時也比它們都更有影響力。圖靈通常被稱作AI之父，但他只是說過機器可能會變得足夠令人信服，能夠激發(fā)互動。那算不上智能、人工智能或者真實的智能，而且也容易實現(xiàn)得多。計算機已經(jīng)說服人們將他們的生活帶到計算機當中去。那些機器并不需要讓人們長生不老，不需要給人以服務他們每一個奇想的希望，也不需要揚言徹底摧毀他們。它們只需要成為人們做的一切事情的一部分，以至于他們無法（或者不愿意）想象沒有它們自己獨自去做那些事情的情景。
這種未來多少有些悲劇色彩。并不是說人類可能無法應對機器人大災難的到來，也不是說他們可能會死亡，沒能夠?qū)⒆约旱囊庾R上傳到機器。計算機真正的威脅并不在于，它們可能會利用其未來的能力和智能取代和摧毀人類；而在于，它們可能仍會跟現(xiàn)在那樣平庸，那樣無力，但卻還是取代了我們。
以下是世的必文章主要內(nèi)容：
突然之間，不管是界里什么東西，都成了計算機。活計化產(chǎn)除了常見的算機手機和電視機以外，變成計算機的世的必還包括烤面包器、門鎖、界里嬰兒監(jiān)視器、活計化產(chǎn)榨汁機、算機門鈴和燃氣烤架，世的必甚至水龍頭和花園澆水用軟管?！爸悄堋痹O備大概已經(jīng)無處不在，日常物品的計算機化趨勢在不斷地蔓延。
有那么一段時間，讓那些看起來平平無奇的東西看上去新鮮一點，是有必要的。但很快，質(zhì)疑聲四起。沒有人真正需要用智能手機操控的自行車鎖或者丙烷罐。他們顯然不需要那些替代原來的“笨”設備、沒那么可靠的設備。但人們似乎真的想要擁有它們——而且這一人群在不斷壯大。據(jù)估計，目前聯(lián)網(wǎng)設備數(shù)量達到數(shù)十億，到2020年，該市場的規(guī)模可能將高達2500億美元。
為什么那樣的設備還會吃香呢？一種說法是，市面上賣什么消費者就買什么，制造商們也十分渴望將它們的笨設備智能化。這么做可給它們帶來更多的收入，更多的控制權，以及更多鼓勵消費者替換舊產(chǎn)品的機會。它也催生了一個圍繞借這些設備收集到的數(shù)據(jù)的次級市場。例如，- 山東美女上門預約vx：365-*2895）掃地機器人生產(chǎn)商Roomba希望通過分析其家用掃地機器人的移動情況，推斷出家家戶戶的樓層平面圖，然后拿它們當商業(yè)智能去出售。
不過，市場強制的解釋并不能完全站住腳。更需要注意的是，普通物品的計算機化本身已經(jīng)成了目的，而不是實現(xiàn)目的的一種途徑。隨著計算機化趨勢從臺式機和后臺蔓延到手機、相機、汽車和門鎖，人們對于計算機的喜愛也轉(zhuǎn)移到其它甚至更加普通的物品上面。人們越是喜歡使用計算機來做各種事情，一旦計算機不在身邊，他們就越覺得生活不完整。
計算機化帶來的問題
之前，我寫過一款名為GasWatch的丙烷罐測量器的設備。該設備連接一款相配的智能手機應用，旨在避免煤氣罐在需要使用的時候突然就耗盡的情況。
每次看到像這樣的設備，我都會很詫異竟然會有如此荒唐的產(chǎn)品，它們的創(chuàng)造者和顧客似乎沒怎么留意到這一點，或者說完全不在乎。明明用個便宜的計量器就行了，為什么非得使用計算機來監(jiān)視丙烷用量呢？
然而，隨著聯(lián)網(wǎng)的設備和服務變得越來越司空見慣，對它們的制造商冷嘲熱諷也于事無補。聯(lián)網(wǎng)烤面包器宣稱可幫助人們“更加智能地烤面包”。連接智能手機的自行車鎖號稱要“消除鑰匙遺失和忘記密碼帶來的麻煩和沮喪情緒”，僅售149.99美元。然后是Nest，這款智能恒溫器由前iPod設計師設計而成，后來其廠商被谷歌以32億美元的高價收歸門下。該公司還生產(chǎn)智能監(jiān)控攝像機，那些設備可連接網(wǎng)絡來將視頻畫面?zhèn)鬏數(shù)剿鼈兊闹魅说闹悄苁謾C。嬰兒監(jiān)視器等曾經(jīng)的自給式設備如今也拿聯(lián)網(wǎng)功能作為重要賣點。
這種趨勢的擴散速度完全超出了我的預期。幾年前，我住過的一家時髦酒店聲稱不久以后它的房門卡將會被智能手機徹底淘汰。時至今日，再普通的漢普頓酒店房間都可以用希爾頓的應用來打開。家庭版的應用市面上也有。用戶甚至可以了解門被鎖了多長時間的分析數(shù)據(jù)——我完全沒覺得自己需要這種數(shù)據(jù)。
這些設備帶來了諸多的問題。成本是一個方面。跟廉價的丙烷計量器一樣，傳統(tǒng)的自行車鎖也是日用品。它的售價大概在10到15美元之間，而Noke的聯(lián)網(wǎng)自行車鎖的價格則達到它的十倍之多。這些設備還會帶來安全和隱私方面的問題。據(jù)說，美國中央情報局（CIA）在三星電視機里植入后門程序來實施監(jiān)視。由于嬰兒監(jiān)視器被黑客入侵，受到干擾的人與其孩子之間的對話可能會被偷聽。僵尸網(wǎng)絡可控制數(shù)千個安全性很低的聯(lián)網(wǎng)設備來對域名系統(tǒng)發(fā)動DDOS（分布式拒絕服務）攻擊。
可靠性問題也會困擾聯(lián)網(wǎng)設備。一旦網(wǎng)絡宕機，或者應用服務無法正常訪問，又或者某種其它的軟件行為帶來障礙，那些產(chǎn)品往往就無法正常運作。
以門鈴為例。普通的門鈴接通線路來激活電磁體，然后后者轉(zhuǎn)動活塞來發(fā)出響聲。名為Ring的智能門鈴用包含運動傳感器和攝像頭的盒子裝置來替代按鈕。很不錯的主意。但據(jù)一些用戶反映，Ring有時候無法發(fā)出響聲，又或者隔了很久才響。這種問題相當普遍，有人甚至開了個名為Internet of Shit的Twitter賬號，來專門匯總聯(lián)網(wǎng)設備的種種弊端，引發(fā)了不少的關注。
正如科技評論家尼古拉斯·卡爾（Nicholas Carr）所指出的，這些不是我們被允諾的那些機器人。飛行汽車、機器人房屋、快過光速的旅行等還沒有到來。與此同時，新的未來愿景設想，人類和機器可能將發(fā)生融合，要么通過生物黑客技術，要么是通過模擬的意識。那種未來也感覺非常遙遠——也許遙不可及。它的遙遠可能削弱了人們對于AI大災難的恐懼，同時也模糊化了一個關于機器在人類命運上的角色的特定真相：計算機已經(jīng)無處不在，人類生活已經(jīng)基本都離不開它們了，而人們也安于現(xiàn)狀。
模擬機器而非人類
計算機普通用途和超凡用途之間的分歧始于近70年前，當時阿蘭·圖靈（Alan Turing）提出了一個意外幫助創(chuàng)立人工智能領域的主意。圖靈猜測，當機器變得像人類一樣的時候，它們最令人信服。那也正是現(xiàn)在的智能手機（以及智能烤面包器）所做的事情。但計算機科學家們沒有抓住要領，他們反而將圖靈的思考實驗曲解為模擬或者替代人類大腦的一項挑戰(zhàn)。
在1950年發(fā)表的論文中，圖靈描述了一項被他稱作模擬游戲的派對游戲。游戲的內(nèi)容是，一男一女走進密室，然后密室外的另一個人發(fā)問，試圖猜測里面哪個是男哪個是女。圖靈后來想到了密室內(nèi)的其中一人是人類，另一人是類似于計算機的機器的游戲版本。如果外面的提問者分辨不出哪個是人哪個是機器，那該計算機就算通過測試。圖靈測試如今已經(jīng)聚焦計算機角色——現(xiàn)在流行于Twitter和Facebook Messenger的聊天機器人的前身。甚至有人每年圍繞它們舉辦比賽。有的人仍然將該測試視作驗證機器智能的正當方式。
但圖靈從未說過機器具有思考能力，更不用說它們或許能夠在智力上比肩人類智能。相反，他只是猜測，機器或許能夠表現(xiàn)出令人信服的行為。對于圖靈來說，那涉及機器表現(xiàn)得像某種其它的東西的能力。隨著計算機科學的進步，“通過”圖靈測試變得意味著成功通過許可證測試，而不是準確地扮演一個角色。
那種曲解可能標志著圖靈對計算機成為令人信服的機器的愿景的終結。但他也將他的想法融入到計算機硬件設計本身上。1936年，圖靈提出一種概念性機器，該機器根據(jù)有限的規(guī)則來控制磁帶上的符號。
該被稱為通用圖靈機器的設計成為了計算機處理方面富有影響力的模型。經(jīng)過了著名數(shù)學家約翰·馮·諾依曼等人的一系列修正，它變成了標準的存儲程序設計技術——一種同時存儲程序指令和數(shù)據(jù)的計算機。
在計算歷史中，圖靈機器通常被認為是獨立于圖靈測試的一項創(chuàng)新。但它們被關聯(lián)了起來。通用計算指代機器模擬任何圖靈機器的能力（計算機科學家將這種能力稱之為圖靈完全）。圖靈機器（以及計算機）成了假裝其它的機器的機器。
想想你每天用到的計算系統(tǒng)，它們?nèi)即砟M某種其它的東西的嘗試。正如圖靈當初設想的機器試圖假裝人類一樣，計算機在某種程度上也在試圖假裝另外的東西。例如，假裝計算器、賬簿、打字機、電話、相機、商店或者咖啡店。
經(jīng)過一段時間以后，模擬成功的機器替代和取代它們當初模擬的那些機器。文字處理器不再只是模擬的打字機或者秘書，而是用于生成各類書面材料的首選工具。最終，如果它們流行開來的話，那模擬的機器就真的成了機器。
現(xiàn)在，計算機的使用整體上就是圍繞這個。計算機不能處理的事情已剩下不多。計算機正在分離作為實現(xiàn)生產(chǎn)和創(chuàng)造目的的符號操控方式的本源，成為一項獨立的活動?，F(xiàn)在，人們尋求使用計算機并不是為了將事情完成；他們是去做那些讓人們使用計算機的事情。
“反向圖靈測試”
計算機的使用從它的目的分離出來，成為一種生活方式，目標和問題只有在它們能夠通過計算系統(tǒng)來處理和解決的時候才會顯得是正當?shù)?。物?lián)網(wǎng)設備為了那種新理想提供了一個例子。另一個例子可通過觀察硅谷科技公司如何設想它們的產(chǎn)品服務來發(fā)現(xiàn)。
以社交網(wǎng)絡上的辱罵行為為例。今年早些時候，Twitter數(shù)據(jù)戰(zhàn)略副總裁克里斯·穆迪（Chris Moody）坦言，“我們的平臺存在一些謾罵行為?！彼f遏制這種行為是公司的頭號要務，接著補充道，“但這是一個非常非常艱難的挑戰(zhàn)。”對此，Twitter決心部署IBM的沃森（Watson）AI來檢測仇恨言論。谷歌也采取了類似的行動。它的其中一個實驗室開發(fā)了Perspective，Perspective是“一個利用機器學習來發(fā)現(xiàn)網(wǎng)絡上的辱罵和騷擾言論的API（應用程序接口）”。
有時候，科技公司會把像這樣的努力當做業(yè)務可行性一般的事宜——為產(chǎn)品和服務尋找“可擴展的”解決方案。被問到穆迪發(fā)表的那番言論的時候，Twitter發(fā)言人表示公司同時采用計算系統(tǒng)和人工系統(tǒng)來審查安全內(nèi)容，但沒有透露具體的細節(jié)。
這似乎讓人看到了希望，但結果卻喜憂參半。Twitter聲稱它在抗擊辱罵行為上已經(jīng)取得了進步，但它似乎還是忽略了最嚴重的一些情況。谷歌的Perspective也會被簡單的打字錯誤和否定言語蒙騙。
盡管從商業(yè)利益角度來看，它們亟需盡早解決這些問題，但讓網(wǎng)絡空間變得更加安全，應該需要計算方面的解決方案。無可否認，人工內(nèi)容審查難度太大。內(nèi)容數(shù)量太過龐大（正如Twitter所強調(diào)的），因此需要計算系統(tǒng)來實施管控。
不過，也許管控辱罵內(nèi)容是“一項非常非常艱難的挑戰(zhàn)”，很大程度是因為那一假定。全球網(wǎng)絡是由無數(shù)能夠相互匿名進行互動的人組成的，因此無法實施高效的人工干預。Twitter的回答假定，他們的服務（幾乎完全是由應用和服務器來自動提供）完全沒有問題——他們只需要找到合適的計算管理方式，再將它建立在他們的服務上面。如果計算機自動化被假定是最好的或者唯一的答案，那當然只有工程解決方案似乎是可實行的。
從根本上說，GasWatch用戶不選擇廉價的模擬式測量器來管理野炊規(guī)劃，也是出于同樣的理由。在有計算機的情況下，人們?yōu)槭裁床贿x擇要選擇一個不涉及計算機的解決方案呢？丙烷罐和自行車鎖仍屬于極端例子，但普通的數(shù)字服務也是同樣的道理：人們所尋求的那些服務是那些可讓他們使用計算機來做事的服務——從尋找資訊，到打車，再到點外賣。這既是業(yè)務上的成功，也是感官上的成功。人們將計算機當做獲得使用計算機的快感的途徑，不僅僅是將其當做實用高效的問題解決途徑。
因此，不難理解生產(chǎn)所有的那些似乎毫無意義或者有問題的服務、應用和物聯(lián)網(wǎng)設備背后的用意了：他們在原來缺少計算機的地方放置一臺計算機。他們將普通的現(xiàn)實體驗變成計算體驗。如今，機器希望說服人類它們真的是計算機，而不是試圖說服人類它們也是人類。這跟圖靈測試恰恰相反。
隨時在線時代
這一現(xiàn)象也有一個名稱：“反向圖靈測試”。CAPTCHAs，那些在過濾自動化機器人的在線論壇上的代碼，屬于反向圖靈測試，在里面計算機判斷用戶是否是人類。也有讓人猜測大批計算機中哪個是人類的逆向圖靈測試。
這些項目本身是將圖靈測試用作一種體驗，而不是用它來測量智能。那個先例要追溯到計算時代初期。最有名的模擬游戲式聊天機器人案例之一是約瑟夫·魏澤寶（Joseph Weizenbaum）1966年的程序ELIZA。該程序充當一個羅杰斯學派心理治療師——一種基于向咨客拋回他們提出的問題的心理療法。這是一種容易模擬的模型，即便是在1960年代中期，但它很難稱得上智能、人工智能之類的東西。圖靈測試在人人都知道提問者是計算機但依然樂在其中的時候效果最好。
如今“變成計算機”的意思不同于1950年圖靈提出模擬游戲的時候，不同于人工智能的技術前提條件，表現(xiàn)得像計算機往往只涉及移動一些數(shù)據(jù)，或者充當控制器或執(zhí)行器。
以Uber為例，該打車服務巨頭的主要商業(yè)成功來自對勞動力的有效利用。但它的感官成功來自于讓人們通過智能手機就能打車。不必電話聯(lián)系也是這一過程的吸引力的一部分，在手機上通過數(shù)字地圖看到汽車接近上車地點亦然。同樣地，對于那些擁抱打車服務的人來說，自動駕駛汽車富有吸引力，不僅僅是因為它們可讓人們從駕駛的負擔和危險性中解放出來，還因為它們讓汽車變得更像是計算機。當然，計算機為汽車提供輔助已經(jīng)有多年時間。但無人駕駛汽車讓車輛變成了明顯是由計算機來驅(qū)動的機器。
又或者想想門鈴。忘掉Ring吧，該門鈴已經(jīng)被計算機取而代之。我的孩子的朋友來訪的時候，他們只需要發(fā)來請求短信即可讓我家的門打開。門鈴甚至沒有連接應用或者網(wǎng)絡，就已經(jīng)計算機化了。你硬要說的話，可以將其稱作“顛覆”，但門鈴、汽車和出租車在這一進程中幾乎不會消失。相反，它們只需要進入計算機里面，這樣它們就能產(chǎn)生新的吸引力。
其中的一個吸引之處在于聯(lián)網(wǎng)的愉悅性。你不想要離線。既然如此，你為什么會想要你的烤面包器或者門鈴離線呢？現(xiàn)在，沉浸在計算當中成了一種理想。終極的夢想是隨時都在線，或者至少連接某種計算機化的機器。
這不是任何人所想的計算的局面。早期的反烏托邦論調(diào)警告稱，計算機可能會變成官僚主義者或者法西斯主義者。又或者，強迫性的計算機使用傾向會讓人失去活力，讓人像被麻醉了一樣。
那些恐懼在某種程度上一直都存在，部分因為它們成為了現(xiàn)實。但它們也有被反轉(zhuǎn)。如今，離開它們，而非沒完沒了地被它們纏著，會讓人覺得沒有活力。因此，計算機所采取的行動成了一種自我指涉：將越來越多的東西變成計算機，從而延續(xù)那種情感連接。
計算機真正的威脅
一切都跟往常一樣，但對于現(xiàn)實，人們是覺得它處在計算機當中。
從這個角度來看，當代技術文化的所有問題——企業(yè)收集數(shù)據(jù)，隱私，我之前所說的“就業(yè)過多”（hyperemployment，人們?yōu)镕acebook、谷歌等公司免費提供的無形勞動力）——都不再是剝削行為，而只是人們有意無意選擇的結果。
未來主義者們看來，計算機革命的希望（或者威脅）往往都離不開人工智能的巨大躍進。哲學家尼克·博斯特羅姆（Nick Bostrom）將超過人類智能的AI稱作“超級智能”。超級智能一旦實現(xiàn)，人類要么將接近于永遠擺脫單調(diào)沉悶的工作，要么將接近于因為機器人大災難而滅絕。獲另一位哲學家大衛(wèi)·查爾莫斯（David Chalmers）和計算機科學家雷·庫茲韋爾（Ray Kurzweil）認同的另一種觀點是“奇點”，即一旦具備足夠的處理性能，計算機就將能夠模擬人類大腦。如果這成真的話，那么人類或許可以將他們的意識上傳到機器，理論上實現(xiàn)長生不老。庫茲韋爾如今供職于谷歌，該公司在運營一個致力于對抗死亡的項目。
有的人甚至認為超級智能是過往的技術，而不是未來的技術。
但智能機器的現(xiàn)狀比任何的未來機器人大災難都要無趣乏味，同時也比它們都更有影響力。圖靈通常被稱作AI之父，但他只是說過機器可能會變得足夠令人信服，能夠激發(fā)互動。那算不上智能、人工智能或者真實的智能，而且也容易實現(xiàn)得多。計算機已經(jīng)說服人們將他們的生活帶到計算機當中去。那些機器并不需要讓人們長生不老，不需要給人以服務他們每一個奇想的希望，也不需要揚言徹底摧毀他們。它們只需要成為人們做的一切事情的一部分，以至于他們無法（或者不愿意）想象沒有它們自己獨自去做那些事情的情景。
這種未來多少有些悲劇色彩。并不是說人類可能無法應對機器人大災難的到來，也不是說他們可能會死亡，沒能夠?qū)⒆约旱囊庾R上傳到機器。計算機真正的威脅并不在于，它們可能會利用其未來的能力和智能取代和摧毀人類；而在于，它們可能仍會跟現(xiàn)在那樣平庸，那樣無力，但卻還是取代了我們。