編者語：當人工智能機器達到一定的智能水平（即在某天突然達到一種稱作“奇點”的狀態）之後，它們將會“失去控製”，yiwomenwufaxiangxiangdesuduzixingjinhua，yizhiyuyuanyuandibingqiefeichangxunsudibawomenpaozaihoumian。zhebingfeikehuanpianzhongcaiyoudechangjing，ershirengongzhinengzhuanjiamenzaiyansutantaodehuati。

　　當人工智能機器達到一定的智能水平（即在某天突然達到一種稱作“奇點”的狀態）之後
，它們將會“失去控製”，yiwomenwufaxiangxiangdesuduzixingjinhua，yizhiyuyuanyuandibingqiefeichangxunsudibawomenpaozaihoumian。zhebingfeikehuanpianzhongcaiyoudechangjing
，ershirengongzhinengzhuanjiamenzaiyansutantaodehuati。由於人工智能方麵令人吃驚的進展，一些計算機科學家正在爭論是否應該對某些研究設限，以防這些研究可能導致人類失去對計算機體係的控製。科學家認為
，正如宇宙學上存在著一個讓所有物理定律都失效的“奇點”(Singularity)一樣
，信息技術也正朝著“超人類智能”的奇點邁進。

　　以人工智能和人類未來為主題的2009奇點峰會(Singularity Summit)就重點探討了機器超越人類智慧的“奇點”(Singularity)終將到來的時代。

　　在奇點峰會中筆者受益量多
，但該峰會最大的裨益乃其尚未解決的問題。筆者將總結關於“奇點”理論的十大為解難題，與讀者共同探討有關人類智力與機器人智力的哲學道德之爭議。

　　“奇點”理論：著名未來學家雷·庫茲韋爾的“奇點”理論指出在“奇點”lailinzhishi，jiqijiangketongguorengongzhinengjinxingziwowanshan，chaoguorenleibenshen
，kaiqiyigexindeshidai。yixiepipingzheduieyiderengongzhinengtichulezhiyi，danyuelaiyueduodezhuliujigoukaishijieshoukuziweierdekanfa。

　　智力與意識是否僅僅局限於我們所認識並認可的範圍？

　　在談話中，“奇點”理論之父著名未來學家雷·庫茲韋爾將“智力”定義為“預測能力”，這(zhe)一(yi)能(neng)力(li)是(shi)從(cong)我(wo)們(men)的(de)祖(zu)先(xian)尚(shang)在(zai)大(da)草(cao)原(yuan)中(zhong)以(yi)狩(shou)獵(lie)為(wei)生(sheng)時(shi)，需(xu)判(pan)定(ding)其(qi)狩(shou)獵(lie)對(dui)象(xiang)下(xia)一(yi)步(bu)將(jiang)移(yi)動(dong)至(zhi)何(he)處(chu)以(yi)便(bian)更(geng)有(you)效(xiao)率(lv)地(di)捕(bu)獲(huo)獵(lie)物(wu)這(zhe)一(yi)經(jing)驗(yan)中(zhong)進(jin)化(hua)並(bing)遺(yi)傳(chuan)下(xia)來(lai)的(de)。如(ru)將(jiang)“智力”的概念定義於此
，那麼顯然電腦在這方麵遠遠要比人類高明（電腦可預報天氣，經濟動態等）。

　　當然，人類的預測能力也有機器所無法涉及的領域，比如判定女友喜歡那種花這種事隻有人類才可加以估計和推測。

　　jiaruzhegeshijieshangyouwomensuoweizengrenshidaodezhilileixing，nameruguojiqitongguorengongzhinengjinxingziwowanshanbingfazhanchuyizhongxinxingdezhili
，womenyouzennengyishidedaone

？jiashezhenyouqitaleixingdezhilicunzaiyuzhegeshijie，nameruguojiqifazhanchuyizhongxinxingdeyishi，womenyouzenmeduiqijinxingjianbieherenshi？

　　人工智能是否會將人類滅絕
？

　　在峰會上

，很多人都擔心人類終有一天會斷絕在人工智能之手。但這些杞人憂天的偏執狂卻無一人可解釋電腦程序將如何殺死人類。

　　還有人擔心，人類是否會失去對機器的控製，使得人工智能機器破解並進入核彈係統
，而後隨意發射核武器？

　　人工智能會在意自己失聰，耳聾
，或失明？

　　世界首台電腦誕生時，閃入它腦中的第一個念頭絕不是“天哪！我居然沒有眼睛！看不到這個世界！”一個並無實體依存於一台機器才能運行的所謂“智能”的最大缺陷即嚴重缺乏感官。毫無疑問，人類可被激怒，倘若這個世界上出現了第一台被激怒的人工智能
，那麼這將意味著什麼呢？

　　期待機器有感情的那一天嗎
？

　　人(ren)工(gong)智(zhi)能(neng)會(hui)沮(ju)喪(sang)嗎(ma)？毫(hao)無(wu)疑(yi)問(wen)，第(di)一(yi)台(tai)人(ren)工(gong)智(zhi)能(neng)機(ji)器(qi)會(hui)感(gan)到(dao)無(wu)比(bi)孤(gu)單(dan)。將(jiang)來(lai)當(dang)第(di)一(yi)例(li)具(ju)有(you)意(yi)識(shi)的(de)機(ji)器(qi)橫(heng)空(kong)出(chu)世(shi)時(shi)，人(ren)類(lei)不(bu)會(hui)想(xiang)要(yao)這(zhe)種(zhong)看(kan)似(si)人(ren)性(xing)化(hua)服(fu)務(wu)實(shi)則(ze)掌(zhang)握(wo)人(ren)類(lei)社(she)會(hui)經(jing)濟(ji)工(gong)具(ju)和(he)武(wu)器(qi)裝(zhuang)置(zhi)的(de)朋(peng)友(you)。

　　人工智能模擬大腦，亦或人類大腦本就以電腦方式運作？

　　Jurgen Schmidhuber是一位人工智能研究所的科學家。他指出人類大腦處理信息的方式與zip解壓縮文件如出一轍，我們區別無趣與有趣的基準是衡量這個事物包含多少可被我們深刻加工並壓縮的新鮮信息含量。

　　Jurgen Schmidhuberjieshiledanaoshiruhetongguokuozhangerentiyanerchulixinxi。zheshiwomenbujinhaoqi
，nandaowomendedanaodeyunzuoyijingquxiangyudiannaofangshile？renleidanaoshiyichulibutongderuanjianerzaojiurenmenbutongdegexingdema？zheshifouyiweizhe“奇點”時代不是以人工智能超越人類的方式到來，而是伴隨著人類意識到大腦實為電腦運行方式這一事實到來的呢
？

[page_break]

　　“禁忌”程序可戰勝自由意誌？

　　在(zai)關(guan)於(yu)如(ru)何(he)避(bi)免(mian)人(ren)類(lei)被(bei)智(zhi)能(neng)機(ji)器(qi)所(suo)統(tong)治(zhi)的(de)討(tao)論(lun)當(dang)中(zhong)，許(xu)多(duo)發(fa)言(yan)人(ren)都(dou)強(qiang)調(tiao)了(le)向(xiang)智(zhi)能(neng)機(ji)器(qi)人(ren)灌(guan)輸(shu)人(ren)類(lei)道(dao)德(de)倫(lun)理(li)的(de)重(zhong)要(yao)性(xing)。也(ye)有(you)人(ren)提(ti)出(chu)為(wei)何(he)不(bu)直(zhi)接(jie)編(bian)輯(ji)杜(du)絕(jue)機(ji)器(qi)人(ren)屠(tu)殺(sha)人(ren)類(lei)的(de)程(cheng)序(xu)。但(dan)是(shi)，一(yi)旦(dan)“奇點”到來，機器有了自己的自由意誌，他們當然可以選擇不去遵守這些程序。人類本身不就是在建立規則與不斷犯規中發展的嗎？

　　弗洛伊德也適用於人工智能？

　　ruguorengongzhinengguozhenfazhanchuziyouyizhiyuzhili，nametamendedanaoyeherenleidanaoyiyangfuzama？tamenyehuiyouwufalijie，kongzhiheshejidelingyuma？ruguofuluoyidedeziwo，benwohechaowonaishengwuyuganzhidejieguo
，namerengongzhinengyehuiyouzongjiaoxinyanghexinliwentima？ruguorengongzhinengjiangrenleifengweishenming，huozhezaowuzhu，namehuidaozhitamenduirenleichanshengedipusiqingjiema？ruguoshizheyang，nametamenduirenleideshalujiuyoulikexunle，bijingedipusizhongguimeiyoutaochushafuqumudemingyun。

　　人工智能會真誠地協助人類克服劣根性
？

　　每(mei)個(ge)網(wang)民(min)都(dou)知(zhi)道(dao)


，網(wang)絡(luo)是(shi)開(kai)闊(kuo)眼(yan)界(jie)獲(huo)取(qu)信(xin)息(xi)的(de)重(zhong)要(yao)工(gong)具(ju)，同(tong)時(shi)也(ye)是(shi)一(yi)個(ge)肆(si)意(yi)散(san)播(bo)不(bu)良(liang)信(xin)息(xi)的(de)平(ping)台(tai)。那(na)些(xie)鼓(gu)吹(chui)全(quan)球(qiu)變(bian)暖(nuan)是(shi)一(yi)個(ge)政(zheng)治(zhi)陰(yin)謀(mou)，將(jiang)奧(ao)巴(ba)馬(ma)與(yu)斯(si)大(da)林(lin)和(he)希(xi)特(te)勒(le)相(xiang)提(ti)並(bing)論(lun)，並(bing)以(yi)幫(bang)助(zhu)尼(ni)日(ri)利(li)亞(ya)公(gong)主(zhu)為(wei)名(ming)招(zhao)搖(yao)撞(zhuang)騙(pian)的(de)人(ren)以(yi)網(wang)絡(luo)為(wei)麵(mian)具(ju)無(wu)處(chu)不(bu)在(zai)。那(na)麼(me)具(ju)有(you)人(ren)工(gong)智(zhi)能(neng)機(ji)器(qi)是(shi)否(fou)會(hui)抓(zhua)住(zhu)這(zhe)一(yi)軟(ruan)肋(lei)，不(bu)懷(huai)好(hao)意(yi)地(di)會(hui)為(wei)人(ren)類(lei)的(de)欲(yu)望(wang)
，貪(tan)婪(lan)和(he)憎(zeng)恨(hen)鋪(pu)平(ping)一(yi)條(tiao)不(bu)歸(gui)路(lu)呢(ne)？其(qi)實(shi)更(geng)值(zhi)得(de)擔(dan)心(xin)的(de)並(bing)非(fei)智(zhi)能(neng)機(ji)器(qi)，而(er)是(shi)人(ren)類(lei)本(ben)身(shen)。

　　智能機器將對人類不屑一顧？

　　有樂觀的人工智能專家大膽設想：智zhi能neng機ji器qi人ren實shi際ji上shang是shi人ren類lei演yan化hua的de後hou代dai，它ta們men從cong我wo們men人ren類lei中zhong成cheng長chang，學xue習xi我wo們men的de技ji能neng，與yu我wo們men擁yong有you共gong同tong的de價jia值zhi標biao準zhun，可ke以yi看kan成cheng是shi我wo們men人ren類lei思si維wei的de後hou代dai。

　　然ran而er對dui人ren工gong智zhi能neng懷huai有you敵di意yi與yu排pai斥chi的de人ren則ze認ren為wei接jie受shou人ren工gong智zhi能neng將jiang比bi人ren類lei強qiang大da的de事shi實shi不bu會hui揭jie開kai長chang久jiu以yi來lai未wei解jie的de哲zhe學xue問wen題ti
，如ru人ren生sheng意yi義yi及ji虛xu無wu主zhu義yi。或huo者zhe
，如ru果guo有you一yi天tian機ji器qi當dang真zhen發fa達da到dao如ru此ci地di步bu，也ye許xu他ta們men對dui人ren類lei根gen本ben不bu屑xie一yi顧gu呢ne？1. 奇點來臨，無人接招？

　　最後
，Anna Salamon告訴我，“奇點”的影響力將波及到世界上每一個人。然而我卻不甚認同這一觀點。

　　去qu年nian
，一yi名ming飛fei行xing員yuan在zai亞ya馬ma遜xun流liu域yu發fa現xian了le一yi個ge從cong未wei與yu外wai界jie有you過guo接jie觸chu的de新xin部bu落luo。在zai南nan美mei洲zhou，亞ya洲zhou和he非fei洲zhou的de一yi些xie地di區qu，人ren們men的de生sheng活huo如ru同tong這zhe一yi新xin部bu落luo的de民min眾zhong般ban，別bie說shuo30年了，甚至300年nian以yi來lai都dou未wei曾zeng有you過guo任ren何he變bian化hua。因yin此ci，當dang紐niu約yue曼man哈ha頓dun西xi區qu富fu可ke敵di國guo的de貴gui族zu以yi投tou入ru硬ying幣bi來lai操cao控kong一yi個ge高gao端duan智zhi能neng機ji器qi人ren時shi，生sheng活huo在zai其qi他ta區qu域yu
，尤you其qi是shi落luo後hou地di區qu的de人ren們men是shi無wu法fa蒙meng受shou這zhe一yi科ke技ji恩en惠hui的de。實shi際ji上shang，他ta們men也ye根gen本ben不bu在zai乎hu何he謂wei“奇點”。

　　如果“奇點”影ying響xiang範fan圍wei隻zhi是shi小xiao眾zhong，而er更geng為wei眾zhong多duo的de人ren類lei無wu法fa支zhi付fu這zhe一yi服fu務wu，甚shen至zhi從cong未wei聽ting聞wen或huo根gen本ben不bu屑xie一yi顧gu，那na麼me奇qi點dian峰feng會hui所suo探tan討tao的de機ji器qi人ren反fan超chao並bing主zhu宰zai人ren類lei的de假jia設she，是shi否fou僅jin僅jin是shi紙zhi上shang談tan兵bing呢ne?亦或，“奇點”帶來的隻是對貧富差距
，南北差異的深化
？筆者再次重申，更值得擔心的並非智能機器
，而是人類本身。