編者語：當人工智能機器達到一定的智能水平（即在某天突然達到一種稱作“奇點”的狀態）之後，它們將會“失去控製”，以yi我wo們men無wu法fa想xiang象xiang的de速su度du自zi行xing進jin化hua
，以yi至zhi於yu遠yuan遠yuan地di並bing且qie非fei常chang迅xun速su地di把ba我wo們men拋pao在zai後hou麵mian。這zhe並bing非fei科ke幻huan片pian中zhong才cai有you的de場chang景jing

，而er是shi人ren工gong智zhi能neng專zhuan家jia們men在zai嚴yan肅su探tan討tao的de話hua題ti。

　　當人工智能機器達到一定的智能水平（即在某天突然達到一種稱作“奇點”的狀態）之後，它們將會“失去控製”
，以yi我wo們men無wu法fa想xiang象xiang的de速su度du自zi行xing進jin化hua
，以yi至zhi於yu遠yuan遠yuan地di並bing且qie非fei常chang迅xun速su地di把ba我wo們men拋pao在zai後hou麵mian。這zhe並bing非fei科ke幻huan片pian中zhong才cai有you的de場chang景jing，而er是shi人ren工gong智zhi能neng專zhuan家jia們men在zai嚴yan肅su探tan討tao的de話hua題ti。由於人工智能方麵令人吃驚的進展，一些計算機科學家正在爭論是否應該對某些研究設限
，以防這些研究可能導致人類失去對計算機體係的控製。科學家認為
，正如宇宙學上存在著一個讓所有物理定律都失效的“奇點”(Singularity)一樣，信息技術也正朝著“超人類智能”的奇點邁進。

　　以人工智能和人類未來為主題的2009奇點峰會(Singularity Summit)就重點探討了機器超越人類智慧的“奇點”(Singularity)終將到來的時代。

　　在奇點峰會中筆者受益量多
，但該峰會最大的裨益乃其尚未解決的問題。筆者將總結關於“奇點”理論的十大為解難題，與讀者共同探討有關人類智力與機器人智力的哲學道德之爭議。

　　“奇點”理論：著名未來學家雷·庫茲韋爾的“奇點”理論指出在“奇點”lailinzhishi，jiqijiangketongguorengongzhinengjinxingziwowanshan，chaoguorenleibenshen
，kaiqiyigexindeshidai。yixiepipingzheduieyiderengongzhinengtichulezhiyi
，danyuelaiyueduodezhuliujigoukaishijieshoukuziweierdekanfa。

　　智力與意識是否僅僅局限於我們所認識並認可的範圍？

　　在談話中，“奇點”理論之父著名未來學家雷·庫茲韋爾將“智力”定義為“預測能力”，這(zhe)一(yi)能(neng)力(li)是(shi)從(cong)我(wo)們(men)的(de)祖(zu)先(xian)尚(shang)在(zai)大(da)草(cao)原(yuan)中(zhong)以(yi)狩(shou)獵(lie)為(wei)生(sheng)時(shi)，需(xu)判(pan)定(ding)其(qi)狩(shou)獵(lie)對(dui)象(xiang)下(xia)一(yi)步(bu)將(jiang)移(yi)動(dong)至(zhi)何(he)處(chu)以(yi)便(bian)更(geng)有(you)效(xiao)率(lv)地(di)捕(bu)獲(huo)獵(lie)物(wu)這(zhe)一(yi)經(jing)驗(yan)中(zhong)進(jin)化(hua)並(bing)遺(yi)傳(chuan)下(xia)來(lai)的(de)。如(ru)將(jiang)“智力”的概念定義於此，那麼顯然電腦在這方麵遠遠要比人類高明（電腦可預報天氣
，經濟動態等）。

　　當然，人類的預測能力也有機器所無法涉及的領域
，比如判定女友喜歡那種花這種事隻有人類才可加以估計和推測。

　　假jia如ru這zhe個ge世shi界jie尚shang有you我wo們men所suo未wei曾zeng認ren識shi到dao的de智zhi力li類lei型xing，那na麼me如ru果guo機ji器qi通tong過guo人ren工gong智zhi能neng進jin行xing自zi我wo完wan善shan並bing發fa展zhan出chu一yi種zhong新xin型xing的de智zhi力li
，我wo們men又you怎zen能neng意yi識shi得de到dao呢ne

？假jia設she真zhen有you其qi他ta類lei型xing的de智zhi力li存cun在zai於yu這zhe個ge世shi界jie，那na麼me如ru果guo機ji器qi發fa展zhan出chu一yi種zhong新xin型xing的de意yi識shi

，我wo們men又you怎zen麼me對dui其qi進jin行xing鑒jian別bie和he認ren識shi？

　　人工智能是否會將人類滅絕？

　　在峰會上
，很多人都擔心人類終有一天會斷絕在人工智能之手。但這些杞人憂天的偏執狂卻無一人可解釋電腦程序將如何殺死人類。

　　還有人擔心，人類是否會失去對機器的控製
，使得人工智能機器破解並進入核彈係統，而後隨意發射核武器？

　　人工智能會在意自己失聰，耳聾，或失明

？

　　世界首台電腦誕生時，閃入它腦中的第一個念頭絕不是“天哪！我居然沒有眼睛！看不到這個世界！”一個並無實體依存於一台機器才能運行的所謂“智能”的最大缺陷即嚴重缺乏感官。毫無疑問，人類可被激怒
，倘若這個世界上出現了第一台被激怒的人工智能，那麼這將意味著什麼呢
？

　　期待機器有感情的那一天嗎？

　　rengongzhinenghuijusangma？haowuyiwen，diyitairengongzhinengjiqihuigandaowubigudan。jianglaidangdiyilijuyouyishidejiqihengkongchushishi，renleibuhuixiangyaozhezhongkansirenxinghuafuwushizezhangworenleishehuijingjigongjuhewuqizhuangzhidepengyou。

　　人工智能模擬大腦，亦或人類大腦本就以電腦方式運作
？

　　Jurgen Schmidhuber是一位人工智能研究所的科學家。他指出人類大腦處理信息的方式與zip解壓縮文件如出一轍
，我們區別無趣與有趣的基準是衡量這個事物包含多少可被我們深刻加工並壓縮的新鮮信息含量。

　　Jurgen Schmidhuber揭jie示shi了le大da腦nao是shi如ru何he通tong過guo擴kuo展zhan個ge人ren體ti驗yan而er處chu理li信xin息xi。這zhe使shi我wo們men不bu禁jin好hao奇qi，難nan道dao我wo們men的de大da腦nao的de運yun作zuo已yi經jing趨qu向xiang於yu電dian腦nao方fang式shi了le
？人ren類lei大da腦nao是shi以yi處chu理li不bu同tong的de軟ruan件jian而er造zao就jiu人ren們men不bu同tong的de個ge性xing的de嗎ma

？這zhe是shi否fou意yi味wei著zhe“奇點”時代不是以人工智能超越人類的方式到來
，而是伴隨著人類意識到大腦實為電腦運行方式這一事實到來的呢

？

[page_break]

　　“禁忌”程序可戰勝自由意誌？

　　在zai關guan於yu如ru何he避bi免mian人ren類lei被bei智zhi能neng機ji器qi所suo統tong治zhi的de討tao論lun當dang中zhong，許xu多duo發fa言yan人ren都dou強qiang調tiao了le向xiang智zhi能neng機ji器qi人ren灌guan輸shu人ren類lei道dao德de倫lun理li的de重zhong要yao性xing。也ye有you人ren提ti出chu為wei何he不bu直zhi接jie編bian輯ji杜du絕jue機ji器qi人ren屠tu殺sha人ren類lei的de程cheng序xu。但dan是shi，一yi旦dan“奇點”到來，機器有了自己的自由意誌
，他們當然可以選擇不去遵守這些程序。人類本身不就是在建立規則與不斷犯規中發展的嗎？

　　弗洛伊德也適用於人工智能？

　　如(ru)果(guo)人(ren)工(gong)智(zhi)能(neng)果(guo)真(zhen)發(fa)展(zhan)出(chu)自(zi)由(you)意(yi)誌(zhi)與(yu)智(zhi)力(li)，那(na)麼(me)他(ta)們(men)的(de)大(da)腦(nao)也(ye)和(he)人(ren)類(lei)大(da)腦(nao)一(yi)樣(yang)複(fu)雜(za)嗎(ma)

？他(ta)們(men)也(ye)會(hui)有(you)無(wu)法(fa)理(li)解(jie)，控(kong)製(zhi)和(he)涉(she)及(ji)的(de)領(ling)域(yu)嗎(ma)？如(ru)果(guo)弗(fu)洛(luo)伊(yi)德(de)的(de)自(zi)我(wo)
，本(ben)我(wo)和(he)超(chao)我(wo)乃(nai)生(sheng)物(wu)與(yu)感(gan)知(zhi)的(de)結(jie)果(guo)
，那(na)麼(me)人(ren)工(gong)智(zhi)能(neng)也(ye)會(hui)有(you)宗(zong)教(jiao)信(xin)仰(yang)和(he)心(xin)理(li)問(wen)題(ti)嗎(ma)？如(ru)果(guo)人(ren)工(gong)智(zhi)能(neng)將(jiang)人(ren)類(lei)奉(feng)為(wei)神(shen)明(ming)，或(huo)者(zhe)造(zao)物(wu)主(zhu)，那(na)麼(me)會(hui)導(dao)致(zhi)他(ta)們(men)對(dui)人(ren)類(lei)產(chan)生(sheng)俄(e)狄(di)浦(pu)斯(si)情(qing)結(jie)嗎(ma)？如(ru)果(guo)是(shi)這(zhe)樣(yang)，那(na)麼(me)他(ta)們(men)對(dui)人(ren)類(lei)的(de)殺(sha)戮(lu)就(jiu)有(you)理(li)可(ke)循(xun)了(le)，畢(bi)竟(jing)俄(e)狄(di)浦(pu)斯(si)終(zhong)歸(gui)沒(mei)有(you)逃(tao)出(chu)殺(sha)父(fu)娶(qu)母(mu)的(de)命(ming)運(yun)。

　　人工智能會真誠地協助人類克服劣根性
？

　　meigewangmindouzhidao，wangluoshikaikuoyanjiehuoquxinxidezhongyaogongju，tongshiyeshiyigesiyisanbobuliangxinxidepingtai。naxieguchuiquanqiubiannuanshiyigezhengzhiyinmou
，jiangaobamayusidalinhexitelexiangtibinglun
，bingyibangzhuniriliyagongzhuweimingzhaoyaozhuangpianderenyiwangluoweimianjuwuchubuzai。namejuyourengongzhinengjiqishifouhuizhuazhuzheyiruanlei
，buhuaihaoyidihuiweirenleideyuwang，tanlanhezenghenpupingyitiaobuguilune？qishigengzhidedanxindebingfeizhinengjiqi
，ershirenleibenshen。

　　智能機器將對人類不屑一顧？

　　有樂觀的人工智能專家大膽設想：智(zhi)能(neng)機(ji)器(qi)人(ren)實(shi)際(ji)上(shang)是(shi)人(ren)類(lei)演(yan)化(hua)的(de)後(hou)代(dai)，它(ta)們(men)從(cong)我(wo)們(men)人(ren)類(lei)中(zhong)成(cheng)長(chang)，學(xue)習(xi)我(wo)們(men)的(de)技(ji)能(neng)，與(yu)我(wo)們(men)擁(yong)有(you)共(gong)同(tong)的(de)價(jia)值(zhi)標(biao)準(zhun)，可(ke)以(yi)看(kan)成(cheng)是(shi)我(wo)們(men)人(ren)類(lei)思(si)維(wei)的(de)後(hou)代(dai)。

　　然ran而er對dui人ren工gong智zhi能neng懷huai有you敵di意yi與yu排pai斥chi的de人ren則ze認ren為wei接jie受shou人ren工gong智zhi能neng將jiang比bi人ren類lei強qiang大da的de事shi實shi不bu會hui揭jie開kai長chang久jiu以yi來lai未wei解jie的de哲zhe學xue問wen題ti，如ru人ren生sheng意yi義yi及ji虛xu無wu主zhu義yi。或huo者zhe，如ru果guo有you一yi天tian機ji器qi當dang真zhen發fa達da到dao如ru此ci地di步bu
，也ye許xu他ta們men對dui人ren類lei根gen本ben不bu屑xie一yi顧gu呢ne？1. 奇點來臨，無人接招

？

　　最後，Anna Salamon告訴我，“奇點”的影響力將波及到世界上每一個人。然而我卻不甚認同這一觀點。

　　去(qu)年(nian)，一(yi)名(ming)飛(fei)行(xing)員(yuan)在(zai)亞(ya)馬(ma)遜(xun)流(liu)域(yu)發(fa)現(xian)了(le)一(yi)個(ge)從(cong)未(wei)與(yu)外(wai)界(jie)有(you)過(guo)接(jie)觸(chu)的(de)新(xin)部(bu)落(luo)。在(zai)南(nan)美(mei)洲(zhou)
，亞(ya)洲(zhou)和(he)非(fei)洲(zhou)的(de)一(yi)些(xie)地(di)區(qu)
，人(ren)們(men)的(de)生(sheng)活(huo)如(ru)同(tong)這(zhe)一(yi)新(xin)部(bu)落(luo)的(de)民(min)眾(zhong)般(ban)，別(bie)說(shuo)30年了
，甚至300年(nian)以(yi)來(lai)都(dou)未(wei)曾(zeng)有(you)過(guo)任(ren)何(he)變(bian)化(hua)。因(yin)此(ci)，當(dang)紐(niu)約(yue)曼(man)哈(ha)頓(dun)西(xi)區(qu)富(fu)可(ke)敵(di)國(guo)的(de)貴(gui)族(zu)以(yi)投(tou)入(ru)硬(ying)幣(bi)來(lai)操(cao)控(kong)一(yi)個(ge)高(gao)端(duan)智(zhi)能(neng)機(ji)器(qi)人(ren)時(shi)，生(sheng)活(huo)在(zai)其(qi)他(ta)區(qu)域(yu)，尤(you)其(qi)是(shi)落(luo)後(hou)地(di)區(qu)的(de)人(ren)們(men)是(shi)無(wu)法(fa)蒙(meng)受(shou)這(zhe)一(yi)科(ke)技(ji)恩(en)惠(hui)的(de)。實(shi)際(ji)上(shang)，他(ta)們(men)也(ye)根(gen)本(ben)不(bu)在(zai)乎(hu)何(he)謂(wei)“奇點”。

　　如果“奇點”影ying響xiang範fan圍wei隻zhi是shi小xiao眾zhong，而er更geng為wei眾zhong多duo的de人ren類lei無wu法fa支zhi付fu這zhe一yi服fu務wu
，甚shen至zhi從cong未wei聽ting聞wen或huo根gen本ben不bu屑xie一yi顧gu
，那na麼me奇qi點dian峰feng會hui所suo探tan討tao的de機ji器qi人ren反fan超chao並bing主zhu宰zai人ren類lei的de假jia設she，是shi否fou僅jin僅jin是shi紙zhi上shang談tan兵bing呢ne?亦或，“奇點”帶來的隻是對貧富差距，南北差異的深化
？筆者再次重申，更值得擔心的並非智能機器，而是人類本身。