近日，在達特茅斯塞耶工程學院畢業季的活動上

，OpenAI CTO米拉·穆拉蒂（Mira Murati）與前亞馬遜高管
、現達特茅斯學院受托人的傑弗裏·布萊克本（Jeff Blackburn）開展了一場深度訪談。

訪談中
，穆拉蒂分享了她加入OpenAI的原因、ChatGPT和Dall-E工作原理，還就AI發展過程中持續存在的安全和倫理問題,以及AI對未來可能產生的深遠影響,例如教育
、工作等，提出了自己的見解。

她在訪談中還透露，隻需一年半時間，AI就可以在某些領域達到博士的智能。根據她的說法
，GPT-3的智能相當於幼兒，GPT-4相當於聰明的高中生，而下一代模型（這或許指的就是GPT-5）
，將在一年半後發布，並達到博士水平。

在安全性和能力方麵，她認為

，它們是相輔相成的，聰明的模型才能理解我們給它設定的護欄。與此同時，穆拉蒂表示
，“完全沒有風險” 是不可能的，尤其是對於像 AI 這樣的技術。工程的角度上來看，AI能力的提升並不會降低模型的安全性。OpenAI對模型的安全性負有很大責任，但要實現風險的有效管控，社會和政府的參與也是必不可少的。

穆拉蒂表示

，未來的 AI 係統將能夠連接到互聯網，相互交流，並與人類協作。

在談及AI對工作或業務的影響時
，穆拉蒂認為它將 “影響一切”
，她相信幾乎所有領域都將受到影響


，尤其是 “一些創意工作”
，但她也認為這些工作 “本來就不應該存在”。她表示，下一代 AI 將降低 “創造力” 的門檻，使其不再局限於隻有 “有才華的人”
，AI 將使每個人都更具創造力。因此，一些原本隻限於少數有創造力的人的工作將被 AI 接管。

以下為訪談完整編譯

我是Alexis Abramson,達特茅斯大學Thayer工程學院院長。我很榮幸歡迎大家參加這個非常特別的活動——與Mira Murati的對話。她是我們人工智能領域最傑出的領導者之一,也是達特茅斯工程學院的校友。

在我們開始之前,我想特別歡迎一位特殊的嘉賓,Joy Buolamwini。她在人工智能、人工智能倫理和算法正義方麵的工作也享有盛名。她明天將獲得達特茅斯大學的榮譽學位。同時,也熱烈歡迎Mira和所有現在是她家人或她在達特茅斯時的家人,包括她的兄弟Ernel Murati,他也是2016屆學院的校友。

感謝我們在Neukom計算科學研究所和計算機科學係的合作夥伴。從1956年達特茅斯舉辦的第一次開創性人工智能會議,到我們目前在大型語言模型和精準健康方麵的多學科研究,達特茅斯一直處於人工智能創新的前沿。因此,我們特別高興今天能邀請到Mira,她是OpenAI的首席技術官,也是我們工程學院2012屆的畢業生。她因在一些當今最受關注的人工智能技術上的開創性工作而聞名。在OpenAI,她帶頭開發了像ChatGPT和Dall-E這樣的變革性模型,為未來的生成式人工智能技術奠定了新的基礎。

在Thayer學院學習期間,她將自己的工程技能應用於達特茅斯方程式賽車隊,設計並製造混合動力賽車。明天的畢業典禮上,她將獲得達特茅斯大學授予的榮譽理學博士學位。

最後,今天主持我們對話的是Jeff Blackburn,他是達特茅斯1991屆畢業生,現任達特茅斯大學董事會成員。Jeff的職業生涯一直專注於全球數字媒體和技術的發展。他曾在2023年前擔任亞馬遜全球媒體和娛樂高級副總裁,並在公司擔任過多個領導職務。他對技術、媒體和娛樂交叉領域的洞察必將確保我們今天有一場引人入勝的對話。那麼,不再多說,我現在把對話交給他們。請大家和我一起歡迎Mira Murati和Jeff Blackburn。

傑弗裏·布萊克本：謝謝你，Alexis。這棟漂亮的建築真是太美了。

米拉·穆拉蒂：很高興來到這裏。

傑弗裏·布萊克本：Mira，非常感謝你來到這裏並抽出時間。我能想象你現在的日子有多忙。

米拉·穆拉蒂：很高興來到這裏。

傑弗裏·布萊克本：你為大家抽出時間真是太好了。

米拉·穆拉蒂：我真的很高興能在這裏。

加入OpenAI原因

傑弗裏·布萊克本：我想直接切入正題，因為我知道大家都想聽聽你的生活和你正在構建的東西
，這真是太迷人了。也許我們應該從你開始說起，你離開Thayer，去了Tesla一段時間，然後加入了OpenAI。如果你能描述一下那段時期以及你早期加入OpenAI的情況就好了。

米拉·穆拉蒂：是的，所以我… 在Thayer畢業之後，我實際上在航空航天領域短暫工作了一段時間
，然後我意識到航空航天領域進展比較慢，而我對Tesla的使命非常感興趣，當然還有在構建一個可持續未來的交通工具方麵的創新挑戰，我決定加入他們。在Model S和Model X的開發過程中，我意識到我不太想成為一個汽車領域的人，我更想在推進社會進步的同時，迎接一些艱巨的工程挑戰。在Tesla期(qi)間(jian)，我(wo)對(dui)自(zi)動(dong)駕(jia)駛(shi)汽(qi)車(che)和(he)這(zhe)些(xie)技(ji)術(shu)的(de)交(jiao)叉(cha)點(dian)非(fei)常(chang)感(gan)興(xing)趣(qu)，比(bi)如(ru)計(ji)算(suan)機(ji)視(shi)覺(jiao)和(he)人(ren)工(gong)智(zhi)能(neng)，將(jiang)它(ta)們(men)應(ying)用(yong)於(yu)自(zi)動(dong)駕(jia)駛(shi)汽(qi)車(che)。我(wo)想(xiang)，好(hao)吧(ba)
，我(wo)想(xiang)了(le)解(jie)更(geng)多(duo)關(guan)於(yu)人(ren)工(gong)智(zhi)能(neng)的(de)知(zhi)識(shi)，但(dan)在(zai)不(bu)同(tong)的(de)領(ling)域(yu)。所(suo)以(yi)我(wo)加(jia)入(ru)了(le)一(yi)家(jia)初(chu)創(chuang)公(gong)司(si)，領(ling)導(dao)工(gong)程(cheng)和(he)產(chan)品(pin)團(tuan)隊(dui)，將(jiang)人(ren)工(gong)智(zhi)能(neng)和(he)計(ji)算(suan)機(ji)視(shi)覺(jiao)應(ying)用(yong)於(yu)空(kong)間(jian)計(ji)算(suan)領(ling)域(yu)
，思(si)考(kao)下(xia)一(yi)代(dai)計(ji)算(suan)界(jie)麵(mian)。當(dang)時(shi)我(wo)認(ren)為(wei)這(zhe)將(jiang)是(shi)虛(xu)擬(ni)現(xian)實(shi)和(he)增(zeng)強(qiang)現(xian)實(shi)。現(xian)在(zai)我(wo)認(ren)為(wei)有(you)點(dian)不(bu)同(tong)了(le)
，但(dan)我(wo)當(dang)時(shi)想(xiang)，如(ru)果(guo)你(ni)可(ke)以(yi)用(yong)手(shou)與(yu)非(fei)常(chang)複(fu)雜(za)的(de)信(xin)息(xi)互(hu)動(dong)，無(wu)論(lun)是(shi)公(gong)式(shi)、分fen子zi還hai是shi拓tuo撲pu學xue的de概gai念nian，你ni可ke以yi以yi一yi種zhong更geng直zhi觀guan的de方fang式shi學xue習xi這zhe些xie東dong西xi

，這zhe會hui擴kuo展zhan你ni的de學xue習xi能neng力li。結jie果guo虛xu擬ni現xian實shi當dang時shi有you點dian太tai早zao了le。但dan這zhe讓rang我wo在zai不bu同tong的de領ling域yu學xue習xi了le人ren工gong智zhi能neng
，並bing且qie我wo的de職zhi業ye生sheng涯ya一yi直zhi處chu於yu技ji術shu和he各ge種zhong應ying用yong的de交jiao彙hui點dian，這zhe給gei了le我wo一yi個ge不bu同tong的de視shi角jiao

，看kan到dao了le人ren工gong智zhi能neng的de發fa展zhan進jin程cheng以yi及ji它ta可ke以yi應ying用yong的de領ling域yu。

傑弗裏·布萊克本：所以在Tesla的自動駕駛領域，你看到了機器學習、深度學習。你能看到它的發展方向。

米拉·穆拉蒂：是的，但我並沒有看得很清楚。

傑弗裏·布萊克本：你和Elon合作過嗎？

米拉·穆拉蒂：shide
，youqishizuihouyinian。dandangshihaibutaiqingchutadefangxiang。nashihou
，rengongzhinengrengranshiyingyongyufeichangxiazhaidetedingwenti，erbushiyibanxingdeyingyong。tazaixunixianshihezengqiangxianshizhongdeqingkuangyeshiruci。congnashiqi，woxiangwobuxiangjinjinjiangqiyingyongyutedingwenti。woxianglejieyanjiu
，zhenzhenglijiezhengzaifashengdeshiqing，ranhouzaijiangqiyingyongyuqitalingyu。suoyizheshiwojiaruleOpenAI
，OpenAIdeshimingduiwofeichangyouxiyinli。nashitashiyigefeiyinglizuzhi，shimingmeiyougaibian，jiegougaibianle

，danwoliunianqianjiarushi
，tashiyigezhizaigoujiananquandetongyongrengongzhinengdefeiyinglizuzhi，chuleDeepMind之外，這是唯一一家這樣做的公司。現在當然有很多公司在構建某種版本的通用人工智能。

傑弗裏·布萊克本：是的，一些公司。

米拉·穆拉蒂：是的，這就是我加入OpenAI的開始。

ChatGPT和Dall-E工作原理

傑弗裏·布萊克本：明白了。自從你在那兒，你們已經構建了很多東西。也許我們可以為大家簡單介紹一下機器學習、深度學習和現在的人工智能基礎知識。這些都是相關的，但有所不同。那麼，這其中發生了什麼，它是如何在ChatGPT、Dall-E或你們的視頻產品中體現出來的？它是如何工作的
？

米拉·穆拉蒂：zhebushiyigegenbenxingdechuangxin。mouzhongyiyishang，womenshizaijishinianderenleinulijichushanggoujiande。shijishang，tadeqiyuanjiuzaizheli。zaiguoqushinianzhongfashengdeshiqingshizhesanzhedejiehe：神經網絡
、daliangshujuhedaliangjisuanziyuan。zhesanzhejiehezaiyiqi
，nihuidedaozhexiezhenzhengbiangexingderengongzhinengxitonghuomoxing，jieguotamennenggouzuozhexiejingrendeshiqing，biruwanchengyibanrenwu，danjutiruheyunzuobingbuwanquanqingchu。shenduxuexijiushiyouxiao。dangran，womenshitulijiebingyingyonggongjuheyanjiulailijiezhexiexitongdeshijigongzuoyuanli，danwomenzhidaotamenshiyouxiaode，yinweiguoqujinianwomenyijingzheyangzuole。womenhaikandaolejinbudeguijiyijixitongruhesuizheshijiandetuiyibiandegenghao。dangnikanxiangGPT-3這樣的係統時，我們大約三年半前部署了大型語言模型。GPT-3的目標隻是預測下一個標記。

傑弗裏·布萊克本：它實際上是下一個詞的預測。

米拉·穆拉蒂：是的
，基本上是這樣。

傑弗裏·布萊克本：ng。ranhouwomenfaxian，ruguonigeizhegemoxingyigemubiao，rangtayucexiayigebiaoji，bingqieniyongdaliangshujuxunlianta

，tongshishiyongdaliangjisuanziyuan，nidedaodeqishishiyigenenggoulijieyuyandemoxing，chengduyuwomenxiangsi。

米拉·穆拉蒂：因為它讀了很多書，它讀了所有的書。它似乎知道什麼是最重要的

傑弗裏·布萊克本：基本上是所有互聯網上的內容。

米拉·穆拉蒂：tazhidaoxiayigeciyinggaishishenme。dantabingbushizaijiyixiayigecishishenme，tashijishangshizaishengchengtazijiduiyijianshujumoshidelijie。ranhouwomenfaxian，bujinjinshiyuyan
，shijishang，ruguonibabutongleixingdeshujufangjinqu，birudaima，tayenengbianxiedaima。suoyishijishang，tabuzaihunifangjinqudeshishenmeleixingdeshuju。takeyishituxiang，keyishishipin，keyishishengyin，tadounengzuotongyangdeshiqing。

傑弗裏·布萊克本：哦，我們會談到圖像的。是的，（Jeff笑）但確實
，文本提示可以生成圖像或視頻
，現在你甚至可以看到相反的情況。

米拉·穆拉蒂：是的，正是如此。所以我們發現這個公式實際上效果很好
，數據

、計算資源和深度學習，然後你可以放入不同類型的數據，增加計算資源，AI係xi統tong的de性xing能neng就jiu會hui越yue來lai越yue好hao。這zhe就jiu是shi我wo們men所suo說shuo的de擴kuo展zhan定ding律lv。它ta們men並bing不bu是shi實shi際ji的de法fa律lv，基ji本ben上shang是shi對dui模mo型xing能neng力li隨sui著zhe你ni投tou入ru更geng多duo數shu據ju和he計ji算suan資zi源yuan而er提ti高gao的de統tong計ji預yu測ce。這zhe就jiu是shi推tui動dong今jin天tian人ren工gong智zhi能neng進jin步bu的de動dong力li。

為什麼選擇聊天機器人作為第一款產品
？

傑弗裏·布萊克本：你們為什麼從聊天機器人開始
？

米拉·穆拉蒂：：是的
，在產品方麵
，實際上我們是從API開始的。我們並不真的知道如何將GPT-3商業化。將AI技ji術shu商shang業ye化hua實shi際ji上shang非fei常chang非fei常chang困kun難nan。最zui初chu，我wo們men對dui此ci掉diao以yi輕qing心xin，非fei常chang專zhuan注zhu於yu構gou建jian技ji術shu和he進jin行xing研yan究jiu。我wo們men認ren為wei
，這zhe是shi一yi個ge了le不bu起qi的de模mo型xing，商shang業ye合he作zuo夥huo伴ban可ke以yi拿na去qu構gou建jian出chu色se的de產chan品pin。然ran後hou我wo們men發fa現xian
，這zhe實shi際ji上shang非fei常chang難nan。所suo以yi這zhe就jiu是shi為wei什shen麼me我wo們men開kai始shi自zi己ji動dong手shou做zuo，我wo們men驗yan證zheng一yi下xia我wo們men自zi己ji的de想xiang法fa

傑弗裏·布萊克本：那讓你們構建了一個聊天機器人
，因為你們隻是想驗證自己想法

米拉·穆拉蒂：是的
，因為我們試圖弄清楚，為什麼這些真正成功的公司實際上很難將這項技術轉化為有用的產品。

傑弗裏·布萊克本：我明白了。

米拉·穆拉蒂：因yin為wei這zhe是shi一yi種zhong非fei常chang奇qi怪guai的de產chan品pin構gou建jian方fang式shi。你ni從cong能neng力li開kai始shi，你ni從cong技ji術shu開kai始shi
，而er不bu是shi從cong我wo要yao解jie決jue的de世shi界jie問wen題ti開kai始shi。它ta是shi一yi種zhong非fei常chang通tong用yong的de能neng力li。

傑弗裏·布萊克本：這很快就引出了你剛才描述的內容，也就是更多的數據
、gengduodejisuanziyuanhegengduodezhineng。zhegezhinenghuibiandeduocongming

？tingqilainidemiaoshushizhegekuozhanguochengxiangdangxianxing
，nitianjiagengduodeyuansu，tajiubiandegengcongming。zaiguoqujinianli，ChatGPT變得更聰明了嗎

，它離人類水平的智能還有多遠？

米拉·穆拉蒂：是的，這些係統在特定任務上已經達到了人類水平
，當然在很多任務上還沒有。如果你看一下改進的軌跡

，像GPT-3這樣的係統，我們也許可以說它有著幼兒級別的智能。而GPT-4這樣的係統更像是聰明的高中生智能。在接下來的幾年裏
，我們期待在特定任務上達到博士水平的智能。

傑弗裏·布萊克本：比如
？

米拉·穆拉蒂：所以事情在迅速變化和改進。

傑弗裏·布萊克本：意思是大約一年後
？

米拉·穆拉蒂：是的，大約一年半。

傑弗裏·布萊克本：你和ChatGPT對話時，它看起來比你更聰明。

米拉·穆拉蒂：在某些方麵，是的。在很多方麵，是的。

傑弗裏·布萊克本：也許離那不遠了。

米拉·穆拉蒂：是的

，可能吧。

傑弗裏·布萊克本：很接近。

OpeanAI安全方麵的工作

傑弗裏·布萊克本：大(da)致(zhi)如(ru)此(ci)。嗯(ng)，這(zhe)確(que)實(shi)引(yin)出(chu)了(le)其(qi)他(ta)問(wen)題(ti)
，我(wo)知(zhi)道(dao)你(ni)對(dui)這(zhe)些(xie)問(wen)題(ti)非(fei)常(chang)直(zhi)言(yan)不(bu)諱(hui)，我(wo)很(hen)高(gao)興(xing)並(bing)為(wei)你(ni)感(gan)到(dao)驕(jiao)傲(ao)
，你(ni)在(zai)安(an)全(quan)方(fang)麵(mian)做(zuo)了(le)很(hen)多(duo)工(gong)作(zuo)，但(dan)人(ren)們(men)確(que)實(shi)想(xiang)聽(ting)聽(ting)你(ni)的(de)看(kan)法(fa)。那(na)麼(me)，三(san)年(nian)後(hou)，當(dang)它(ta)變(bian)得(de)難(nan)以(yi)置(zhi)信(xin)的(de)智(zhi)能(neng)時(shi)怎(zen)麼(me)辦(ban)？它(ta)能(neng)通(tong)過(guo)所(suo)有(you)的(de)律(lv)師(shi)資(zi)格(ge)考(kao)試(shi)和(he)我(wo)們(men)做(zuo)過(guo)的(de)每(mei)一(yi)項(xiang)測(ce)試(shi)。然(ran)後(hou)它(ta)決(jue)定(ding)自(zi)己(ji)連(lian)接(jie)到(dao)互(hu)聯(lian)網(wang)並(bing)開(kai)始(shi)做(zuo)事(shi)。這(zhe)是(shi)真(zhen)的(de)嗎(ma)
，這(zhe)是(shi)…還是你作為CTO和產品方向負責人在考慮的事情？

米拉·穆拉蒂：是的，我們對此考慮很多。這絕對是現實，你會有具備代理能力的AI係統，連接到互聯網
，互相交流，代理彼此連接並一起執行任務
，或者代理與人類合作並無縫協作。所以與AI的合作就像我們今天彼此合作一樣。在安全、安(an)保(bao)和(he)社(she)會(hui)影(ying)響(xiang)方(fang)麵(mian)，我(wo)認(ren)為(wei)這(zhe)些(xie)問(wen)題(ti)不(bu)是(shi)事(shi)後(hou)考(kao)慮(lv)的(de)。你(ni)不(bu)能(neng)隻(zhi)是(shi)開(kai)發(fa)技(ji)術(shu)，然(ran)後(hou)再(zai)想(xiang)辦(ban)法(fa)處(chu)理(li)這(zhe)些(xie)問(wen)題(ti)。你(ni)必(bi)須(xu)在(zai)技(ji)術(shu)開(kai)發(fa)過(guo)程(cheng)中(zhong)嵌(qian)入(ru)這(zhe)些(xie)問(wen)題(ti)
，並(bing)以(yi)一(yi)種(zhong)深(shen)度(du)嵌(qian)入(ru)的(de)方(fang)式(shi)來(lai)做(zuo)到(dao)這(zhe)一(yi)點(dian)。對(dui)於(yu)能(neng)力(li)和(he)安(an)全(quan)，它(ta)們(men)實(shi)際(ji)上(shang)不(bu)是(shi)分(fen)開(kai)的(de)領(ling)域(yu)。它(ta)們(men)是(shi)相(xiang)輔(fu)相(xiang)成(cheng)的(de)。指(zhi)導(dao)一(yi)個(ge)更(geng)智(zhi)能(neng)的(de)係(xi)統(tong)要(yao)容(rong)易(yi)得(de)多(duo)，隻(zhi)需(xu)告(gao)訴(su)它(ta)，不(bu)要(yao)做(zuo)這(zhe)些(xie)事(shi)情(qing)，而(er)不(bu)是(shi)指(zhi)導(dao)一(yi)個(ge)不(bu)太(tai)智(zhi)能(neng)的(de)係(xi)統(tong)。這(zhe)有(you)點(dian)像(xiang)訓(xun)練(lian)一(yi)隻(zhi)更(geng)聰(cong)明(ming)的(de)狗(gou)和(he)一(yi)隻(zhi)不(bu)太(tai)聰(cong)明(ming)的(de)狗(gou)一(yi)樣(yang)，智(zhi)能(neng)和(he)安(an)全(quan)是(shi)相(xiang)輔(fu)相(xiang)成(cheng)的(de)。

傑弗裏·布萊克本：因為它更聰明，所以它更理解護欄。

米拉·穆拉蒂：是(shi)的(de)
，正(zheng)是(shi)如(ru)此(ci)。所(suo)以(yi)現(xian)在(zai)有(you)一(yi)個(ge)關(guan)於(yu)更(geng)多(duo)安(an)全(quan)研(yan)究(jiu)還(hai)是(shi)更(geng)多(duo)能(neng)力(li)研(yan)究(jiu)的(de)辯(bian)論(lun)。我(wo)認(ren)為(wei)這(zhe)是(shi)有(you)點(dian)誤(wu)導(dao)的(de)，因(yin)為(wei)你(ni)當(dang)然(ran)需(xu)要(yao)考(kao)慮(lv)產(chan)品(pin)部(bu)署(shu)的(de)安(an)全(quan)性(xing)及(ji)其(qi)護(hu)欄(lan)。但(dan)在(zai)研(yan)究(jiu)和(he)開(kai)發(fa)方(fang)麵(mian)，它(ta)們(men)實(shi)際(ji)上(shang)是(shi)相(xiang)輔(fu)相(xiang)成(cheng)的(de)。從(cong)我(wo)們(men)的(de)角(jiao)度(du)來(lai)看(kan)，我(wo)們(men)的(de)方(fang)法(fa)是(shi)非(fei)常(chang)科(ke)學(xue)的(de)。讓(rang)我(wo)們(men)試(shi)著(zhe)預(yu)測(ce)這(zhe)些(xie)模(mo)型(xing)在(zai)訓(xun)練(lian)完(wan)成(cheng)之(zhi)前(qian)的(de)能(neng)力(li)。然(ran)後(hou)在(zai)此(ci)過(guo)程(cheng)中(zhong)，準(zhun)備(bei)好(hao)如(ru)何(he)處(chu)理(li)它(ta)們(men)的(de)護(hu)欄(lan)。這(zhe)在(zai)行(xing)業(ye)中(zhong)還(hai)沒(mei)有(you)真(zhen)正(zheng)做(zuo)到(dao)。我(wo)們(men)訓(xun)練(lian)這(zhe)些(xie)模(mo)型(xing)
，然(ran)後(hou)會(hui)出(chu)現(xian)我(wo)們(men)稱(cheng)之(zhi)為(wei)的(de)“突現能力”，因為它們是突現的。我們不知道它們會出現。我們可以看到某種統計性能，但我們不知道這種統計性能是否意味著模型在翻譯
、生物化學、編程或其他方麵表現更好。開發這種新的能力預測科學有助於我們為未來做好準備。

傑弗裏·布萊克本：你說所有這些安全工作，實際上與開發過程一致。

米拉·穆拉蒂：是的，沒錯。

傑弗裏·布萊克本：這是類似的路徑。

米拉·穆拉蒂：是，所以你必須同時進行。

傑弗裏·布萊克本：但是，像Volodymyr Zelensky說“我們投降”的視頻，Tom Hanks的de視shi頻pin，或huo者zhe一yi個ge牙ya醫yi廣guang告gao，這zhe些xie問wen題ti呢ne？我wo不bu記ji得de具ju體ti是shi什shen麼me。這zhe些xie類lei型xing的de使shi用yong場chang景jing如ru何he處chu理li？這zhe是shi在zai你ni的de職zhi責ze範fan圍wei內nei，還hai是shi需xu要yao相xiang應ying的de法fa規gui
？你ni怎zen麼me看kan待dai這zhe個ge問wen題ti的de解jie決jue？

米拉·穆拉蒂：是的
，所以我的看法是

，這是我們的技術。所以我們有責任確保其使用
，但這也是與社會、民間社會
、政府
、內容創作者、媒(mei)體(ti)等(deng)共(gong)享(xiang)的(de)責(ze)任(ren)，以(yi)弄(nong)清(qing)楚(chu)如(ru)何(he)使(shi)用(yong)它(ta)。但(dan)為(wei)了(le)使(shi)其(qi)成(cheng)為(wei)共(gong)同(tong)的(de)責(ze)任(ren)，你(ni)需(xu)要(yao)讓(rang)人(ren)們(men)參(can)與(yu)進(jin)來(lai)，給(gei)他(ta)們(men)提(ti)供(gong)工(gong)具(ju)，讓(rang)他(ta)們(men)理(li)解(jie)並(bing)提(ti)供(gong)護(hu)欄(lan)。

傑弗裏·布萊克本：這些東西很難阻止，對吧？

如何將AI風險降到最低

米拉·穆拉蒂：我wo認ren為wei不bu可ke能neng做zuo到dao零ling風feng險xian
，但dan關guan鍵jian是shi如ru何he將jiang風feng險xian降jiang到dao最zui低di，並bing為wei人ren們men提ti供gong工gong具ju來lai實shi現xian這zhe一yi點dian。以yi政zheng府fu為wei例li，非fei常chang重zhong要yao的de是shi讓rang他ta們men參can與yu進jin來lai
，給gei他ta們men提ti供gong早zao期qi訪fang問wen
，教jiao育yu他ta們men了le解jie正zheng在zai發fa生sheng的de事shi情qing。

傑弗裏·布萊克本：政府。

米拉·穆拉蒂：當然，還有監管機構。我認為ChatGPT最重要的貢獻之一是將AIyinrugongzhongyishi，rangrenmenduijishudenenglihefengxianyouyigezhiguandelijie。dudaozhexieyuqinshentiyanshibutongde，dangnizaizijideyewuzhongchangshitashi
，nihuikandaotabunengzuozhexieshiqing，dantanengzuoqitajingrendeshiqing
，zheshijishangduilaodonglihuowodeyewuyiweizheshenme。zherangrenmenzuohaozhunbei。

傑弗裏·布萊克本：是的

，這是一個很好的觀點。你們創建的這些界麵
，像ChatGPT，rangrenmenlejiejijiangdaolaidebianhua。nikeyishiyongta，xianzaikeyikandaoqibeihoudeneirong。guanyuzhengfudeguandian，woxiangzaiwenyixia。jiunameiguolaishuo
，nixiwangxianzaijiushishimouxiefaguima？zaiyiliangnianhou，tahuibiandefeichangzhineng


，youdianxiaren。namexianzaiyinggaizuoxieshenmene
？

米拉·穆拉蒂：我(wo)們(men)一(yi)直(zhi)在(zai)倡(chang)導(dao)對(dui)前(qian)沿(yan)模(mo)型(xing)進(jin)行(xing)更(geng)多(duo)監(jian)管(guan)，這(zhe)些(xie)模(mo)型(xing)有(you)驚(jing)人(ren)的(de)能(neng)力(li)，也(ye)因(yin)為(wei)誤(wu)用(yong)而(er)有(you)潛(qian)在(zai)的(de)負(fu)麵(mian)影(ying)響(xiang)。我(wo)們(men)一(yi)直(zhi)與(yu)政(zheng)策(ce)製(zhi)定(ding)者(zhe)公(gong)開(kai)討(tao)論(lun)，並(bing)與(yu)監(jian)管(guan)機(ji)構(gou)合(he)作(zuo)。在(zai)更(geng)短(duan)期(qi)和(he)較(jiao)小(xiao)的(de)模(mo)型(xing)方(fang)麵(mian)
，我(wo)認(ren)為(wei)允(yun)許(xu)生(sheng)態(tai)係(xi)統(tong)中(zhong)的(de)廣(guang)泛(fan)性(xing)和(he)豐(feng)富(fu)性(xing)是(shi)好(hao)的(de)，不(bu)要(yao)讓(rang)那(na)些(xie)沒(mei)有(you)太(tai)多(duo)計(ji)算(suan)資(zi)源(yuan)或(huo)數(shu)據(ju)的(de)人(ren)無(wu)法(fa)創(chuang)新(xin)。因(yin)此(ci)
，我(wo)們(men)一(yi)直(zhi)在(zai)倡(chang)導(dao)對(dui)前(qian)沿(yan)係(xi)統(tong)進(jin)行(xing)更(geng)多(duo)監(jian)管(guan)，因(yin)為(wei)這(zhe)些(xie)係(xi)統(tong)的(de)風(feng)險(xian)更(geng)高(gao)。而(er)且(qie)你(ni)可(ke)以(yi)在(zai)變(bian)化(hua)發(fa)生(sheng)之(zhi)前(qian)預(yu)先(xian)準(zhun)備(bei)
，而(er)不(bu)是(shi)試(shi)圖(tu)跟(gen)上(shang)已(yi)經(jing)迅(xun)速(su)發(fa)生(sheng)的(de)變(bian)化(hua)。

傑弗裏·布萊克本：但你可能不希望華盛頓特區來監管你發布GPT-5的時間，比如你能否這樣做。

米拉·穆拉蒂：這實際上取決於具體的監管。所以我們已經做了很多工作，這些工作現在已經在白宮的承諾中得到體現。

傑弗裏·布萊克本：所以已經在進行了。

米拉·穆拉蒂：工作已經在進行了。它實際上也影響了白宮的承諾以及聯合國委員會在AI部bu署shu原yuan則ze方fang麵mian的de工gong作zuo。通tong常chang，我wo認ren為wei正zheng確que的de做zuo法fa是shi先xian進jin行xing工gong作zuo，理li解jie其qi實shi際ji意yi義yi
，然ran後hou基ji於yu此ci創chuang建jian法fa規gui。這zhe是shi目mu前qian的de做zuo法fa。要yao提ti前qian應ying對dui前qian沿yan係xi統tong，需xu要yao做zuo更geng多duo的de預yu測ce和he能neng力li預yu測ce科ke學xue，以yi便bian製zhi定ding正zheng確que的de監jian管guan措cuo施shi。

傑弗裏·布萊克本：我希望政府有能夠理解你們在做什麼的人。

米拉·穆拉蒂：看起來越來越多的人加入政府

，他們對AI有更好的理解，但還不夠。

AI對各個行業的影響

傑弗裏·布萊克本：在行業方麵
，你可能是世界上最能看到AI如何影響各個行業的人。它已經在金融、內容、媒體和醫療保健中產生了影響。但展望未來，你認為哪些行業會受到AI和OpenAI工作的最大影響？

米拉·穆拉蒂：這有點類似於我們開始基於GPT-3構建產品時，企業家們問我的問題
，“我可以用它做什麼？它擅長什麼？”我(wo)的(de)回(hui)答(da)是(shi)
，一(yi)切(qie)。所(suo)以(yi)去(qu)嚐(chang)試(shi)吧(ba)。我(wo)認(ren)為(wei)這(zhe)有(you)點(dian)類(lei)似(si)
，我(wo)認(ren)為(wei)它(ta)會(hui)影(ying)響(xiang)所(suo)有(you)領(ling)域(yu)
，沒(mei)有(you)哪(na)個(ge)領(ling)域(yu)不(bu)會(hui)受(shou)到(dao)影(ying)響(xiang)，無(wu)論(lun)是(shi)認(ren)知(zhi)工(gong)作(zuo)還(hai)是(shi)認(ren)知(zhi)勞(lao)動(dong)。也(ye)許(xu)進(jin)入(ru)物(wu)理(li)世(shi)界(jie)會(hui)花(hua)更(geng)長(chang)時(shi)間(jian)，但(dan)我(wo)認(ren)為(wei)所(suo)有(you)領(ling)域(yu)都(dou)會(hui)受(shou)到(dao)影(ying)響(xiang)。我(wo)們(men)已(yi)經(jing)看(kan)到(dao)…我(wo)認(ren)為(wei)在(zai)高(gao)風(feng)險(xian)領(ling)域(yu)，如(ru)醫(yi)療(liao)保(bao)健(jian)或(huo)法(fa)律(lv)領(ling)域(yu)，有(you)一(yi)定(ding)的(de)滯(zhi)後(hou)。這(zhe)是(shi)有(you)道(dao)理(li)的(de)。首(shou)先(xian)


，你(ni)要(yao)在(zai)低(di)風(feng)險(xian)和(he)中(zhong)等(deng)風(feng)險(xian)的(de)用(yong)例(li)中(zhong)引(yin)入(ru)它(ta)，確(que)保(bao)這(zhe)些(xie)領(ling)域(yu)的(de)使(shi)用(yong)得(de)到(dao)了(le)充(chong)分(fen)的(de)處(chu)理(li)，然(ran)後(hou)再(zai)應(ying)用(yong)於(yu)高(gao)風(feng)險(xian)的(de)事(shi)情(qing)。最(zui)初(chu)
，需(xu)要(yao)更(geng)多(duo)的(de)人(ren)類(lei)監(jian)督(du)，然(ran)後(hou)可(ke)以(yi)逐(zhu)漸(jian)改(gai)變(bian)授(shou)權(quan)
，逐(zhu)步(bu)進(jin)行(xing)更(geng)為(wei)協(xie)作(zuo)的(de)應(ying)用(yong)。

傑弗裏·布萊克本：有沒有你個人喜歡的、看到的或者即將看到的用例？

米拉·穆拉蒂：是的，我認為基本上你嚐試做的任何事情的第一部分，無論是創建新設計、編寫代碼、寫文章、寫電子郵件或基本上任何事情，第一部分變得非常容易。這是我最喜歡的用法。目前我真的用它來寫各種類型文稿。

傑弗裏·布萊克本：所有事情的初稿。

米拉·穆拉蒂：是(shi)的(de)，所(suo)有(you)事(shi)情(qing)的(de)初(chu)稿(gao)。它(ta)快(kuai)得(de)多(duo)。它(ta)降(jiang)低(di)了(le)做(zuo)某(mou)事(shi)的(de)門(men)檻(kan)
，你(ni)可(ke)以(yi)專(zhuan)注(zhu)於(yu)更(geng)具(ju)創(chuang)意(yi)和(he)更(geng)困(kun)難(nan)的(de)部(bu)分(fen)，尤(you)其(qi)是(shi)在(zai)編(bian)程(cheng)方(fang)麵(mian)。你(ni)可(ke)以(yi)將(jiang)很(hen)多(duo)繁(fan)瑣(suo)的(de)工(gong)作(zuo)外(wai)包(bao)出(chu)去(qu)。

傑弗裏·布萊克本：文檔和類似的東西。

米拉·穆拉蒂：是的，文檔和其他類似文件 但(dan)在(zai)工(gong)業(ye)界(jie)，我(wo)們(men)看(kan)到(dao)了(le)很(hen)多(duo)應(ying)用(yong)。客(ke)戶(hu)服(fu)務(wu)絕(jue)對(dui)是(shi)一(yi)個(ge)重(zhong)要(yao)的(de)應(ying)用(yong)，使(shi)用(yong)聊(liao)天(tian)機(ji)器(qi)人(ren)，寫(xie)作(zuo)和(he)分(fen)析(xi)也(ye)是(shi)，因(yin)為(wei)現(xian)在(zai)我(wo)們(men)已(yi)經(jing)將(jiang)很(hen)多(duo)工(gong)具(ju)連(lian)接(jie)到(dao)核(he)心(xin)模(mo)型(xing)上(shang)，這(zhe)使(shi)得(de)這(zhe)些(xie)模(mo)型(xing)更(geng)加(jia)可(ke)用(yong)和(he)高(gao)效(xiao)。所(suo)以(yi)你(ni)有(you)像(xiang)代(dai)碼(ma)分(fen)析(xi)這(zhe)樣(yang)的(de)工(gong)具(ju)。它(ta)實(shi)際(ji)上(shang)可(ke)以(yi)分(fen)析(xi)大(da)量(liang)數(shu)據(ju)。你(ni)可(ke)以(yi)將(jiang)各(ge)種(zhong)數(shu)據(ju)放(fang)進(jin)去(qu)，它(ta)可(ke)以(yi)幫(bang)助(zhu)你(ni)分(fen)析(xi)和(he)過(guo)濾(lv)數(shu)據(ju)，或(huo)者(zhe)你(ni)可(ke)以(yi)使(shi)用(yong)圖(tu)像(xiang)和(he)瀏(liu)覽(lan)工(gong)具(ju)。所(suo)以(yi)如(ru)果(guo)你(ni)在(zai)準(zhun)備(bei)一(yi)篇(pian)論(lun)文(wen)，研(yan)究(jiu)工(gong)作(zuo)可(ke)以(yi)更(geng)快(kuai)且(qie)更(geng)嚴(yan)格(ge)地(di)完(wan)成(cheng)。所(suo)以(yi)我(wo)認(ren)為(wei)這(zhe)是(shi)生(sheng)產(chan)力(li)的(de)下(xia)一(yi)層(ceng)，將(jiang)這(zhe)些(xie)工(gong)具(ju)添(tian)加(jia)到(dao)核(he)心(xin)模(mo)型(xing)中(zhong)，並(bing)使(shi)其(qi)非(fei)常(chang)無(wu)縫(feng)。模(mo)型(xing)決(jue)定(ding)何(he)時(shi)使(shi)用(yong)分(fen)析(xi)工(gong)具(ju)、搜索或其他東西。

傑弗裏·布萊克本：編寫程序。是的
，是的。有趣。它看過每部電視劇和電影嗎，它會開始編寫劇本和製作電影嗎？

米拉·穆拉蒂：它(ta)是(shi)一(yi)個(ge)工(gong)具(ju)。因(yin)此(ci)，它(ta)當(dang)然(ran)可(ke)以(yi)作(zuo)為(wei)工(gong)具(ju)做(zuo)到(dao)這(zhe)一(yi)點(dian)
，我(wo)預(yu)計(ji)我(wo)們(men)實(shi)際(ji)上(shang)會(hui)與(yu)它(ta)合(he)作(zuo)，這(zhe)將(jiang)擴(kuo)展(zhan)我(wo)們(men)的(de)創(chuang)造(zao)力(li)。如(ru)果(guo)你(ni)現(xian)在(zai)考(kao)慮(lv)人(ren)類(lei)如(ru)何(he)看(kan)待(dai)創(chuang)造(zao)力(li)，我(wo)們(men)認(ren)為(wei)這(zhe)是(shi)一(yi)個(ge)隻(zhi)有(you)少(shao)數(shu)有(you)才(cai)華(hua)的(de)人(ren)才(cai)能(neng)接(jie)觸(chu)到(dao)的(de)非(fei)常(chang)特(te)殊(shu)的(de)東(dong)西(xi)。而(er)這(zhe)些(xie)工(gong)具(ju)實(shi)際(ji)上(shang)降(jiang)低(di)了(le)任(ren)何(he)人(ren)認(ren)為(wei)自(zi)己(ji)有(you)創(chuang)造(zao)力(li)並(bing)擴(kuo)展(zhan)他(ta)們(men)創(chuang)造(zao)力(li)的(de)門(men)檻(kan)。所(suo)以(yi)從(cong)這(zhe)個(ge)意(yi)義(yi)上(shang)說(shuo)，我(wo)認(ren)為(wei)它(ta)實(shi)際(ji)上(shang)會(hui)非(fei)常(chang)不(bu)可(ke)思(si)議(yi)。

傑弗裏·布萊克本：是的，可以很容易地給我200種不同的懸念
，作為第一集的結尾。

米拉·穆拉蒂：是的。你可以延續這個故事
，故事永遠不會結束。你可以繼續。我寫完了，但可以繼續。

傑弗裏·布萊克本：這很有趣。

米拉·穆拉蒂：但我認為它真的會成為一個協作工具
，尤其是在創意領域。

傑弗裏·布萊克本：我也是這樣認為的。

米拉·穆拉蒂：是的，更多的人會變得更有創造力。

傑弗裏·布萊克本：現在有些恐懼。

米拉·穆拉蒂：是的，當然。

傑弗裏·布萊克本：但你說這會改變，人類會發現如何使工作的創意部分變得更好
？

米拉·穆拉蒂：我(wo)認(ren)為(wei)是(shi)的(de)，有(you)些(xie)創(chuang)意(yi)工(gong)作(zuo)可(ke)能(neng)會(hui)消(xiao)失(shi)
，但(dan)如(ru)果(guo)產(chan)生(sheng)的(de)內(nei)容(rong)質(zhi)量(liang)不(bu)高(gao)，也(ye)許(xu)它(ta)們(men)本(ben)不(bu)應(ying)該(gai)存(cun)在(zai)。但(dan)我(wo)真(zhen)的(de)相(xiang)信(xin)
，將(jiang)其(qi)用(yong)作(zuo)教(jiao)育(yu)和(he)創(chuang)造(zao)力(li)的(de)工(gong)具(ju)，將(jiang)擴(kuo)展(zhan)我(wo)們(men)的(de)智(zhi)力(li)、創造力和想象力。

傑弗裏·布萊克本：當時人們認為CGI等會破壞電影業。他們非常害怕。我認為這是更大的一件事
，但任何類似的新事物
，立即的反應都會是“哦天哪，這是…”
，danwoxiwangnizaidianyinghedianshifangmianshiduide。haode
，nitidaolegongzuofangmiandewenti，zanqiebutihaolaiwudeshi
，youhenduorendanxintamendegongzuochuyufengxianzhong。niduiAI對工作的影響有什麼看法
，不僅僅是你在OpenAI所做的工作
，而是整體上。人們應該真的擔心這個嗎，哪些工作會受到影響，你怎麼看待這一切
？

米拉·穆拉蒂：是的
，事實是我們還不完全理解AIduigongzuodeyingxiang。diyibushibangzhurenmenlejiezhexiexitongdenengli
，lejietamennengzuoshenme，jiangtamenzhenghedaotamendegongzuoliuchengzhong
，ranhoukaishiyuceheyuceyingxiang。worenweirenmenmeiyouyishidaozhexiegongjuyijingzaishiyongle，erqiewanquanmeiyoujinxingyanjiu。suoyiwomenyinggaiyanjiuxianzaigongzuodexingzhi、jiaoyudexingzhi，zhejiangbangzhuwomenweizhexiezengqiangdenenglizuozhunbei。zaijutidegongzuofangmian，wobushijingjixuejia

，danwoqueshiyujiandaohenduogongzuohuifashengbianhua，yixiegongzuohuixiaoshi，yixiegongzuohuichuxian。womenbuqueqiezhidaotahuishishenmeyangzi，dannikeyixiangxianghenduozhongfuxingdegongzuo，naxiejinjinshiyangezhongfuxingdegongzuo，renmenmeiyoujinyibufazhande
，naxiegongzuojianghuibeiqudai。

AI對就業機會的影響

傑弗裏·布萊克本：你認為其他地方會創造足夠的就業機會來彌補這一點嗎？

米拉·穆拉蒂：我認為會創造很多工作，但到底會創造多少
、改變多少
、失(shi)去(qu)多(duo)少(shao)工(gong)作(zuo)，我(wo)不(bu)知(zhi)道(dao)。我(wo)認(ren)為(wei)沒(mei)人(ren)真(zhen)的(de)知(zhi)道(dao)
，因(yin)為(wei)這(zhe)還(hai)沒(mei)有(you)被(bei)嚴(yan)格(ge)研(yan)究(jiu)，但(dan)確(que)實(shi)應(ying)該(gai)被(bei)研(yan)究(jiu)。我(wo)認(ren)為(wei)經(jing)濟(ji)會(hui)轉(zhuan)型(xing)
，這(zhe)些(xie)工(gong)具(ju)會(hui)創(chuang)造(zao)很(hen)多(duo)價(jia)值(zhi)。所(suo)以(yi)問(wen)題(ti)是(shi)，我(wo)們(men)如(ru)何(he)利(li)用(yong)這(zhe)些(xie)價(jia)值(zhi)？如(ru)果(guo)工(gong)作(zuo)的(de)性(xing)質(zhi)真(zhen)的(de)改(gai)變(bian)了(le)
，那(na)麼(me)我(wo)們(men)如(ru)何(he)將(jiang)這(zhe)種(zhong)經(jing)濟(ji)價(jia)值(zhi)分(fen)配(pei)到(dao)社(she)會(hui)中(zhong)？是(shi)通(tong)過(guo)公(gong)共(gong)福(fu)利(li)
？是(shi)通(tong)過(guo)基(ji)本(ben)收(shou)入(ru)？還(hai)是(shi)通(tong)過(guo)其(qi)他(ta)新(xin)的(de)係(xi)統(tong)
？有(you)很(hen)多(duo)問(wen)題(ti)需(xu)要(yao)探(tan)索(suo)和(he)解(jie)決(jue)。

傑弗裏·布萊克本：高等教育在你描述的工作中有很大的作用。這還沒有完全實現。

米拉·穆拉蒂：是的。

未來AI在教育中扮演的角色

傑弗裏·布萊克本：高等教育和AI的未來還有什麼
？你認為高等教育在你所看到的發展中的角色是什麼？

米拉·穆拉蒂：我認為真正需要弄清楚的是如何使用這些工具和AI來推進教育。因為我認為AIzuiqiangdadeyingyongzhiyijianghuizaijiaoyufangmian，tuijinwomendechuangzaolihezhishi。womenyoujihuijianlichaojigaozhiliangqiefeichangrongyihuodedejiaoyu，lixiangqingkuangxiashimianfeitigonggeishijieshangrenheren，wulunshirenheyuyanhuowenhuaxiweichabie。nizhendekeyiweishijieshangrenherentigongdingzhidelijiehejiaoyu。dangran

，zaixiangdatemaosizheyangdejigou，ketangjiaoxiao
，nihuiyouhenduoguanzhu，danjibianruci
，nirengrankeyixiangxiangyouyiduiyidefudao，bujinzaizheli，gengbuyongshuozaishijieqitadifangle。

傑弗裏·布萊克本：補充。

米拉·穆拉蒂：是(shi)的(de)。因(yin)為(wei)我(wo)們(men)沒(mei)有(you)花(hua)足(zu)夠(gou)的(de)時(shi)間(jian)學(xue)習(xi)如(ru)何(he)學(xue)習(xi)。這(zhe)種(zhong)事(shi)情(qing)發(fa)生(sheng)得(de)很(hen)晚(wan)，可(ke)能(neng)在(zai)大(da)學(xue)。這(zhe)是(shi)一(yi)個(ge)基(ji)本(ben)的(de)事(shi)情(qing)，如(ru)何(he)學(xue)習(xi)，否(fou)則(ze)你(ni)會(hui)浪(lang)費(fei)很(hen)多(duo)時(shi)間(jian)。課(ke)程(cheng)
、教材、問題集，一切都可以根據你的實際學習方式進行定製。

傑弗裏·布萊克本：你認為在像達特茅斯這樣的地方

，它可以補充一些正在發生的學習嗎？

米拉·穆拉蒂：哦

，絕對是的。

觀眾提問環節

傑弗裏·布萊克本：隻要有AI作為導師等等。我們可以開放提問嗎？你願意接受觀眾提問嗎
？可以嗎
？

米拉·穆拉蒂：很高興。

傑弗裏·布萊克本：好的。我們為什麼不這樣做呢。Dave，你想開始嗎？

Dave: 當然，如果你不介意的話。達特茅斯的第一位計算機科學家之一John Kemeny曾經講過一個關於每個由人類構建的計算機程序都嵌入了人類價值觀的講座，無論是有意還是無意的。我想知道的是，你認為GPT產品中嵌入了哪些人類價值觀

，或者換句話說，我們應該如何將尊重
、公平、公正、誠實、正直等價值觀嵌入到這些工具中
？

米拉·穆拉蒂：這(zhe)是(shi)一(yi)個(ge)很(hen)好(hao)的(de)問(wen)題(ti)

，也(ye)很(hen)難(nan)
，這(zhe)是(shi)我(wo)們(men)多(duo)年(nian)來(lai)一(yi)直(zhi)在(zai)思(si)考(kao)的(de)事(shi)情(qing)。所(suo)以(yi)現(xian)在(zai)
，如(ru)果(guo)你(ni)看(kan)看(kan)這(zhe)些(xie)係(xi)統(tong)，很(hen)多(duo)價(jia)值(zhi)觀(guan)是(shi)通(tong)過(guo)數(shu)據(ju)輸(shu)入(ru)的(de)
，而(er)這(zhe)些(xie)數(shu)據(ju)來(lai)自(zi)互(hu)聯(lian)網(wang)、許可數據
、以(yi)及(ji)由(you)人(ren)類(lei)合(he)同(tong)工(gong)標(biao)記(ji)的(de)某(mou)些(xie)問(wen)題(ti)或(huo)問(wen)題(ti)。每(mei)一(yi)個(ge)輸(shu)入(ru)都(dou)有(you)特(te)定(ding)的(de)價(jia)值(zhi)觀(guan)
，這(zhe)些(xie)是(shi)他(ta)們(men)價(jia)值(zhi)觀(guan)的(de)集(ji)合(he)，這(zhe)很(hen)重(zhong)要(yao)。當(dang)你(ni)實(shi)際(ji)將(jiang)這(zhe)些(xie)產(chan)品(pin)投(tou)入(ru)使(shi)用(yong)時(shi)，我(wo)認(ren)為(wei)你(ni)有(you)機(ji)會(hui)通(tong)過(guo)讓(rang)更(geng)多(duo)的(de)人(ren)使(shi)用(yong)它(ta)來(lai)獲(huo)得(de)更(geng)廣(guang)泛(fan)的(de)價(jia)值(zhi)觀(guan)集(ji)合(he)。所(suo)以(yi)現(xian)在(zai)，ChatGPT有一個免費的版本，最強大的係統，由全球超過1億人使用。這些人中的每一個都可以為ChatGPT提(ti)供(gong)反(fan)饋(kui)。如(ru)果(guo)他(ta)們(men)允(yun)許(xu)我(wo)們(men)使(shi)用(yong)這(zhe)些(xie)數(shu)據(ju)，我(wo)們(men)將(jiang)用(yong)它(ta)來(lai)創(chuang)建(jian)一(yi)個(ge)價(jia)值(zhi)觀(guan)的(de)集(ji)合(he)，使(shi)係(xi)統(tong)更(geng)好(hao)
，更(geng)符(fu)合(he)人(ren)們(men)的(de)期(qi)望(wang)。但(dan)這(zhe)隻(zhi)是(shi)默(mo)認(ren)係(xi)統(tong)。你(ni)還(hai)需(xu)要(yao)在(zai)其(qi)上(shang)麵(mian)建(jian)立(li)一(yi)個(ge)自(zi)定(ding)義(yi)層(ceng)
，每(mei)個(ge)社(she)區(qu)都(dou)可(ke)以(yi)有(you)自(zi)己(ji)的(de)價(jia)值(zhi)觀(guan)，比(bi)如(ru)學(xue)校(xiao)、教堂
、國guo家jia
，甚shen至zhi是shi州zhou。他ta們men可ke以yi在zai這zhe個ge具ju有you基ji本ben人ren類lei價jia值zhi觀guan的de默mo認ren係xi統tong之zhi上shang
，提ti供gong更geng具ju體ti和he精jing確que的de價jia值zhi觀guan。我wo們men也ye在zai研yan究jiu如ru何he實shi現xian這zhe一yi點dian。但dan這zhe顯xian然ran是shi一yi個ge非fei常chang困kun難nan的de問wen題ti，因yin為wei人ren類lei之zhi間jian有you分fen歧qi，還hai有you技ji術shu問wen題ti。在zai技ji術shu問wen題ti上shang，我wo認ren為wei我wo們men已yi經jing取qu得de了le很hen多duo進jin展zhan。我wo們men有you像xiang強qiang化hua學xue習xi與yu人ren類lei反fan饋kui這zhe樣yang的de方fang法fa，給gei人ren們men提ti供gong機ji會hui將jiang他ta們men的de價jia值zhi觀guan輸shu入ru係xi統tong。

我們剛剛開發了一個稱為Spec的東西

，它提供了係統價值觀的透明度。我們正在建立一種反饋機製，收集如何改進Spec的輸入和數據。你可以把它看作是AI係(xi)統(tong)的(de)憲(xian)法(fa)，但(dan)它(ta)是(shi)一(yi)個(ge)不(bu)斷(duan)發(fa)展(zhan)的(de)憲(xian)法(fa)。它(ta)隨(sui)著(zhe)時(shi)間(jian)的(de)推(tui)移(yi)變(bian)得(de)更(geng)加(jia)精(jing)確(que)
，因(yin)為(wei)我(wo)們(men)的(de)價(jia)值(zhi)觀(guan)也(ye)在(zai)不(bu)斷(duan)發(fa)展(zhan)。這(zhe)是(shi)我(wo)們(men)在(zai)大(da)量(liang)工(gong)作(zuo)的(de)事(shi)情(qing)。我(wo)認(ren)為(wei)現(xian)在(zai)我(wo)們(men)關(guan)注(zhu)的(de)是(shi)基(ji)本(ben)價(jia)值(zhi)觀(guan)。但(dan)隨(sui)著(zhe)係(xi)統(tong)變(bian)得(de)越(yue)來(lai)越(yue)複(fu)雜(za)，我(wo)們(men)將(jiang)不(bu)得(de)不(bu)考(kao)慮(lv)更(geng)精(jing)細(xi)的(de)價(jia)值(zhi)觀(guan)。

傑弗裏·布萊克本：你能防止AI生氣嗎？

米拉·穆拉蒂：生氣？

傑弗裏·布萊克本：是的。這是其中一個價值觀嗎？

米拉·穆拉蒂：這應該由你來決定。如果你作為用戶
，完全可以控製AI的情緒變化。

傑弗裏·布萊克本：哦，如果你想要一個生氣的聊天機器人，你可以擁有它。

米拉·穆拉蒂：是的，如果你想要一個生氣的聊天機器人
，你應該可以擁有一個生氣的聊天機器人。

傑弗裏·布萊克本：好的
，就在這裏。

Dr. Joy: 你好，謝謝。這裏是Dr. Joy。恭喜你獲得榮譽學位，並祝賀你在OpenAI所做的一切。我非常好奇你對創作權和生物特征權的看法。你之前提到可能有些創意工作不應該存在，許多創意人士正在思考關於同意
、peichangdewenti
，wulunshizhuanyoumoxinghaishikaiyuanmoxing
，qishujudoushiconghulianwangshanghuoqude。suoyiwofeichanghaoqiniduitongyihepeichangshejichuangzuoquandekanfa。jiranwomenzaidaxueli，nizhidaoduobufenwentidehuidama？lingyigewentishiguanyushengwutezhengquande
，suoyidangshejidaoshengyin、麵孔等問題時。最近關於Skydeshengyindezhengyi，yijiniyekeyiyouxiangsishengyinhexiangsimiankongderen
，yijizairucizhongyaodexuanjunianchuxiandesuoyouxujiaxinxiweixie，woyefeichanghaoqiniduishengwutezhengquanfangmiandekanfa。

米拉·穆拉蒂：好的，我從最後一部分開始… womenzaiyuyinjishufangmianzuoledaliangyanjiu，zhidaozuijincaifabutamen，zhengshiyinweitamendailailehenduofengxianhewenti。danzhongyaodeshiyaorangshehuicanyujinlai，yiyizhongkeyiyouhulanhekongzhifengxiandefangshitigongfangwen，bingrangqitarenyanjiuhezaizhexiewentishangqudejinzhan。liru
，womenzhengzaiyujigouhezuo
，bangzhuwomensikaozaiyoushengyinheshipindeqingkuangxia，renleiyuAI的互動，因為這些是非常情感激發的模態。我們需要開始理解這些事情會如何發展以及如何準備。在那種特定情況下，Sky的聲音不是Scarlett Johansson的
，也不打算是，它是一個完全平行的過程。我負責選擇聲音，而我們的CEO正在與Scarlett Johansson對話… 出於對她的尊重，我們將其撤下。有些人看到一些相似之處，這些是主觀的，我認為你可以… 是shi的de
，你ni可ke以yi製zhi定ding一yi些xie紅hong隊dui測ce試shi流liu程cheng，例li如ru
，如ru果guo聲sheng音yin被bei認ren為wei非fei常chang非fei常chang接jie近jin一yi個ge非fei常chang知zhi名ming的de公gong眾zhong聲sheng音yin，那na麼me也ye許xu你ni不bu會hui選xuan擇ze那na個ge特te定ding的de聲sheng音yin。

在(zai)我(wo)們(men)的(de)紅(hong)隊(dui)測(ce)試(shi)中(zhong)，這(zhe)沒(mei)有(you)出(chu)現(xian)，但(dan)這(zhe)就(jiu)是(shi)為(wei)什(shen)麼(me)重(zhong)要(yao)的(de)是(shi)也(ye)要(yao)有(you)更(geng)廣(guang)泛(fan)的(de)紅(hong)隊(dui)測(ce)試(shi)，以(yi)便(bian)在(zai)需(xu)要(yao)時(shi)及(ji)早(zao)捕(bu)捉(zhuo)這(zhe)些(xie)問(wen)題(ti)。但(dan)更(geng)廣(guang)泛(fan)地(di)說(shuo)，關(guan)於(yu)生(sheng)物(wu)特(te)征(zheng)的(de)問(wen)題(ti)，我(wo)認(ren)為(wei)我(wo)們(men)的(de)策(ce)略(lve)是(shi)最(zui)初(chu)給(gei)一(yi)些(xie)人(ren)，通(tong)常(chang)是(shi)專(zhuan)家(jia)或(huo)紅(hong)隊(dui)成(cheng)員(yuan)，提(ti)供(gong)訪(fang)問(wen)，幫(bang)助(zhu)我(wo)們(men)很(hen)好(hao)地(di)理(li)解(jie)風(feng)險(xian)和(he)能(neng)力(li)。然(ran)後(hou)我(wo)們(men)建(jian)立(li)緩(huan)解(jie)措(cuo)施(shi)，當(dang)我(wo)們(men)對(dui)這(zhe)些(xie)緩(huan)解(jie)措(cuo)施(shi)更(geng)有(you)信(xin)心(xin)時(shi)，逐(zhu)步(bu)向(xiang)更(geng)多(duo)人(ren)開(kai)放(fang)訪(fang)問(wen)。所(suo)以(yi)我(wo)們(men)不(bu)允(yun)許(xu)人(ren)們(men)使(shi)用(yong)這(zhe)項(xiang)技(ji)術(shu)製(zhi)作(zuo)自(zi)己(ji)的(de)聲(sheng)音(yin)，因(yin)為(wei)我(wo)們(men)還(hai)在(zai)研(yan)究(jiu)風(feng)險(xian)
，我(wo)們(men)不(bu)認(ren)為(wei)我(wo)們(men)能(neng)處(chu)理(li)該(gai)領(ling)域(yu)的(de)誤(wu)用(yong)。但(dan)我(wo)們(men)對(dui)處(chu)理(li)在(zai)一(yi)個(ge)小(xiao)範(fan)圍(wei)內(nei)的(de)非(fei)常(chang)具(ju)體(ti)的(de)聲(sheng)音(yin)的(de)誤(wu)用(yong)感(gan)覺(jiao)良(liang)好(hao)，這(zhe)本(ben)質(zhi)上(shang)是(shi)擴(kuo)展(zhan)的(de)紅(hong)隊(dui)測(ce)試(shi)。當(dang)我(wo)們(men)將(jiang)其(qi)擴(kuo)展(zhan)到(dao)一(yi)千(qian)用(yong)戶(hu)時(shi)，我(wo)們(men)的(de)Alpha發fa布bu
，我wo們men將jiang與yu用yong戶hu密mi切qie合he作zuo
，收shou集ji反fan饋kui並bing理li解jie邊bian緣yuan情qing況kuang，以yi便bian我wo們men在zai擴kuo展zhan使shi用yong到dao十shi萬wan人ren時shi為wei這zhe些xie邊bian緣yuan情qing況kuang做zuo好hao準zhun備bei。然ran後hou是shi百bai萬wan
，然ran後hou是shi億yi
，等deng等deng。但dan這zhe是shi在zai大da量liang控kong製zhi下xia進jin行xing的de，這zhe就jiu是shi我wo們men所suo謂wei的de迭die代dai部bu署shu。如ru果guo我wo們men不bu能neng對dui這zhe些xie用yong例li感gan到dao滿man意yi，那na麼me我wo們men將jiang不bu會hui在zai特te定ding用yong例li或huo擴kuo展zhan用yong戶hu中zhong發fa布bu它ta們men
，我wo們men可ke能neng會hui嚐chang試shi在zai某mou種zhong程cheng度du上shang削xue弱ruo產chan品pin，因yin為wei能neng力li和he風feng險xian是shi相xiang輔fu相xiang成cheng的de。但dan我wo們men也ye在zai進jin行xing大da量liang研yan究jiu，幫bang助zhu我wo們men處chu理li內nei容rong來lai源yuan和he內nei容rong真zhen實shi性xing的de問wen題ti，以yi便bian人ren們men有you工gong具ju來lai理li解jie某mou些xie東dong西xi是shi否fou是shi深shen度du偽wei造zao或huo傳chuan播bo虛xu假jia信xin息xi。

自從OpenAI成立以來，我們一直在研究虛假信息

，並建立了很多工具，如水印、內nei容rong政zheng策ce，允yun許xu我wo們men管guan理li虛xu假jia信xin息xi的de可ke能neng性xing，特te別bie是shi在zai今jin年nian是shi全quan球qiu選xuan舉ju年nian。我wo們men在zai這zhe方fang麵mian的de工gong作zuo更geng加jia密mi集ji。但dan這zhe是shi一yi個ge極ji具ju挑tiao戰zhan的de領ling域yu
，作zuo為wei技ji術shu和he產chan品pin的de製zhi造zao者zhe，我wo們men需xu要yao做zuo大da量liang工gong作zuo，同tong時shi與yu民min間jian社she會hui、媒體和內容創作者合作，以解決這些問題。當我們開發像音頻或Sora這樣的技術時，我們在紅隊成員之後首先與內容創作者合作

，以實際了解技術如何幫助他們以及如何構建既安全、有用且對社會有益的產品。這就是我們在Dall-E上所做的
，也是我們在SORA視頻生成模型上所做的。

米拉·穆拉蒂：你的第一個問題。

Dr. Joy: 創作權。

米拉·穆拉蒂：創作權。

Dr. Joy: 關於補償、同意、控製和信用。

米拉·穆拉蒂：shide，zheyefeichangzhongyaoqiejuyoutiaozhanxing。muqianwomenyumeitigongsijinxinglehenduohezuo，yegeiyurenmenhenduokongzhitamenshujuruhezaichanpinzhongshiyongdequanli。ruguotamenbuxiwangtamendeshujubeiyongyugaijinmoxinghuoyongyurenheyanjiuhuoxunlian



，zhewanquankeyi
，womenbuhuishiyongzhexieshuju。duiyuchuangzuozheshequ，womenzaoqijiutigongzhexiegongjudefangwenquanxian，zheyangwomenkeyishouxiantingqutamendeyijian，lejietamenxiwangruheshiyongzhexiegongju，binggoujianzuiyouyongdechanpin。erqiezhexiedoushiyanjiuchanwu，womenbubibuxiyiqiedaijiaqugoujianchanpin。zhiyoudangwomenzhaodaoyizhongzhenzhengyouzhuyutuidongrenleijinbudefangshishi
，womencaihuiquzuo。womenhaizaishiyanyixiefangfa，jibenshangchuangjianwomendegongju
，yunxurenmenyinweishujugongxianerhuodebuchang。zhezaijishufangmianhegoujianzheyangdechanpinfangmiandoufeichangjishou，yinweinibixunongqingchutedingshuliangdeshujuzaizhihouxunliandemoxingzhongchuangzaoleduoshaojiazhi。yexudangeshujudejiazhihennanhengliang，danruguoninengchuangjianyigeshujujuhehechidelianmeng，kenenghuigenghao。zaiguoqudeliangnianli，womenyizhizaishiyangezhongbanbendezhegegainian。womenhaimeiyoubushurenhedongxi，danwomenyizhizaijishufangmianjinxingshiyan，shituzhenzhenglijiejishuwenti。womenyijingqudeleyixiejinzhan
，danzhequeshishiyigefeichangkunnandewenti。

Dr. Joy: 我敢打賭會有很多新公司試圖為此構建解決方案。

米拉·穆拉蒂：是的
，還有其他公司。

Dr. Joy: 這太難了。

米拉·穆拉蒂：是的。

主持人: 非常感謝你抽出時間來和我們談話。我的問題很簡單。如果你今天重返學校，重新來到Thayer或Dartmouth，你會做什麼
，會不做什麼
？你會選擇什麼專業

，或者你會參與更多的事情嗎
？類似這樣的事情。

米拉·穆拉蒂：我想我會學同樣的東西
，但可能會少一些壓力。是的，我認為我仍然會學習數學和其他… yexuwohuiduoxuanyixiejisuanjikexuekecheng。danwohuijianshaoyali，yinweizheyangnihuiyigengduodehaoqixinhekuailequxuexi，zhehuigenggaoxiao。danwojide，zuoweixuesheng，wozongshiyoudiandanxinweilaihuizenyang。ruguowoxianzaizhidaozhexie，duinianqingdeziji
，wohuishuo，qishimeigerendouhuigaosuwo，“不要有壓力”，但不知為何這並沒有用。當我與年長的校友交談時，他們總是說：“盡量享受它，完全沉浸其中，少些壓力。”我wo認ren為wei

，特te別bie是shi在zai具ju體ti課ke程cheng上shang，現xian在zai有you廣guang泛fan的de科ke目mu範fan圍wei並bing對dui每mei件jian事shi都dou有you一yi點dian理li解jie是shi好hao的de。我wo發fa現xian這zhe在zai學xue校xiao和he以yi後hou都dou非fei常chang有you幫bang助zhu，因yin為wei即ji使shi現xian在zai我wo在zai一yi個ge研yan究jiu機ji構gou工gong作zuo
，我wo也ye在zai不bu斷duan學xue習xi。你ni永yong遠yuan不bu會hui停ting止zhi。這zhe對dui理li解jie每mei件jian事shi都dou有you一yi點dian幫bang助zhu非fei常chang有you用yong。

傑弗裏·布萊克本： 非常感謝！

米拉·穆拉蒂：謝謝你們今天的到來，也感謝你們為社會所做的極其重要的工作，說實話。這真的很重要
，我很高興你在這個位置上

傑弗裏·布萊克本：我們所有人
，包括Thayer和Dartmouth的(de)所(suo)有(you)人(ren)都(dou)感(gan)謝(xie)你(ni)。所(suo)以(yi)我(wo)認(ren)為(wei)這(zhe)是(shi)一(yi)個(ge)結(jie)束(shu)的(de)好(hao)地(di)方(fang)，對(dui)我(wo)們(men)的(de)學(xue)生(sheng)來(lai)說(shuo)也(ye)是(shi)一(yi)個(ge)很(hen)好(hao)的(de)建(jian)議(yi)。這(zhe)是(shi)一(yi)個(ge)非(fei)常(chang)有(you)趣(qu)的(de)對(dui)話(hua)
，再(zai)次(ci)感(gan)謝(xie)大(da)家(jia)的(de)到(dao)來(lai)。享(xiang)受(shou)畢(bi)業(ye)周(zhou)末(mo)的(de)剩(sheng)餘(yu)時(shi)間(jian)吧(ba)。