【文字稿】2020AGI年會 合作圓桌:王培說納思路線圖_第1頁
【文字稿】2020AGI年會 合作圓桌:王培說納思路線圖_第2頁
【文字稿】2020AGI年會 合作圓桌:王培說納思路線圖_第3頁
【文字稿】2020AGI年會 合作圓桌:王培說納思路線圖_第4頁
【文字稿】2020AGI年會 合作圓桌:王培說納思路線圖_第5頁
已閱讀5頁,還剩12頁未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報或認(rèn)領(lǐng)

文檔簡介

劉凱00:56:56好,現(xiàn)在我們進(jìn)入今天的這個晚上圓桌的第二個議題,就是納思未來的研究計劃,王老師。王培00:57:07好,這個就是我的這個PPT。這個PPT實(shí)際上是基于去年的一個同樣的PPT。去年在人工智能年會上,我是講了關(guān)于人工智能,關(guān)于我們這個納思這個項(xiàng)目的發(fā)展計劃,當(dāng)時是一個英文的,我今年是把它改寫成中文的,但是基本的結(jié)構(gòu)還是一樣的。所以在座的有些去年是去看過這個國外叫做納思路線圖。王培00:57:44首先那你要說起路線圖,那你就從哪兒來的?然后到哪兒去,哪怕這些問題又來了。我在這上簡單的回顧一下,主要的是啊這個納思最早的版本是我1983年到86年在北大做碩士論文,做的納思1.0,當(dāng)是使用prolog那些。后來我91年來了美國,然后到印第安納大學(xué)做博士,然后在95年完成了博士論文,當(dāng)時實(shí)現(xiàn)的是納思3.0,中間還做過一段的,就開始四處漂泊是吧?然后這個中間可以提的就是說在06年我實(shí)際上寫過一篇文章是納思的路線圖。大家可以比較一下我06年的路線圖和今年的圖基本上是一樣基本上是一樣。王培00:58:44是這個是大概是第一次有以通用人工智能為標(biāo)題的會議,是06年在華盛頓開的一個內(nèi)部的一個工作坊,大概有四十多個人到,從此以后就算是把這個AGI這個圈子算是弄起來了,這個是06年的事情。然后08年我把納思搬到了網(wǎng)上,就叫做了OpenNARS,就變成了開源系統(tǒng)。這個東西如果要是大家不知道的,然后在這兒是吧?從08年以后一直就在網(wǎng)上,我們有一些簡單的文檔,雖然不很不詳細(xì),到現(xiàn)在為止大概有兩本書。王培00:59:4506年一本,13年一本。這兩本書比較完整的描述了納思的邏輯部控制部分,也說了一些。論文大概加起來大概有一百多篇了,然后大部分是我自己寫的。近年來有些是在學(xué)生和合作者一塊學(xué)的,然后絕大多數(shù)是可以在這個網(wǎng)頁(個人網(wǎng)站)上下載的,那是到現(xiàn)在已經(jīng)前后發(fā)行了。納思剛開始就是公開的或者說不公開的。前面一開始當(dāng)然是不公開的,08年以前,總的加起來,我后來算了一下,大概有四十多個,我自己寫的大概有二十幾個版本。王培01:00:24前后我自己用過四種程序設(shè)計語言,最早用的是Prolog,后來用了Scheme,我的博士論文是用的C++。后來這個開源的時候,正好我在學(xué)Java就改成了Java,然后后來我們這個合作者們有換過好幾種不同的,他們大概有前后寫過十幾個版本。然后這個實(shí)際應(yīng)用近年來開始有示例。所以說我在這兒曬一下這個,就是告訴大家這個還是有干貨的。王培01:01:02我看這個評論區(qū)里邊有些人說這也是不是民科是吧?這還不是最難聽的話:還有些人說我們是偽科學(xué)的,是吧?這個沒有關(guān)系,這個就是說請各位看一看文章,看一看這個代碼,你看你是不是還能怎么說,當(dāng)然是非主流那是一定的,那是從一開始這個就是很清楚的。這個我后面再說。王培01:01:34現(xiàn)在大概是什么情況呢?現(xiàn)在情況我們這兩天也介紹過,納思的基本的結(jié)構(gòu)是兩大部分,一個叫做邏輯部分,一個叫做控制部分。就是說它的基本思路是認(rèn)為所有的思維活動或者說認(rèn)知活動,都可以分解成為基本步驟的組合。就好像所有大千世界的各種各樣的東西,最后都能夠弄成一百多種這個元素是吧?呃,那么它的基本步驟實(shí)際上是由一個邏輯來提前給定的,是表達(dá)在一個形式語言當(dāng)中的。它的這個復(fù)雜性來自于這些步驟。它在解決問題的時候動態(tài)的組合,通過資源分配來決定在哪個時段做什么,這就是控制部分是吧?邏輯部分。王培01:02:27差不多到我13年的這本書,就基本上后邊沒有太多的發(fā)表。雖然說這幾年也有一些也有一些小的成長,這本書基本上是把邏輯部分的東西定好。那么到現(xiàn)在為止,這是七年以前的書了,到現(xiàn)在為止還基本上是對的。王培01:02:59控制部分的問題還有很多??刂撇糠脂F(xiàn)在無非就是說它是可以串起來的,也可以解決一些問題。但是完全談不上解決的好是吧?這個我前面我也提到過,有時候你就覺得他有點(diǎn)神經(jīng)錯亂。就是說它的這個資源分配還是需要跟邏輯不一樣,邏輯部分好像看上去還是一個蠻完整的一個理論,雖然說還是有進(jìn)一步的改善的可能性是吧?呃,在控制部分好像是做了一大堆東西,每個東西好像都有點(diǎn)有有點(diǎn)道理。但它不是一款系統(tǒng)化的一個理論。王培01:03:41而這個動態(tài)資源分配這個事情,我看了看其他的領(lǐng)域,大概比如說經(jīng)濟(jì)學(xué)、心理學(xué),好像也沒有什么很好的,都是有一大堆思想,所以這個是我們目前工作的重點(diǎn)之一。王培01:03:58就是說我們前兩年,這是最新的版本。這個是我們這個課題組的網(wǎng)頁(tagit),前面這個是我個人的網(wǎng)頁。這里面有我們的最新版本的一個邏輯設(shè)計的文件,這里邊講到的是我們的這是剛剛完成不久的,新的體系結(jié)構(gòu)和新的資源控制策略都在這里面有討論。比如說干什么呢?比如說這個是現(xiàn)在的系統(tǒng)的非常粗略的一個體系結(jié)構(gòu)圖,然后后面包括資源分配,各種各樣的公式之類的都在這個文件,我們?nèi)匀恢肋@里邊有一大堆毛病,是吧?這個還真是還在這個基礎(chǔ)上再繼續(xù)做。這個是一部分。王培01:04:59這個解決的是什么問題?你解決的是這是講的系統(tǒng)的這個動態(tài)資源分配策略。就是說在你系統(tǒng)實(shí)際上是在用心理學(xué)的話說,就是在于一個自然聯(lián)想的狀態(tài)下來思考。就是說你不去想你下一步應(yīng)該想什么,完全靠你自己的腦子里邊現(xiàn)有的這種聯(lián)想,或者說注意力分配的這個機(jī)制來帶著你跑到老去你會怎么樣,這個當(dāng)然是不夠的,就是真正復(fù)雜的心理操作,必須是通過自我控制來實(shí)現(xiàn)。王培01:05:42這個是我們下面做的這個題目,這個也是在這個3.1.0里面有基本的體現(xiàn)。就是說你自己告訴你自己是吧?雖然說另外一個東西誰一直是在試圖吸引你的注意,但是你告訴你別理他,別理他,我現(xiàn)在要想這個事兒,我明天要交卷了好吧。雖然說我現(xiàn)在實(shí)際上心理上是想去干別的,那么你有一些心理操作,對于自己的這個思維過程做做控制,這個跟所謂自我意識之類也都有這些關(guān)系。這個是在我們現(xiàn)在的這個系統(tǒng)當(dāng)中有一個基本體現(xiàn),但是說還不是很完善,這個也是我們目前在做的。王培01:06:22同另外一點(diǎn),跟這幾天討論也有關(guān)系的。就是所謂局部公理化,就是我強(qiáng)調(diào)反復(fù)強(qiáng)調(diào)我的系統(tǒng)的非公理化特征,連名字都是從這兒來的。但是所推公理化特征就是說我前面講的沒有絕對真理,沒有哪句話絕對靠譜的。那么直接的問題就是一加一等于二是不是也是有一個一定程度的真摯?當(dāng)然不是,一加一等于二當(dāng)然是真的,我不會那么瘋狂。王培01:06:49那么實(shí)際上這個事兒是怎么做的呢?就是說對于數(shù)學(xué)的數(shù)學(xué)知識,實(shí)際上在在系統(tǒng)當(dāng)中處理是不一樣。這兩天包括這個劉凱咱們討論也涉及到對于數(shù)學(xué)知識的學(xué)習(xí)和使用。前面徐英瑾老師也講到了這點(diǎn)是吧?在納思當(dāng)中,實(shí)際上我們有也是有最基本的體現(xiàn),但是還是很不完善。所以你現(xiàn)在讓他做復(fù)雜的數(shù)據(jù),他肯定有亂答,他肯定有亂答,這個也是我們目前工作的方向之一,就是說怎么樣讓他有效的去使用數(shù)學(xué)工具。這點(diǎn)上跟跟人腦的情況不一樣。王培01:07:31把人腦和納思相比,這是一個非常有趣的題目是吧?你跟大家一般的觀感不一樣,就是說有好多東西大家覺得人工智能不可能做得到的,實(shí)際上在納思里面已經(jīng)做到了。就是說他在這些地方跟人腦是一樣的。但是另外一方面,大家覺得在計算機(jī)這邊肯定這事是可以干的。實(shí)際上在納思是做不到,是吧?或者說他在有些地方跟人腦是非常一接近,就是說它的這個相似程度超出了大家想象。但是在另外一方面,就是他很多的差異也是超出大家想象的,你比如說數(shù)學(xué)這個事兒怎么弄?王培01:08:19如果你要是嚴(yán)格的按照人腦的思路來走,那你就按照劉凱他們討論這些小學(xué)生怎么學(xué)的,或者說你跟從幼兒園開始一步一步這么來,那么在納思里邊,我們可能不會完全,你比如說不光是納思任何一個計算機(jī)系統(tǒng),還不要說通用人工智能都很容易在里邊嵌入一個簡單的計算器,對吧?那么加減乘除這些東西……你還需要學(xué)嗎?你還需要背讀讀表嗎?說你你直接調(diào)一個函數(shù)不就完了嗎?你何必呢?你有些人說我就是要通過圖靈測試,我就是要裝的像人,包括要做一些錯的題目,讓大家覺得我也是個人,我不覺得有這個必要?因?yàn)槲覀儾皇且栽谛袨樯蟼€人相似為目標(biāo)的,我們是希望神似而不是形似。王培01:09:25所以這個時候就有一個要在多大程度上把數(shù)學(xué)的工具做到系統(tǒng)里面去的問題。因?yàn)槠渌臇|西,你比如說你不能把物理學(xué)知識做到系統(tǒng)里面去,因?yàn)槟莻€東西它是要通過學(xué)習(xí)來獲得的。因?yàn)檫@個是納思的基本原則,就是說他的這個邏輯和控制策略是設(shè)計進(jìn)去,而且是做死的,是不能變的。但是它的具體的知識都是學(xué)的,包括具體的通過這個感知界面學(xué)的這些東西和包括通過語言學(xué)的這些東西,這些東西是不能做死在里面的。王培01:10:10但是數(shù)學(xué)很有可能是個例外,因?yàn)閿?shù)學(xué)本身它是抽象的,它不隨著這個經(jīng)驗(yàn)的變化而變化。所以這個事情我們現(xiàn)在還在斟酌過程當(dāng)中,就是說數(shù)學(xué)我們要把它作為一組心理操作,但是心理操作包括什么樣的算子,說要做死多少在里面,有多少留給學(xué)習(xí)來完善。這個是不知道這個是不能說不知道。我們有些想法,但是還沒有定下來,還是在陸田的工作的范圍之內(nèi)。王培01:10:41還有一個配置與參數(shù),這個也很有趣,就是說我在評論劉凱他們的工作中提到了,我現(xiàn)在講納思好像是用單數(shù),是吧?將來真正的實(shí)現(xiàn)不會是一個單個的系統(tǒng),或者說我當(dāng)然我可以做若干個復(fù)制,若干份兒是吧?那么在即使是這樣的話,這若干份它有可能它在配置上和參數(shù)上它不會是完全一樣的。比如說我前面提到的,比如說這個記憶空間,記憶空間是一個常數(shù),但這個常數(shù)應(yīng)該是多大的。這個沒有一個結(jié)論,這不像物理常數(shù)是吧?這重力加速度應(yīng)該是多少就是多少。這個地域空間大和地域空間小,它這個系統(tǒng)它出來就不一樣是吧?王培01:11:33還有其他的,你就是說我們前面提到的遺忘,遺忘速度本身可以說是個參數(shù),主要稍微大一點(diǎn),稍微小一點(diǎn),它也不會死人的,是吧?但是它這個會造成系統(tǒng)的不一樣的表現(xiàn)。所以凡是這類東西,我們叫做系統(tǒng)的人格參數(shù)。就是將來你會發(fā)現(xiàn),你如果做一大堆納思,它每一個跟每一個他生下來他大概脾氣就不一樣,那就是說我可以把它做成不一樣。這個東西不是說重新為了這個顯示的時候顯示熱鬧是吧?這個為了娛樂的目的?不是,就是說他當(dāng)時他當(dāng)中有某有一大堆參數(shù)是沒有最優(yōu)值的,是在某一個范圍之內(nèi)都是可以。王培01:12:20所以你有可能做出一大堆東西來,都符合這個納思的基本邏輯設(shè)計——但是它的具體的行為和表現(xiàn)是不一樣的,就好像人不存在一個最優(yōu)的性格,或者說最優(yōu)的參數(shù)配置,我覺得同一個道理是吧?所以我們現(xiàn)在也是在試,比如說包括我們現(xiàn)在在做應(yīng)用,這個應(yīng)用的時候的系統(tǒng)配置和作為一個理論模型的系統(tǒng)配置,它肯定是不一樣。那做應(yīng)用的時候,我們就把那些亂七八糟的東西都摘掉了,就是剩下那些最干嘛嘛干活的是吧?那么即使是在理論模型里面加什么不加什么,這個也有很大的分歧,所以這也是一個很值得進(jìn)一步討論的問題。王培01:13:12前面那個叫可以叫純納思或者納思本身。然后后邊的這一頁我們可以叫做納思擴(kuò)充,我的英文就叫NARSPlus。就是說我在這個上面如果再加一些東西,那么會是什么樣?昨天如果昨天早晨在我的報告在場的也會注意到,我當(dāng)時好像用過一張圖是吧?就是一個手拿著一個工具。具體落實(shí)在系統(tǒng)里面就是這一些問題。王培01:13:44你比如說納思在剛開發(fā)的時候,我們并沒有內(nèi)置的知識。他腦子生下來基本上是空的,不是完全空,基本上是空的。所以為什么說這像是一個嬰兒的,你要教他,那么教他這個過程是一個非常復(fù)雜的過程?我們想要人要教多少年才能夠到了能夠獨(dú)立工作的程度?我們當(dāng)然不希望給納思說多少年的基礎(chǔ)教育,這受不了。王培01:14:16但是計算機(jī)又可以走捷徑。比如說我可以把它直接跟一個知識庫聯(lián)網(wǎng),說這個不是問題。這個知識庫的內(nèi)容當(dāng)然跟他記憶當(dāng)中的東西,它的組織方式是不一樣的,但是它仍然可以有效的使用。這個就更相當(dāng)于比如說我們?nèi)吮9苣隳X子多好,你也用參考書,你也用筆記本,你有些東西你一下子你怕你忘了,你還是要寫下來的,這是同樣的道理是吧?在這個計算機(jī)里面我們可以把這個東西拿到線兒直接連上了。王培01:14:53然后我們前一段也試過跟一些現(xiàn)有的知識庫連線。比如說conceptnet、wordnet……可能有些人聽說過這用的時候我就把這個東西拿過來。那個東西當(dāng)然它不是納思的一部分是吧?但是納思加了那個東西以后,就有點(diǎn)如虎添翼的意思。這兩天我看有人也提到的納思知識從哪兒來?這個是來源之一,不是唯一的,這個是來源之一。甚至說我們可以直接把它連到這個internet上去,直接用searchengine來找東西。這個在技術(shù)上這都不是不可能的。王培01:15:35另外一個就是說用納思加軟件工具,就是說我可以用它來調(diào)用其他的這個程序包是吧?然后把結(jié)果拿下來。這個其中的一個想法我們以前討論過,就是說將來把它作為一個所謂智能操作系統(tǒng),把所有的軟件東西都加上去。然后他知道在什么時候用什么軟件能夠解決什么問題。王培01:15:58包括我們現(xiàn)在做的這個商業(yè)應(yīng)用,實(shí)際上都是這個路子,納思自身實(shí)際上是干不了什么活的。好,我們現(xiàn)在做的兩個比較大一點(diǎn)的應(yīng)用都是用深度學(xué)習(xí)的東西做前端,做預(yù)處理。具體的來說是用深度學(xué)習(xí)做感知。王培01:16:21大家可能注意到納思是一個純推理系統(tǒng),所以它本身沒有感官是吧?很多人說這是個弱點(diǎn),你怎么可能沒有感官?這個是成心的是吧?因?yàn)槭裁茨??因?yàn)樵谟谖乙婚_始就覺得一個智能體它必須要跟外部相互作用,這個沒話講,他孤立的,它是不可能有智能的是吧?但是這個相互作用的具體方式可以有很多種。王培01:16:53你比如說我說一點(diǎn)肯定會有爭議:視覺,雖然對于人非常重要,但是我不認(rèn)為有視覺是一個系統(tǒng)有智能的必要條件。它完全可以通過其他手段獲得知識,并不一定非要非要通過我們意義上的視覺。即使他有視覺,也不意味著他的視覺和人類視覺是等效的。王培01:17:26什么意思?比如說他可以感受光,他對于光的感受的這個范圍和人眼的感受感必須一樣嗎?為什么?我覺得不一定。好,他如果同時能夠直接看紅外線有什么壞處嗎?或者說即使是感受范圍一樣,它的靈敏度?它的對于分析的具體的顆粒度,或者說他自己分析到多細(xì),或者說他保真度有多高,是不是一定要跟人也一樣,那我覺得完全沒有必要。王培01:18:11所以出于這種考慮,納思是有意地不把某些感知運(yùn)動器官設(shè)計進(jìn)去,而是設(shè)計一般的感知運(yùn)動界面,允許把這些東西插上去作為插件。王培01:18:28你比如說,或者是簡單這么說:你給他一個眼,他就學(xué)著用眼去看;你如果不給他,你給他一個雷達(dá),他就學(xué)著用雷達(dá)去作為感知。這一點(diǎn)比如說自動駕駛,這兩天有人提到,這是最直接的一個問題。就是說你如果把納思用納思來控制一個自動駕駛汽車,那么這個汽車的感受感受器跟人的感受器肯定不是等價的,有些地方會比人強(qiáng),有些地方會比人弱,有些地方你很難說強(qiáng)弱,它就是跟人不一樣。王培01:19:09是不是說要跟人完全一樣才能叫做感受器?我覺得沒有人會那么說吧,你要照這么說的話,動物都沒有眼了,沒有哪個動物的眼睛和人的眼睛的感受范圍和分辨率完全一樣的,沒有這種事情。所以說那是實(shí)際上做的,就像我這個圖里面畫的是一個通用大腦。它的軀體是可以換的,是可以加的,是可以放在任何不同的軀體里面。我剛才講的是感知運(yùn)動也是一樣:它可以有兩條腿,但是它為什么不能有四個輪子?它為什么不能有六個輪子呢?我們現(xiàn)在的設(shè)計就是說:你要給我兩條腿,我就學(xué)習(xí)用兩條腿走路;你要給我若干個輪子,我就學(xué)著用那些輪子來移動。王培01:20:04我們現(xiàn)在也在試機(jī)器人,但是并沒有說納思一定要配某一個機(jī)器人的硬件——它應(yīng)該是都可以的。但是他換了一個軀體以后,當(dāng)然他要經(jīng)歷一個學(xué)習(xí)過程,他才能熟悉這個軀體,他才能有效的使用這個軀體。但是并不是說他天生就是為某一種一定要有多少條胳膊,多少條腿的東西來實(shí)現(xiàn)的。當(dāng)然這個磨合,這當(dāng)然是有一大堆工作在里面,這個是我們現(xiàn)在也在做。王培01:20:40然后還有一些有關(guān)的也可以分到這類里面。比如說分布式實(shí)踐是吧,已經(jīng)有人在試了是吧?就是說納思的實(shí)際上它的體系結(jié)構(gòu)非常適合于做一個分布式實(shí)體,它的每一個概念實(shí)際上是可以獨(dú)立的在一臺機(jī)器上運(yùn)行的?;蛘哒f把它搬到云上去,然后提供一個推理服務(wù),這個也有人想過這種事。甚至將來直接用硬件:有些人說用固件或者用GPU是不是可以加速?肯定是可以,只不過就是現(xiàn)在早了一點(diǎn),是吧?得等它的系統(tǒng)結(jié)構(gòu)相對穩(wěn)定了以后再說這些事情,包括各種實(shí)際應(yīng)用。王培01:21:21這個我剛才已經(jīng)提到了是吧?你大概如果真正搞開發(fā)的話,一定起碼在近期一定是走這個路子,就是說把納思和現(xiàn)有的其他的東西結(jié)合在一起,做一個特定的一個混合系統(tǒng),這個是大概是最有效率的。直接用它大概不行,因?yàn)楹枚鄸|西實(shí)際上他做不到。但是請注意,這并不是說把那些東西就做成了納思一部分,那些東西只不過是為這個特定的應(yīng)用跟納思合到一起。換了的應(yīng)用以后我可能就換另外一套,就好像說我好像換換了一換了一個身體是吧?那你干不同的事兒,我就換不同的身體,然后我去學(xué)習(xí)怎么樣去跟這套身體來有效的合作。王培01:22:16然后下一篇說的是環(huán)境,就是說大家看我這個圖(視覺實(shí)驗(yàn))實(shí)際上有點(diǎn)像拍照片,逐漸把這個鏡頭往外拉,我一開始是聚焦到他這個大腦本身,然后是大腦下軀體,現(xiàn)在是我把這個系統(tǒng)當(dāng)做一個整體,考慮它和它的環(huán)境的關(guān)系。王培01:22:39它和它環(huán)境可以簡單的分為兩類,一類是它的自然環(huán)境,這個關(guān)系基本上就是前面我們談機(jī)器人的時候提到的,就是說它可以直接和外部世界相互作用,而不經(jīng)過人類用戶的中介,我們只要把它放在機(jī)器人里面就是這么一個納思。王培01:23:02但是還有一點(diǎn)很重要的是它的社會環(huán)境。它社會環(huán)境它包括其他的納思,包括其他的計算機(jī)系統(tǒng),它不是納思的——你包括我們說跟一個知識庫連起來,或者說跟一個軟件工具連起來,還有就是人。王培01:23:18那么社會經(jīng)驗(yàn)跟他物理方面的感知運(yùn)動系統(tǒng)是不一樣的。因?yàn)樗婕暗秸Z言,它涉及到通訊的約定與規(guī)范,這些東西他大概都是要學(xué)的,包括自然語言理解,這個也是落在這個圈子里。王培01:23:36這個我們現(xiàn)在還做不到,但是我們有一些基本的功能,然后在這個基礎(chǔ)上也在做?大家如果有興趣可以教他中文,因?yàn)榧{思在這方面無所謂——這個語言到底是哪國語,實(shí)際上對他來說是一樣的。王培01:23:54然后后邊就涉及到劉凱他們前面講到的教育和心理建構(gòu)——因?yàn)榧{思它的這個心理結(jié)構(gòu),比如說它的動機(jī)結(jié)構(gòu),它的這個知識結(jié)構(gòu),包括它的能力結(jié)構(gòu),一開始做死的是有的,但是是很小一部分,絕大多數(shù)是后邊通過教育,通過經(jīng)驗(yàn)來獲得的。而教育實(shí)際上是經(jīng)驗(yàn)的一種特殊情況,是不是?是外部世界強(qiáng)加給它,就是說你必須得學(xué),你這必須要接受教育,那么我們通過強(qiáng)加給他一個特定的社會環(huán)境,來完成某些心理建構(gòu)。王培01:24:35再往后多說一點(diǎn)的,包括這個倫理道德法律之類的。包括我們前面幾年一直在跟一些法律系法律界的同仁在在討論,對于跟人工智能或者通用人工智能有直接關(guān)系的這個外部約束到底是應(yīng)該怎么樣的。比如說大家有趣的問題談到,就是說你比如說怎么懲罰?你比如你把他關(guān)起來他大概不在乎,我說你打他兩下他大概也不成。那么這個時候,在這個意義下對他的懲罰大概是在什么意義下他可以談,這個都是一些很有趣的問題,這個也是這是我們后面要考慮一下。王培01:25:12如果我們說的再遠(yuǎn)一點(diǎn),我們再把鏡頭往遠(yuǎn)大一點(diǎn),我們討論可以討論一個納思所組成的社群,一堆納思。但我前面已經(jīng)講到了,跟這個有某些電影里面的不一樣。電影里出來一幫機(jī)器人,那都是一個模樣兒。然后同一個動作,對于納思來說大概不會是那樣子。王培01:25:34就是說他會有共性:他用的同一個邏輯,他用的同一個知識管理策略。但他也會有個性,這個個性包括若干個方面。就是我前面已經(jīng)講了,它的配置可能不一樣是吧?比如說它記憶容量,比如說它的這個遺忘速度,然后有些參數(shù)可能是不一樣的。然后他的硬件配置——比如感受器——可能就不一樣。我前面也講了,一個用兩條腿的跟一個用四個輪子,怎么討論馬路的情況?有些人說路很好,有些人說路不怎么好,那取決于你用什么軀體,是吧?王培01:26:16然后這個里面有很有趣的社會學(xué)的問題:比如說,這些系統(tǒng)之間的互動,他們怎么樣完成合作?他們互相之間的競爭會是以什么方式來進(jìn)行,然后如果要是作為一個團(tuán)隊(duì),他必須同時完成任務(wù)的話,他也有社會結(jié)構(gòu)的?他可能會有一些習(xí)俗的問題,就使得各大家都要遵守同樣的規(guī)矩,這樣我對于你的行為才有才可以預(yù)測。如果大家都是誰都不知道誰下一秒會干什么,這事兒肯定就沒辦法了是吧?王培01:26:53然后如果我們把整個社群當(dāng)做一個系統(tǒng),那么這個群體能做什么?他想做什么?他的公共知識怎么發(fā)展……這里邊有兩個方面的問題。一個方面的問題就是說這個對于某些應(yīng)用來說肯定是有必要的。另外一方面的問題是我們可以把它作為一個試驗(yàn)場。因?yàn)槲疫@個理論很大程度上是興趣是實(shí)際上是在人是吧?只不過就是說把計算機(jī)作為一個我的實(shí)驗(yàn)平臺。我們可以在這里邊來討論一些人類社會當(dāng)中的問題——當(dāng)然是有限度的。就是說有些東西它大概不一樣,有些東西會是一樣。然后我們還可以討論這種社群和人人群的關(guān)系。王培01:27:45如果這個還不夠科幻的話,我們可以把鏡頭再往外拉,我們來討論他的物質(zhì),那么一個個體的納思它可能有生成和消亡的問題。那么在它生成的時候,它的這個初始參數(shù)和配置的設(shè)定是通過遺傳來完成,還是通過什么呢?他如果有一代一代的這種代際傳承的話,他是不是也會形成某種以下的文化?它通過這個社會化的過程來實(shí)現(xiàn)它的某些知識的傳遞,而不是通過硬件,比如說賦值。王培0

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論