作者：ADRIENNE LAFRANCE
機(jī)器之心編譯出品
編譯：吳攀，賽坡
人類越來(lái)越傾向于依賴機(jī)器作為認(rèn)識(shí)自己的方式。長(zhǎng)期以來(lái)機(jī)械世界都為人體的工作方式提供著類比。
「在嘗試解釋生物學(xué)上，我們一直有技術(shù)上的類比，」卡內(nèi)基梅隆大學(xué)機(jī)器人學(xué)家Chris Atkeson 說(shuō)，「有一種關(guān)于大腦如何工作的想法是覺(jué)得大腦是液壓的。人們描述液壓時(shí)鐘和心臟泵血。然后我們有了蒸汽機(jī)作為（我們身體）工作方式的類似。再然后我們有了電�！�
1948 年，數(shù)學(xué)家和哲學(xué)家諾伯特·維納 出版了他的著作《控制論》，進(jìn)一步擴(kuò)大了這個(gè)傳統(tǒng)；這本書使用計(jì)算機(jī)-大腦的類比奠定了人們現(xiàn)在思考信息時(shí)代的基礎(chǔ)。
當(dāng)然，今天計(jì)算機(jī)已經(jīng)在解釋生命系統(tǒng)中占據(jù)了突出的位置。人們常常將大腦描述成計(jì)算機(jī)一樣，就好像我們的記憶是存儲(chǔ)在灰質(zhì)做成的硬盤中一樣。仔細(xì)審視一下，可以發(fā)現(xiàn)這樣類比的拙劣程度并不比其之前的比喻性的比較更少。而這樣的比喻的局限性是雙向的。機(jī)器學(xué)習(xí)是一種通過(guò)向計(jì)算機(jī)展示圖像或其它信息的大數(shù)據(jù)集來(lái)訓(xùn)練其識(shí)別模式的方法，該方法常被描述是以一定的方式教育計(jì)算機(jī)大腦「看見(jiàn)」世界。這就意味著：機(jī)器與人類都是在過(guò)去見(jiàn)過(guò)的事物的基礎(chǔ)上積累知識(shí)。
「計(jì)算機(jī)『看見(jiàn)』的每一樣事物都基于它『知道』什么……依賴于你的『看見(jiàn)』是什么含義�！筰Robot 的軟件工程師 Emily Pittore 在給我的一封電子郵件中寫道，「我使用著重引號(hào)是因?yàn)槲覍?duì)過(guò)于隨意地將人類認(rèn)知的語(yǔ)言應(yīng)用到計(jì)算機(jī)上有些猶豫�！�
「如果你說(shuō)的『看見(jiàn)』是指『光學(xué)輸入』，那么計(jì)算機(jī)總是看見(jiàn)相同的事物，」她說(shuō)。換句話說(shuō)，機(jī)器會(huì)忽略輕微的美學(xué)亮點(diǎn)和傳感器噪聲，而「人類有一個(gè)遠(yuǎn)遠(yuǎn)更復(fù)雜的傳感器——眼球和大腦。」
人類的視覺(jué)處理也會(huì)受到他們已知事物的嚴(yán)重影響——但他們實(shí)際看見(jiàn)或感知的可能會(huì)相差很大，甚至當(dāng)輸入相同時(shí)也一樣。這是根據(jù)上個(gè)月發(fā)表在 Journal of Experimental Psychology 期刊上的一篇題為《人類感知和表現(xiàn)》的文章所得出的結(jié)論，該研究基于約翰霍普金斯大學(xué)研究者的發(fā)現(xiàn)。這些研究者進(jìn)行了一系列實(shí)驗(yàn)，以找到對(duì)阿拉伯字母的預(yù)先知識(shí)對(duì)不同的人感知阿拉伯字母的方式有怎樣程度的影響。
研究人員發(fā)現(xiàn)，同樣的字母在不同的人看來(lái)是不同的，這依賴于他們是否能夠閱讀阿拉伯文。而盡管他們?cè)u(píng)估的關(guān)注點(diǎn)是字母，但研究者表示，這些發(fā)現(xiàn)也可適用于任何事物——物體、照片、插圖等等�？偠灾Y(jié)論是：你已知曉的東西將會(huì)極大影響你看事物的方式。這聽起來(lái)很直觀，對(duì)嗎？但是這些發(fā)現(xiàn)比它們看起來(lái)更為微妙。
「我們不只是說(shuō)，『噢，你是專家，所以你看事物不一樣』。」約翰霍普金斯大學(xué)認(rèn)知科學(xué)研究生、該研究的主要作者 Robert Wiley 說(shuō)，「微妙的一點(diǎn)是不只是你的顯性知識(shí)（explicit knowledge）會(huì)真正改變你的視覺(jué)系統(tǒng)。還有一些意識(shí)都無(wú)法觸及的事物�！�
這就是為什么人類無(wú)法真正完全忘記事情的原因。因?yàn)槲覀兪紫染筒恢涝趺淳徒忾_所見(jiàn)與如何看見(jiàn)之間的連接。你可能會(huì)忘記一個(gè)事實(shí)或失去你曾擁有的某個(gè)技能，但卻沒(méi)有辦法探查——也就沒(méi)有辦法刻意改進(jìn)——其發(fā)生的方式，在此過(guò)程中暴露給特定的輸入已經(jīng)改變了你的感知。
但是機(jī)器可以忘記。
事實(shí)上，一些計(jì)算機(jī)科學(xué)家表示為此目的而設(shè)計(jì)計(jì)算機(jī)正越來(lái)越重要。機(jī)器學(xué)習(xí)系統(tǒng)的部分承諾是計(jì)算機(jī)將有能力處理海量的數(shù)據(jù)流，比如類似人臉識(shí)別中的海量數(shù)據(jù)。在這些計(jì)算能力的作用下，整個(gè)產(chǎn)業(yè)都在發(fā)生改變。隨著通過(guò)龐大的網(wǎng)絡(luò)的敏感數(shù)據(jù)的激增，人類需要能夠告訴計(jì)算機(jī)什么時(shí)候和確切地怎樣忘記被稱為數(shù)據(jù)沿襲（數(shù)據(jù)沿襲，指的是記錄有關(guān)每個(gè)數(shù)據(jù)塊的包執(zhí)行和數(shù)據(jù)轉(zhuǎn)換的歷史紀(jì)錄）的海量信息，包括復(fù)雜信息、計(jì)算記錄以及由類腦計(jì)算網(wǎng)絡(luò)衍生出的信息。
「這樣的忘記網(wǎng)絡(luò)（forgetting system）必須仔細(xì)跟蹤數(shù)據(jù)沿襲，甚至需要跨統(tǒng)計(jì)處理或機(jī)器學(xué)習(xí)，并使該沿襲對(duì)用戶可見(jiàn)，」來(lái)自利哈伊大學(xué)和哥倫比亞大學(xué)的計(jì)算機(jī)科學(xué)教授 Yinzhi Cao 和 Junfeng Yang 寫道，「他們讓用戶使用不用的粒度（granularity）水平指定要遺忘的數(shù)據(jù)……然后這些系統(tǒng)移除這些數(shù)據(jù)并還原其所帶來(lái)的影響，這樣今后所有的操作都會(huì)像該數(shù)據(jù)從未存在過(guò)一樣�！�
Cao 和 Yang 在 2015 年的一篇論文中闡述了他們對(duì)該系統(tǒng)的想法，該論文與2015年發(fā)表在IEEE的期刊 Security & Privacy上。他們說(shuō)，從一個(gè)更大的集合中擦除一個(gè)單獨(dú)的數(shù)據(jù)線程具有很多潛在的效益。一些人可以從一臺(tái)機(jī)器上移除他們的敏感個(gè)人數(shù)據(jù)。學(xué)者可以使用忘記（unlearning）來(lái)清理或矯正分析數(shù)據(jù)，從而開發(fā)出更為精確的預(yù)測(cè)算法。
這種操作數(shù)據(jù)的能力可以被看做是它自身的安全威脅——比如說(shuō)，如果數(shù)據(jù)被惡意篡改——但 Cao 表示，將有保護(hù)措施。比如：「在歐盟，移除與某人相關(guān)的的搜索結(jié)果之前，谷歌需要請(qǐng)求者的帶照片的身份證明的掃描件。」他在一封電子郵件中說(shuō)，「這只是驗(yàn)證的一種方法，還有其它方法涉及到用戶名/密碼、雙因素認(rèn)證、指紋等等�！�
這一想法已經(jīng)讓計(jì)算機(jī)科學(xué)家們感到興奮了。Cao 和 Yang 接受了美國(guó)國(guó)家科學(xué)基金會(huì) 120 萬(wàn)美元的資助以進(jìn)一步發(fā)展這一概念。如果他們?nèi)〉昧顺晒�，并且如果機(jī)器忘記真的可以像 Cao 和 Yang 建議的那樣，變成了一個(gè)至關(guān)重要且無(wú)處不在的計(jì)算功能，那么忘記系統(tǒng)（forgetting system）對(duì)人們思考人腦處理功能的方式又意味著什么呢？大概并不會(huì)有太多含義，直到新技術(shù)出現(xiàn)并提供一個(gè)更具說(shuō)服力的類比。
「我們對(duì)大腦還有很多不理解，但我們確實(shí)知道他們并不神奇�！辜~約大學(xué)心理學(xué)和神經(jīng)科學(xué)教授 Gary Marcus 去年在《紐約時(shí)報(bào)》上寫道，「它們只是物質(zhì)的異常復(fù)雜的排布。飛機(jī)可能飛起來(lái)并不像鳥，但它們都遵循于同樣的力進(jìn)行升降。同樣道理，也沒(méi)有理由認(rèn)為大腦可以免受計(jì)算定律的約束。」
人類-機(jī)器的比喻從不完美，但它們可以是有用的，即使計(jì)算機(jī)可以以人類所不能的方式學(xué)習(xí)和忘記。「我們想用由這些巨型計(jì)算機(jī)器提供的概念模型做更多事，」文化人類學(xué)家 Margaret Mead 在 1948 年談?wù)撚?jì)算機(jī)時(shí)說(shuō)道，據(jù) Ronald Kline 的著作 《The Cybernetics Moment》，「說(shuō)人的身體是一臺(tái)機(jī)器沒(méi)有什么陷阱，而只是這些方法，尤其是數(shù)學(xué)家在這些機(jī)器問(wèn)題中所使用的方法，可能是可用于更精確思考人類行為的工具�！�
本文由機(jī)器之心原創(chuàng)
| 
QQ好友和群
QQ空間
騰訊微博
騰訊朋友
收藏
淘帖
頂
踩
