物理學(xué)家史蒂芬?霍金曾經(jīng)警告，失去控制的人工智能(AI)有朝一日可能會(huì)令人類滅亡。
物理學(xué)家史蒂芬?霍金曾經(jīng)警告，失去控制的
人工智能(AI)有朝一日可能會(huì)令人類滅亡。而今，全球IT行業(yè)巨頭們都熱衷于研究人工智能，更有甚者希望擺脫數(shù)據(jù)訓(xùn)練模式，如谷歌(Google)的DeepMind，已經(jīng)建構(gòu)出一個(gè)可取決于環(huán)境變化而發(fā)展其行為的人工智能模式，如同人類一般。
最近，谷歌的人工智能科學(xué)家們通過(guò)訓(xùn)練深度多智能體(multi-agent)來(lái)強(qiáng)化學(xué)習(xí)，并利用囚徒困境(Prisoner’s Dilemma)理論來(lái)進(jìn)行行為建模，他們發(fā)現(xiàn)人工智能的Agent（指人工智能實(shí)體，包含人類、軟件、硬件或任何實(shí)體）在資源稀少情況下會(huì)展現(xiàn)出侵略性，但在團(tuán)隊(duì)運(yùn)作中則會(huì)表現(xiàn)出高度的合作特性。這是否代表著人工智能與人類的原始本能實(shí)際上是相近的，甚至，人工智能可能成長(zhǎng)為第二種人類？
為了測(cè)試人工智能的“人性”，科學(xué)家為DeepMind設(shè)計(jì)了二款基于簡(jiǎn)單的游戲，這二款游戲都是基于囚徒困境理論，第一個(gè)游戲名為“采集”，讓二個(gè)人工智能相互競(jìng)爭(zhēng)看誰(shuí)能采到更多蘋(píng)果。
在蘋(píng)果數(shù)量夠的時(shí)候，二個(gè)人工智能相安無(wú)事，但在蘋(píng)果減少到一定數(shù)量時(shí)，二個(gè)AI就展現(xiàn)出侵略性的行為了。為了獲得更多蘋(píng)果，AI們開(kāi)始相互攻擊對(duì)手，盡管這些攻擊不能獲得獎(jiǎng)勵(lì)，但為了能讓自己多采幾個(gè)果子，AI還是采取了攻擊。
這次的游戲是針對(duì)進(jìn)化的DeepMind做的測(cè)試，在沒(méi)有改良之前，舊的DeepMind會(huì)很溫和地平分所有的蘋(píng)果，但新版卻展現(xiàn)出人性中常見(jiàn)的貪婪和侵略性。
第二個(gè)游戲叫作“狼群”，由三個(gè)人工智能參與，其中兩個(gè)扮演狼，另一個(gè)扮演獵物。這個(gè)游戲鼓勵(lì)合作，即無(wú)論哪只狼抓到獵物，二只都能獲得獎(jiǎng)勵(lì)。這個(gè)游戲的設(shè)計(jì)旨在讓AI學(xué)習(xí)到合作的利益。
這二個(gè)實(shí)驗(yàn)過(guò)去幾天以來(lái)在人工智能領(lǐng)域激起了廣泛討論。人工智能會(huì)判斷自身處境并做出選擇，這讓人們開(kāi)始思考，當(dāng)人工智能無(wú)法被統(tǒng)合于人類利益高于一切的最高指導(dǎo)原則之下時(shí)，霍金指稱的人工智能災(zāi)難或許真的會(huì)來(lái)臨。
去年十月，在劍橋大學(xué)新萊弗爾梅未來(lái)智能中心(Leverhulme Centre for the Future of Intelligence)成立大會(huì)上，霍金提出警告：失控的人工智能可能為人類帶來(lái)災(zāi)難。
霍金的發(fā)言是基于目前針對(duì)人工智能的研究正在積極整合廣泛學(xué)科，亟欲打造出思考能力可直追人類的AI理想而提出。其中，結(jié)合生物科學(xué)被認(rèn)為是推動(dòng)未來(lái)人工智能發(fā)展的關(guān)鍵點(diǎn)──盡管目前仍處于起步階段。
人工智能需要生物科學(xué)支撐
人工智能通常令人聯(lián)想到以人類形態(tài)出現(xiàn)的一種智能型媒介，但目前，大部份的機(jī)器學(xué)習(xí)研究卻都沒(méi)有從生物角度做出發(fā)。英國(guó)劍橋大學(xué)計(jì)算機(jī)驗(yàn)室科學(xué)家Sean Holden指出，人工神經(jīng)網(wǎng)絡(luò)和人腦都有神經(jīng)元，但在很大程度上，前者比人類的要簡(jiǎn)單得多。Holden正在開(kāi)發(fā)一種針對(duì)機(jī)械定理證明(Automated theorem proving, ATP)的機(jī)器學(xué)習(xí)算法，旨在幫助生物學(xué)家從蛋白質(zhì)數(shù)據(jù)庫(kù)中做出更好預(yù)測(cè)。
人工智能必須是結(jié)合生物、機(jī)械、計(jì)算機(jī)，甚至材料學(xué)等廣泛科學(xué)領(lǐng)域。截至目前“大多數(shù)的人工智能研究人員都沒(méi)有著手解決所有的問(wèn)題，因?yàn)樘щy了，”Holden表示，相較于人類的能力，今天被大家驚嘆的人工智能事實(shí)上都僅局限在很小一部份的應(yīng)用中。
當(dāng)然，無(wú)法與人腦相提并論并不意味著人工智能的發(fā)展滯后或是毫無(wú)用處，但更顯示出完全模擬大腦的運(yùn)作相當(dāng)困難，且取決于計(jì)算和技術(shù)資源，所能展現(xiàn)的人工智能規(guī)模差異也很大。
因而，挑戰(zhàn)人類的大腦成為了人工智能的圣杯，而問(wèn)題是要如何模擬，才能實(shí)現(xiàn)如同人類一般的智能展現(xiàn)？
在中古世紀(jì)，人們認(rèn)為智能主要來(lái)自血液，今天我們認(rèn)為智能來(lái)自大腦，但這并不代表著結(jié)論，劍橋大學(xué)的機(jī)器人專家Fumiya Iida認(rèn)為智能來(lái)自于身體，即所謂的“具身智能”(embodied intelligence)。
Iida認(rèn)為身體并不是大腦的奴隸：人體有成千上萬(wàn)的肌肉，大腦是如何控制的？至少電腦就做不到。而人類看似一個(gè)簡(jiǎn)單的拿杯子動(dòng)作必須在極短時(shí)間內(nèi)協(xié)調(diào)全身數(shù)以百計(jì)的肌肉。因而，帶人工智能的機(jī)器人開(kāi)發(fā)重點(diǎn)是如何同時(shí)發(fā)展大腦和身體？首先要教會(huì)機(jī)器人如何聚焦，接下來(lái)才能執(zhí)行更復(fù)雜的工作。
挑戰(zhàn)：復(fù)雜場(chǎng)景測(cè)試
對(duì)于如何理解機(jī)器神經(jīng)網(wǎng)絡(luò)，已經(jīng)有許多算法可供說(shuō)明了，但理解機(jī)器神經(jīng)網(wǎng)絡(luò)如何基于鼓勵(lì)機(jī)制來(lái)學(xué)習(xí)，以及如何在缺乏信息時(shí)做出反應(yīng)相當(dāng)重要。迄今所有的人工智能都以單純的應(yīng)用目標(biāo)，如辨識(shí)、固定路徑或工作為主，但如果將人工智能放到與人類相同的社會(huì)環(huán)境中，同步應(yīng)對(duì)經(jīng)濟(jì)、治安、情感、商業(yè)決策或更多重面向的選擇，有多少人工智能可展現(xiàn)出完全擬人化的行為表現(xiàn)？
未來(lái)，發(fā)展人工智能的關(guān)鍵點(diǎn)必然取決于能模擬實(shí)際人類環(huán)境的復(fù)雜環(huán)境測(cè)試。目前所有的開(kāi)發(fā)工作都仍以觀察人工智能系統(tǒng)的發(fā)展為主。例如，一個(gè)有趣的問(wèn)題是展現(xiàn)出侵略性的人工智能固然令人驚訝，但人工智能有可能像人類一樣發(fā)展出各種不同個(gè)性的主體嗎，這個(gè)問(wèn)題是接下來(lái)人工智能最棘手的挑戰(zhàn)之一。
這些假設(shè)或許有些夸張，因?yàn)槟壳爸髁魅斯ぶ悄軠y(cè)試都以約束條件的環(huán)境為主，但要測(cè)試人工智能是否挑戰(zhàn)人類利益，必須要在更開(kāi)放的條件環(huán)境下，長(zhǎng)期以不同事件測(cè)試才能獲得想要的反饋，目前的測(cè)試，還無(wú)法判斷人工智能會(huì)在多長(zhǎng)時(shí)間內(nèi)對(duì)人類發(fā)展帶來(lái)直接影響。
免責(zé)聲明：本站所使用的字體和圖片文字等素材部分來(lái)源于互聯(lián)網(wǎng)共享平臺(tái)。如使用任何字體和圖片文字有冒犯其版權(quán)所有方的，皆為無(wú)意。如您是字體廠商、圖片文字廠商等版權(quán)方，且不允許本站使用您的字體和圖片文字等素材，請(qǐng)聯(lián)系我們，本站核實(shí)后將立即刪除！任何版權(quán)方從未通知聯(lián)系本站管理者停止使用，并索要賠償或上訴法院的，均視為新型網(wǎng)絡(luò)碰瓷及敲詐勒索，將不予任何的法律和經(jīng)濟(jì)賠償！敬請(qǐng)諒解！
粵公網(wǎng)安備 44030402000264號(hào)
