回顧剛剛過去的2019年，基于機(jī)器學(xué)習(xí)系統(tǒng)訓(xùn)練算法的人工智能，已然開始滲透至各行各業(yè)。

　　AI周刊在對(duì)2019年的人工智能行業(yè)進(jìn)行總結(jié)是歸納了以下四個(gè)關(guān)鍵詞：面部識(shí)別、深度偽裝、隱私和自動(dòng)化。與此同時(shí)，AI周刊也對(duì)2020年的人工智能行業(yè)大發(fā)展進(jìn)行了展望。

　　面部識(shí)別

　　在2019年的新聞報(bào)道中，我們可以發(fā)現(xiàn)，面部識(shí)別技術(shù)比其它任何人工智能應(yīng)用更受矚目。

　　2019年1月份，麻省理工學(xué)院的一個(gè)科學(xué)家團(tuán)隊(duì)聲稱：亞馬遜公司的面部識(shí)別和分析軟件reko在某些種族中的性別識(shí)別準(zhǔn)確性低于其他面部識(shí)別解決方案。具體來看，reko未能在特定場(chǎng)景中確定女性和深色皮膚的面孔的性別，從而錯(cuò)誤地將女性的照片分別識(shí)別為男性和深色皮膚的女性分別為19％和31％。

　　撇開亞馬遜的面部識(shí)別爭(zhēng)議不談，這項(xiàng)研究很有先見之明地指出了人工智能的種族偏見問題上周美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究所(NIST)發(fā)表的一項(xiàng)研究發(fā)現(xiàn)：在進(jìn)行一種被稱為“一對(duì)一”匹配的特定類型的數(shù)據(jù)庫(kù)搜索時(shí)，不少面部識(shí)別系統(tǒng)錯(cuò)誤地識(shí)別了非裔美國(guó)人和亞洲人的面孔，相較于白人，亞裔和非裔的人臉識(shí)別錯(cuò)誤率要高10到100倍。

　　而除了偏見問題之外，人臉識(shí)別技術(shù)的可擴(kuò)展性也使得該項(xiàng)技術(shù)正在濫用。今年，紐約警察局通過面部識(shí)別系統(tǒng)錯(cuò)誤將演員伍迪·哈里森識(shí)別為嫌疑人；中國(guó)通過，面部識(shí)別系統(tǒng)用來進(jìn)行反恐等活動(dòng)來保障國(guó)家公共安全；初創(chuàng)公司AnyVision旗下的面部識(shí)別產(chǎn)品也因被用來監(jiān)視居住在約旦河西岸的巴勒斯坦人而備受關(guān)注。

　　越來越多的活動(dòng)人士、學(xué)者和立法者呼吁限制或徹底禁止面部識(shí)別技術(shù)。2019年5月，舊金山禁止警察或市政部門使用面部識(shí)別技術(shù)；奧克蘭在6月也緊隨其后，之后伯克利通過了關(guān)于面部識(shí)別技術(shù)的禁令。2019年秋天，美國(guó)加州頒布了一項(xiàng)為期三年的禁令：禁止在執(zhí)法隨身相機(jī)中使用面部識(shí)別技術(shù)；以及2018年在美國(guó)眾議院監(jiān)督和改革委員會(huì)的兩次聽證會(huì)上，美國(guó)國(guó)會(huì)一些最著名的共和黨人和民主黨人共同提出了關(guān)于面部識(shí)別的立法改革建議， 2019年商業(yè)面部識(shí)別隱私法案的出臺(tái)，要求企業(yè)在使用面部識(shí)別軟件之前必須獲得公眾許可。

　　鑒于面部識(shí)別在美國(guó)國(guó)會(huì)、學(xué)術(shù)界、州議會(huì)和國(guó)會(huì)山等公共論壇上引發(fā)的激烈爭(zhēng)論，可以說面部識(shí)別過去是，將來也將是一個(gè)熱點(diǎn)話題。

　　深度偽造（自我審查和深度造假）

　　2019年2月，OpenA打破了學(xué)術(shù)規(guī)范，決定不公開用于訓(xùn)練其最先進(jìn)的自然語(yǔ)言處理模型GPT-2的語(yǔ)料庫(kù)，也不公開與之相關(guān)的訓(xùn)練代碼。OpenAI在一篇證明其決定合理性的博客文章中表示，它擔(dān)心這些信息可能被用來生成有關(guān)特定公司的合成新聞，比如種族主義或性別歧視的文章，以及亞馬遜(Amazon)或Yelp等網(wǎng)站上的虛假評(píng)論。

　　OpenAI隨后發(fā)布了幾個(gè)更小、更簡(jiǎn)單的GPT-2版本，并研究了它們的接收情況以及它們訓(xùn)練時(shí)使用的數(shù)據(jù)集。在得出“沒有強(qiáng)有力的證據(jù)”證明存在誤用之后，谷歌于上月發(fā)布了完整的模型——該模型對(duì)從網(wǎng)上搜集的800萬(wàn)份文本文件進(jìn)行了訓(xùn)練。

　　OpenAI此項(xiàng)決定的批評(píng)者認(rèn)為，該公司夸大了他們的工作將帶來的危險(xiǎn)，并在不經(jīng)意間激起了人們對(duì)人工智能和機(jī)器學(xué)習(xí)的激烈討論。除此之外，他們認(rèn)為OpenAI剝奪了研究人員獲得突破性人工智能技術(shù)的機(jī)會(huì)，從而使他們處于不利地位，而且它有效地阻止了研究人員識(shí)別GPT-2中的錯(cuò)誤或提出潛在的對(duì)策。

　　盡管批評(píng)者的表述不無道理，但OpenAI的擔(dān)憂并非完全沒有根據(jù)。在2019年，利用人工智能將現(xiàn)有圖像、音頻記錄或視頻中的人物替換成其他人的肖像的深度贗品或媒體數(shù)量迅速增加。Deeptrace在6月和7月發(fā)現(xiàn)了14,698個(gè)網(wǎng)絡(luò)上的深度造假視頻，比去年12月增加了84%。這組數(shù)據(jù)讓人感到不安，不僅因?yàn)樯疃仍旒仝I品可能被用來在選舉期間左右公眾輿論，或?qū)⒛橙司砣胨麄儧]有犯下的罪行當(dāng)中，還因?yàn)樗鼈円呀?jīng)被用來制作色情材料，并騙取公司數(shù)億美元。

　　包括Facebook、微軟和亞馬遜在內(nèi)的科技巨頭已與麻省理工學(xué)院和康奈爾大學(xué)在內(nèi)的學(xué)術(shù)合作伙伴合作，幫助抵抗由人工智能引發(fā)的誤導(dǎo)性媒體的傳播，但OpenAI不愿發(fā)布自己的模型，預(yù)示著這種深度抵抗也面臨著不小的挑戰(zhàn)。實(shí)際上，益百利預(yù)測(cè)，到2020年，網(wǎng)絡(luò)罪犯將利用人工智能技術(shù)擾亂商業(yè)企業(yè)的運(yùn)營(yíng)，并在各國(guó)之間制造地緣政治混亂。

　　隱私

　　盡管深度學(xué)習(xí)和人工智能給人們帶來了惠利，但它們還存在一個(gè)主要的隱私問題。

　　皇家自由倫敦NHS基金會(huì)是英國(guó)國(guó)家醫(yī)療服務(wù)中心的一個(gè)分支機(jī)構(gòu)，在未經(jīng)患者的同意下，皇家自由倫敦NHS基金會(huì)向谷歌旗下的DeepMind提供了160萬(wàn)名患者的數(shù)據(jù)。谷歌(其與阿森松島的健康數(shù)據(jù)共享伙伴關(guān)系在11月成為審查的對(duì)象)放棄了發(fā)布胸部x光掃描的計(jì)劃，因?yàn)閾?dān)心其中包含個(gè)人身份信息；在2019年的夏天，微軟悄悄刪除了其最大的公開人臉識(shí)別數(shù)據(jù)庫(kù)MSCeleb，該數(shù)據(jù)庫(kù)擁有超過1000萬(wàn)張圖像，將近10萬(wàn)人的面部信息。而伴隨著微軟刪除了 MS-Celeb-1M 數(shù)據(jù)庫(kù)，另外兩個(gè)學(xué)術(shù)單位也刪除了它們旗下的類似相關(guān)數(shù)據(jù)庫(kù)，包括由杜克大學(xué)研究人員建造的 Duke MTMC 監(jiān)控?cái)?shù)據(jù)庫(kù)和斯坦福大學(xué)的 Brainwash 數(shù)據(jù)庫(kù)；而ImageNet，一個(gè)常用來訓(xùn)練計(jì)算機(jī)視覺算法的開源庫(kù)，被發(fā)現(xiàn)在某些時(shí)候包含從Google，F(xiàn)lickr和其他地方刮取的親密行為的描述。

　　此外，包括蘋果和谷歌在內(nèi)的科技巨頭也先后被媒體披露，為了改進(jìn)Siri和谷歌Assistant等助手功能而收集的錄音可能被濫用。今年4月，彭博社披露，亞馬遜雇傭合同工，為裝有alexa的設(shè)備上數(shù)千小時(shí)的音頻進(jìn)行人工注釋，這促使該公司推出面向用戶的工具，快速刪除云存儲(chǔ)數(shù)據(jù)。

　　而以上事件的發(fā)生都是不合理、有問題的存在。因?yàn)樵谠絹碓蕉嗟那闆r下，隱私不僅僅是一個(gè)哲學(xué)問題，并且包含可商業(yè)中的利害關(guān)系。在這種背景下，州、地方和聯(lián)邦先后頒布各級(jí)法律，旨在使隱私成為合規(guī)管理的強(qiáng)制性部分。目前，美國(guó)50個(gè)州、地區(qū)和哥倫比亞特區(qū)正在或已經(jīng)通過了數(shù)百項(xiàng)涉及隱私、網(wǎng)絡(luò)安全和數(shù)據(jù)泄露的法案?？梢哉f，其中最全面的是大約兩年前簽署的《加州消費(fèi)者隱私法》(California Consumer Privacy Act)。這還不包括健康保險(xiǎn)可攜性和責(zé)任法案(HIPAA)，該法案要求公司在披露個(gè)人健康信息之前必須獲得授權(quán)。

　　而為了保障公民的隱私問題，谷歌以及其他公司也先后發(fā)布了TensorFlow Privacy和PySyft等用于機(jī)器學(xué)習(xí)框架(包括TensorFlow和PyTorch)的庫(kù)，這些庫(kù)使用差別隱私等技術(shù)來提供強(qiáng)大的隱私保障。與此同時(shí)，他們還采用了包括聯(lián)邦學(xué)習(xí)在內(nèi)的技術(shù)，通過分散的設(shè)備或服務(wù)器(即人工智能)來訓(xùn)練人工智能。如，同態(tài)加密是一種密碼學(xué)的形式，它支持對(duì)使用算法(也稱為密文)加密的明文(文件內(nèi)容)進(jìn)行計(jì)算。在完全管理的服務(wù)方面，像亞馬遜這樣的科技巨頭已經(jīng)開始讓他們的產(chǎn)品符合HIPAA這樣的規(guī)定。

　　自動(dòng)化

　　盡管人們對(duì)人工智能對(duì)其職位所帶來的擔(dān)憂可能被夸大了，但不可否認(rèn)的是，因人工智能而出現(xiàn)的自動(dòng)化正在降低行業(yè)對(duì)勞動(dòng)力的需求。

　　麥肯錫全球研究所2019年早些時(shí)候發(fā)布的一份報(bào)告發(fā)現(xiàn)，在人工智能和機(jī)器學(xué)習(xí)帶來不利變化的職業(yè)中，女性將占主導(dǎo)地位。到2030年，在占GDP 60%以上的10個(gè)經(jīng)濟(jì)體中，男性占多數(shù)的工作崗位中，約有40%的工作崗位將被自動(dòng)化取代。而在自動(dòng)化潛力很大的以女性為主的工作崗位中，自動(dòng)化取代率達(dá)到了52%。

　　這個(gè)觀點(diǎn)與英國(guó)國(guó)家統(tǒng)計(jì)局在2019年3月發(fā)布的一份報(bào)告相符，

　　國(guó)家統(tǒng)計(jì)局預(yù)測(cè)，服務(wù)行業(yè)的員工——主要是服務(wù)員、零售庫(kù)存回收人員和初級(jí)銷售人員——以及農(nóng)業(yè)、汽車和服務(wù)行業(yè)的員工將受到不同程度的影響。勞工部預(yù)測(cè)，在2017年占高風(fēng)險(xiǎn)工作70.2%的女性將承受即將到來的勞動(dòng)力市場(chǎng)變化的沖擊。

　　這些觀點(diǎn)與英國(guó)國(guó)家統(tǒng)計(jì)局(ONS) 2019年3月的一份報(bào)告相一致，英國(guó)10%的勞動(dòng)力（約150萬(wàn)工人）從事著 “高風(fēng)險(xiǎn)”的自動(dòng)化工作。英國(guó)國(guó)家統(tǒng)計(jì)局預(yù)測(cè)，服務(wù)行業(yè)的員工——主要是服務(wù)員、零售庫(kù)存回收人員和初級(jí)銷售人員以及農(nóng)業(yè)、汽車和服務(wù)行業(yè)的員工將受到不同程度的影響，他們認(rèn)為，在2017年占高風(fēng)險(xiǎn)工作70.2%的女性將承受即將到來的勞動(dòng)力市場(chǎng)變化的沖擊。

　　不管人們從事新的工作還是在目前的領(lǐng)域獲得新的技能，預(yù)計(jì)到2030年，數(shù)千萬(wàn)工人將不得不進(jìn)行某種形式的職業(yè)轉(zhuǎn)型。Forrester發(fā)現(xiàn)，自動(dòng)化可能會(huì)在未來幾個(gè)月里代替10%的美國(guó)工作崗位。世界經(jīng)濟(jì)論壇、普華永道、麥肯錫全球研究院和高德納都曾預(yù)測(cè)，到2025年，人工智能可能會(huì)代替多達(dá)7500萬(wàn)個(gè)工作崗位。

　　人工智能行業(yè)的未來

　　人工智能發(fā)展面臨著艱巨的挑戰(zhàn)：在很大程度上，面部識(shí)別依舊是機(jī)器學(xué)習(xí)的一種有效的且不受到監(jiān)管的應(yīng)用，且這種應(yīng)用正在不斷加?。簧疃葌窝b給科技公司、學(xué)術(shù)機(jī)構(gòu)以及普通公眾帶來了沉重的壓力；人工智能中隱私問題的最終解決方案是難以捉摸的；不管工人們是否重新調(diào)整工作，自動(dòng)化預(yù)計(jì)將影響數(shù)百萬(wàn)人的生計(jì)。

　　2020年人工智能行業(yè)將迎來怎樣的變化，誰(shuí)也無法給出答案。但對(duì)于人工智能帶來的所有問題，都在不斷發(fā)生變化。2019年，人工智能在蛋白質(zhì)折疊方面達(dá)到了最先進(jìn)的水平，這可能為新的療法和藥物鋪平道路；機(jī)器學(xué)習(xí)的各種實(shí)現(xiàn)被用來應(yīng)對(duì)全球氣候變化；人工智能允許有語(yǔ)言和聽力障礙的人使用以前無法使用的產(chǎn)品……

　　人工智能是一把雙刃劍，與任何技術(shù)的發(fā)展一樣，人工智能要發(fā)展，總得犧牲某些利益為代價(jià)。

      （本文編譯自外網(wǎng)，內(nèi)容尚有增減）