繼2018年5月25生效的《歐盟一般數(shù)據(jù)保護(hù)條例》(江湖人稱“GDPR”)后，今年4月21日，歐盟首次發(fā)布了針對(duì)人工智能技術(shù)的監(jiān)管法規(guī)草案(如下)，長達(dá)108頁，探討了企業(yè)與政府應(yīng)該如何使用人工智能技術(shù)。

　　鏈接：https://digital-strategy.ec.europa.eu/en/library/proposal-regulation-laying-down-harmonised-rules-artificial-intelligence-artificial-intelligence

　　在這項(xiàng)草案中，AI的一系列應(yīng)用范圍都受到了不同程度的限制，包括自動(dòng)駕駛、招聘簡歷過濾、銀行貸款、入學(xué)篩選與測(cè)試評(píng)分等等，原因是：可能威脅到公民的人身安全與基本權(quán)利。

　　其中，計(jì)算機(jī)視覺應(yīng)用最火的人臉識(shí)別技術(shù)，在公共場(chǎng)合的應(yīng)用更是被高度禁止，除非是用于尋找失蹤兒童、防止恐怖活動(dòng)威脅或識(shí)別刑事犯罪人員等特殊情況。即使有特殊情況，在公共場(chǎng)合應(yīng)用人臉識(shí)別技術(shù)，也需要獲得司法機(jī)構(gòu)或其他獨(dú)立機(jī)構(gòu)的授權(quán)，并有時(shí)間、地理范圍和所搜索數(shù)據(jù)庫的限制。

　　違反新法規(guī)的公司，可能會(huì)面臨高達(dá)全球銷售額6%(最高2000萬歐元)的罰款。

　　歐盟AI監(jiān)管法規(guī)詳情

　　根據(jù)歐盟的法規(guī)草案，對(duì)人工智能應(yīng)用的監(jiān)管根據(jù)風(fēng)險(xiǎn)等級(jí)，主要分為絕對(duì)禁止、高風(fēng)險(xiǎn)、較小風(fēng)險(xiǎn)與最小風(fēng)險(xiǎn)等四類。

　　1、絕對(duì)禁止的風(fēng)險(xiǎn)：對(duì)人類的安全、和權(quán)利構(gòu)成明顯威脅的AI系統(tǒng)將被禁止。這包括操縱人類行為，以違反用戶自由意志的AI系統(tǒng)或應(yīng)用程序，例如通過語音協(xié)助、鼓勵(lì)未成年人進(jìn)行危險(xiǎn)行為的玩具，或供政府進(jìn)行“社交評(píng)分”的系統(tǒng)。

　　2、高風(fēng)險(xiǎn)：被確定為高風(fēng)險(xiǎn)的AI系統(tǒng)包括有以下應(yīng)用的AI技術(shù)：

　　重要的基礎(chǔ)設(shè)施(例如運(yùn)輸)，可能將公民的生命和健康置于危險(xiǎn)中;

　　教育或職業(yè)培訓(xùn)，可能決定人們接受教育和專業(yè)課程(例如考試成績);

　　產(chǎn)品的安全組件(例如AI在機(jī)器輔助手術(shù)中的應(yīng)用);

　　就業(yè)，工人管理和自聘職業(yè)(例如招聘流程中使用的簡歷分類軟件);

　　重要的私人和公共服務(wù)(例如信用評(píng)分，剝奪了公民獲得貸款的機(jī)會(huì));

　　可能會(huì)侵犯人們基本權(quán)利的執(zhí)法活動(dòng)(例如評(píng)估證據(jù)的可信度);

　　移民，庇護(hù)和邊境管制管理(例如核實(shí)旅行證件的真實(shí)性);

　　司法和民主程序的執(zhí)行(例如，將法律應(yīng)用于具體事件)。

　　高風(fēng)險(xiǎn)的AI系統(tǒng)在投放于市場(chǎng)之前，必須遵守嚴(yán)格的義務(wù)：

　　足夠的風(fēng)險(xiǎn)評(píng)估和紓解系統(tǒng);

　　提供給系統(tǒng)的高質(zhì)量數(shù)據(jù)集可最大程度地降低風(fēng)險(xiǎn)和歧視;

　　記錄活動(dòng)以確保結(jié)果的可追溯性;

　　詳細(xì)的文件，提供有關(guān)系統(tǒng)及其構(gòu)建目標(biāo)的所有必要信息，以供當(dāng)局評(píng)估其合規(guī)性;

　　向用戶提供清晰、充足的信息;

　　適當(dāng)?shù)娜藶楸O(jiān)督措施，以最大程度地降低風(fēng)險(xiǎn);

　　高水平的魯棒性、安全性和準(zhǔn)確性。

　　歐盟新法規(guī)要求，提供高風(fēng)險(xiǎn)人工智能技術(shù)的公司要向監(jiān)管機(jī)構(gòu)提供安全證明文件，包括風(fēng)險(xiǎn)評(píng)估與解釋該技術(shù)如何做決策的文檔。企業(yè)還需要保證人為監(jiān)督系統(tǒng)的創(chuàng)建與使用方法。

　　需要注意的是，所遠(yuǎn)程生物識(shí)別系統(tǒng)都被認(rèn)為是高風(fēng)險(xiǎn)的，并有嚴(yán)格的要求。原則上，這類系統(tǒng)被禁止在公共場(chǎng)合進(jìn)行執(zhí)法使用，除非是有特殊情況，比如尋找失蹤兒童，防止特定類型的、迫在眉睫的恐怖威脅，或者偵查、定位、識(shí)別或起訴犯有嚴(yán)重刑事罪行的犯罪者或嫌疑人。此類使用需要獲得司法機(jī)構(gòu)或其他獨(dú)立機(jī)構(gòu)的授權(quán)，并受時(shí)間、地理范圍和所搜索數(shù)據(jù)庫的一定限制。

　　3、較小風(fēng)險(xiǎn)(如具有透明義務(wù)的AI系統(tǒng))：在使用聊天機(jī)器人(chatbot)等AI系統(tǒng)時(shí)，用戶應(yīng)意識(shí)到他們是在與機(jī)器交流，以做出繼續(xù)交流或停止交流的決定。

　　4、最小風(fēng)險(xiǎn)：這條法規(guī)建議允許免費(fèi)使用AI賦能的視頻游戲或垃圾郵件過濾器等應(yīng)用程序。絕大多數(shù)AI系統(tǒng)都屬于這一類。該法規(guī)草案不對(duì)此類AI進(jìn)行干預(yù)，因?yàn)樗鼈儗?duì)公民的權(quán)利或安全所造成的風(fēng)險(xiǎn)極小，或沒有任何風(fēng)險(xiǎn)。

　　該條例的目的是為了促進(jìn)可信賴人工智能技術(shù)的發(fā)展，提高歐洲人民對(duì)人工智能技術(shù)的信任度。如若通過，該法規(guī)將適用于歐盟所有成員國。違反新法規(guī)的公司，可能會(huì)面臨高達(dá)全球銷售額6%的罰款。

　　對(duì)人工智能的警惕并不只局限于歐洲。美國當(dāng)局也開始考慮對(duì)人工智能進(jìn)行監(jiān)管。比如，當(dāng)?shù)貢r(shí)間4月19日，聯(lián)邦貿(mào)易委員會(huì)(Federal Trade Commission)便發(fā)文警告企業(yè)不要出售使用種族歧視算法，或可能“剝奪人們的就業(yè)，住房，信貸，保險(xiǎn)或其他福利”的人工智能系統(tǒng)。美國的其他地區(qū)，如馬薩諸塞州，政府已采取措施，對(duì)警察使用面部識(shí)別進(jìn)行限制。

　　如何看待加強(qiáng)監(jiān)管

　　這項(xiàng)法規(guī)是全球所有國家與地區(qū)的首次嘗試。根據(jù)斯坦福大學(xué)發(fā)布的《2021年人工智能指數(shù)報(bào)告》(Artificial Intelligence Index Report 2021)顯示，此前2015年至2020年間發(fā)布了117個(gè)AI倫理道德方面的文件，但只是“原則”層面，而不是“法規(guī)”層面。

　　根據(jù)《紐約時(shí)報(bào)》的報(bào)道，歐盟法規(guī)草案發(fā)布后，引起了不同的觀點(diǎn)與討論。許多業(yè)界團(tuán)隊(duì)認(rèn)為該法規(guī)沒有進(jìn)一步加強(qiáng)管控，如釋重負(fù)，而民間社會(huì)組織則認(rèn)為對(duì)AI的管控還可以更進(jìn)一步。

　　許多人擔(dān)心該政策過于寬泛，為企業(yè)與技術(shù)開發(fā)者進(jìn)行自我監(jiān)督留了很大的自由空間。

　　雖然歐盟將通過質(zhì)量管理和評(píng)估程序嚴(yán)格管控，但一些人工智能技術(shù)供應(yīng)商將被允許進(jìn)行自我合規(guī)測(cè)評(píng)。數(shù)字權(quán)利組織 EDRi 的高級(jí)政策顧問 Sarah Chander 對(duì) Politico 表示：“歐盟委員會(huì)將合規(guī)交給了人工智能供應(yīng)商，這可能會(huì)損害(人們的)基本權(quán)利，甚至可能讓公共當(dāng)局逍遙法外?！?/p>

　　來自倫敦Ada Lovelace研究所(主要研究人工智能倫理)的主任Carly Kind表示：“如果法規(guī)沒有規(guī)定嚴(yán)格的紅線與準(zhǔn)則，也沒有標(biāo)明可接受的界限，那么它會(huì)有很大的解釋空間。”

　　一些科技行業(yè)的工作人員則感到寬慰，對(duì)高風(fēng)險(xiǎn)應(yīng)用的合規(guī)要求表示贊許。比如，計(jì)算機(jī)與通信行業(yè)協(xié)會(huì)(Computer & Communications Industry Association)的 Christian Borggreen 對(duì)法新社指出，歐盟委員會(huì)采用了基于風(fēng)險(xiǎn)的評(píng)估方法，這很好。該協(xié)會(huì)代表了包括亞馬遜、Facebook 和谷歌在內(nèi)的多家科技巨頭。

　　知名人工智能專家與風(fēng)險(xiǎn)投資人Mark Minevich認(rèn)為，強(qiáng)調(diào)監(jiān)管AI是為了提高人類的生活水平，但監(jiān)管不應(yīng)過度限制AI系統(tǒng)的實(shí)驗(yàn)與開發(fā)。

　　他提到，高風(fēng)險(xiǎn)AI系統(tǒng)應(yīng)該始終配有人為監(jiān)管與控制。而用于與人交互或內(nèi)容生成的AI系統(tǒng)，無論是否屬于高風(fēng)險(xiǎn)，都應(yīng)該遵守透明義務(wù)。

　　他也認(rèn)為，這項(xiàng)法規(guī)草案會(huì)削弱歐洲的人工智能技術(shù)發(fā)展，而與此同時(shí)，中國與美國的人工智能技術(shù)正在飛躍發(fā)展。換言之，這項(xiàng)草案也許會(huì)束縛歐洲在AI方面的落地與創(chuàng)新，使歐洲落后于新的技術(shù)發(fā)展潮流。

　　Mark Minevich還提出：歐盟對(duì)AI的投資極少，是其在AI競(jìng)賽上輸給美國與中國的主要原因。歐盟居住人口4.46億，美國居住人口3.31億，但在2020年，歐盟對(duì)AI的投入只有20億美元，而美國達(dá)到了236億美元。歐洲的風(fēng)險(xiǎn)投資模式落后于美國，導(dǎo)致歐洲許多快速發(fā)展的初創(chuàng)企業(yè)轉(zhuǎn)而依賴于美國與亞洲的投資者。