據(jù)美“情報(bào)與偵察”網(wǎng)站5月4日?qǐng)?bào)道，五角大樓已正式公布人工智能五大倫理原則，即負(fù)責(zé)、公平、可追蹤、可靠和可控。無(wú)論作戰(zhàn)還是非作戰(zhàn)人工智能系統(tǒng)，均須遵守上述原則，否則美國(guó)防部將不予部署。
“負(fù)責(zé)”，指開發(fā)者和使用者須對(duì)人工智能系統(tǒng)的開發(fā)、部署、使用和造成的結(jié)果負(fù)責(zé)。根據(jù)官方指導(dǎo)文件，在開發(fā)階段，開發(fā)者需為人工智能系統(tǒng)確定合理的活動(dòng)界限。以自動(dòng)駕駛系統(tǒng)為例，必須確定其劇烈運(yùn)動(dòng)的上下界限，以免在使用時(shí)導(dǎo)致事故發(fā)生。在部署階段，使用者應(yīng)為人工智能系統(tǒng)建立清晰的指揮鏈條，并明確操作者、指揮者的身份，避免發(fā)生混亂。
“公平”，指五角大樓應(yīng)最大限度減少人為偏差對(duì)人工智能系統(tǒng)的影響。眾所周知，機(jī)器學(xué)習(xí)的過程就是對(duì)人工輸入數(shù)據(jù)的分析過程。如果輸入者心存偏差，所輸入數(shù)據(jù)必然不全面，人工智能系統(tǒng)就失去了公平的學(xué)習(xí)環(huán)境。比如，人臉識(shí)別系統(tǒng)要提高識(shí)別率，需要對(duì)大量面部影像進(jìn)行對(duì)比和判斷，如果被輸入的面部影像只局限于某一性別或某一種族，勢(shì)必導(dǎo)致人臉識(shí)別系統(tǒng)的準(zhǔn)確率下降。
“可追蹤”，指人工智能系統(tǒng)在其使用周期內(nèi)的透明性，即從開發(fā)、部署到使用的各個(gè)環(huán)節(jié)都要留下準(zhǔn)確的記錄，比如研發(fā)手段、數(shù)據(jù)源、設(shè)計(jì)程序、使用檔案等。技術(shù)專家或用戶可對(duì)此進(jìn)行研究。一旦發(fā)生故障，他們可從研發(fā)數(shù)據(jù)庫(kù)或文檔查找源頭，及時(shí)、快速予以排除，避免人工智能系統(tǒng)失控。
“可靠”，五角大樓給出的定義是“安全、穩(wěn)定和有效”。具體而言，人工智能系統(tǒng)的可靠性建立在“可追蹤性”基礎(chǔ)上，即當(dāng)系統(tǒng)出現(xiàn)不穩(wěn)定現(xiàn)象或效率下降時(shí)，技術(shù)人員應(yīng)對(duì)系統(tǒng)數(shù)據(jù)庫(kù)和傳感器記錄進(jìn)行回溯追蹤，找出與正常狀態(tài)的不同之處并進(jìn)行處理。比如，當(dāng)自動(dòng)駕駛系統(tǒng)出現(xiàn)不安全或不穩(wěn)定苗頭時(shí)，技術(shù)人員須第一時(shí)間調(diào)閱開發(fā)者為其規(guī)定的活動(dòng)界限并與實(shí)際界限對(duì)比，對(duì)變化因素進(jìn)行及時(shí)糾正。正常情況下，可靠的人工智能系統(tǒng)會(huì)在無(wú)法做出判斷的情況下與操作人員或后方數(shù)據(jù)庫(kù)進(jìn)行溝通，以確定最終結(jié)果。
“可控”，指人工智能系統(tǒng)探測(cè)和避免意外發(fā)生的能力。五角大樓認(rèn)為，可控的人工智能系統(tǒng)應(yīng)具備足夠的抗干擾能力，并在發(fā)生意外或其他針對(duì)人類的惡意行為時(shí)，通過自動(dòng)或手動(dòng)方式停止工作。這種能力在設(shè)計(jì)階段就要嵌入人工智能系統(tǒng)。比如，一部自動(dòng)駕駛車輛本不需要方向盤，但設(shè)計(jì)人員仍會(huì)安裝方向盤，就是為確保發(fā)生意外時(shí)乘坐者能夠切換為手動(dòng)駕駛。
a&s傳媒是全球知名展覽公司法蘭克福展覽集團(tuán)旗下的專業(yè)媒體平臺(tái)，自1994年品牌成立以來(lái)，一直專注于安全&自動(dòng)化產(chǎn)業(yè)前沿產(chǎn)品、技術(shù)及市場(chǎng)趨勢(shì)的專業(yè)媒體傳播和品牌服務(wù)。從安全管理到產(chǎn)業(yè)數(shù)字化，a&s傳媒擁有首屈一指的國(guó)際行業(yè)展覽會(huì)資源以及豐富的媒體經(jīng)驗(yàn)，提供媒體、活動(dòng)、展會(huì)等整合營(yíng)銷服務(wù)。
粵公網(wǎng)安備 44030402000264號(hào)
