11月16日電 據(jù)“國家安全部”微信號(hào)16日消息，對(duì)于如何化解人工智能帶來的國家安全挑戰(zhàn)，國家安全部表示，國家安全機(jī)關(guān)將強(qiáng)化科技賦能、數(shù)字賦能，不斷推進(jìn)國家安全體系和能力現(xiàn)代化，為應(yīng)對(duì)人工智能的風(fēng)險(xiǎn)挑戰(zhàn)筑牢國家安全屏障。
國家安全部稱，今年以來，以ChatGPT為代表的人工智能技術(shù)迅速發(fā)展，使人驚呼“未來已來”。當(dāng)前，人工智能技術(shù)正廣泛應(yīng)用于金融、醫(yī)療、交通、制造業(yè)等領(lǐng)域，對(duì)經(jīng)濟(jì)社會(huì)發(fā)展和人類文明進(jìn)步產(chǎn)生深遠(yuǎn)影響，給世界帶來巨大機(jī)遇。同時(shí)，也不能忽視其蘊(yùn)含的潛在風(fēng)險(xiǎn)挑戰(zhàn)，很可能在不久的將來深刻改變現(xiàn)有國家安全格局。
國家安全部表示，這引出一個(gè)國家安全的新領(lǐng)域——人工智能安全。
人工智能可能帶來哪些國家安全領(lǐng)域的風(fēng)險(xiǎn)，國家安全部提出以下五點(diǎn)：
數(shù)據(jù)竊取風(fēng)險(xiǎn)。人工智能需要海量的數(shù)據(jù)來進(jìn)行學(xué)習(xí)和訓(xùn)練，這些數(shù)據(jù)中可能包含用戶大量敏感信息。如果這些信息被濫用或泄露，可能會(huì)對(duì)個(gè)人隱私、國家安全造成嚴(yán)重危害。
網(wǎng)絡(luò)攻擊風(fēng)險(xiǎn)。人工智能可以成為破壞網(wǎng)絡(luò)安全和管理的“幫兇”。在人工智能的協(xié)助下，網(wǎng)絡(luò)攻擊者可以隨時(shí)隨地對(duì)特定目標(biāo)輕易發(fā)起針對(duì)性和隱蔽性很強(qiáng)的進(jìn)攻，將互聯(lián)網(wǎng)空間變成人人自危的“黑暗森林”。
經(jīng)濟(jì)安全風(fēng)險(xiǎn)。人工智能技術(shù)在一定程度上會(huì)成為人力工作的“高效替代品”，進(jìn)而對(duì)國家經(jīng)濟(jì)安全、社會(huì)安全甚至政治安全造成沖擊；人工智能技術(shù)也可以被用來實(shí)施經(jīng)濟(jì)破壞活動(dòng)，例如通過操縱宣傳導(dǎo)致金融市場(chǎng)恐慌。
“數(shù)據(jù)投毒”風(fēng)險(xiǎn)。“數(shù)據(jù)投毒”是指在人工智能訓(xùn)練數(shù)據(jù)中投放惡意數(shù)據(jù)，干擾數(shù)據(jù)分析模型正常運(yùn)行的行為。在智能汽車系統(tǒng)中“投毒”，可能導(dǎo)致交通事故;在輿論宣傳中“投毒”，一些負(fù)面思想可以更加隱蔽地滲透到群眾思想觀念中。
軍事安全風(fēng)險(xiǎn)。一方面，人工智能可被用在致命性自主武器(LAW)上，通過自主識(shí)別攻擊目標(biāo)、遠(yuǎn)程自動(dòng)化操作等，隱藏攻擊者來源、建立對(duì)抗優(yōu)勢(shì)；另一方面，人工智能可以將網(wǎng)絡(luò)、決策者和操作者相連接，讓軍事行動(dòng)針對(duì)性更強(qiáng)、目標(biāo)更明確、打擊范圍更廣。
此外，國家安全部提出，面對(duì)人工智能技術(shù)發(fā)展帶來的新機(jī)遇和新挑戰(zhàn)，如何應(yīng)對(duì)人工智能風(fēng)險(xiǎn)并把握人工智能發(fā)展的戰(zhàn)略主動(dòng)，有效保障國家安全，是全球國家安全治理的重要議題。
完善法律法規(guī)，聚焦人工智能重點(diǎn)領(lǐng)域安全應(yīng)用、倫理道德約束等方面，制定更多更明確的法規(guī)政策、行業(yè)規(guī)范，保障人工智能研發(fā)和應(yīng)用中的個(gè)人隱私與數(shù)據(jù)安全，確保人工智能安全、可靠、可控。
加強(qiáng)前瞻布局，支持以人工智能技術(shù)防范人工智能風(fēng)險(xiǎn)，積極發(fā)展用于人工智能治理的相關(guān)技術(shù)開發(fā)與應(yīng)用，貫徹敏捷治理和多維治理原則，積極構(gòu)建多方參與的人工智能治理體系。
堅(jiān)決打擊犯罪，依法打擊利用人工智能進(jìn)行危害國家安全的犯罪行為，并督促人工智能行業(yè)和用戶個(gè)人自覺提升防范意識(shí)、遵守法律法規(guī)，履行維護(hù)國家安全主體責(zé)任。
推動(dòng)全球治理，積極發(fā)揮多邊機(jī)制作用，拓展“以人為本”“智能向善”共識(shí)，形成具有廣泛共識(shí)的治理框架和標(biāo)準(zhǔn)規(guī)范，推動(dòng)各國在人工智能治理中加強(qiáng)信息交流和技術(shù)合作，共同做好風(fēng)險(xiǎn)防范。
國家安全部強(qiáng)調(diào)，國家安全機(jī)關(guān)將強(qiáng)化科技賦能、數(shù)字賦能，不斷推進(jìn)國家安全體系和能力現(xiàn)代化，為應(yīng)對(duì)人工智能的風(fēng)險(xiǎn)挑戰(zhàn)筑牢國家安全屏障。
a&s傳媒是全球知名展覽公司法蘭克福展覽集團(tuán)旗下的專業(yè)媒體平臺(tái)，自1994年品牌成立以來，一直專注于安全&自動(dòng)化產(chǎn)業(yè)前沿產(chǎn)品、技術(shù)及市場(chǎng)趨勢(shì)的專業(yè)媒體傳播和品牌服務(wù)。從安全管理到產(chǎn)業(yè)數(shù)字化，a&s傳媒擁有首屈一指的國際行業(yè)展覽會(huì)資源以及豐富的媒體經(jīng)驗(yàn)，提供媒體、活動(dòng)、展會(huì)等整合營銷服務(wù)。
粵公網(wǎng)安備 44030402000264號(hào)
