人工智能應(yīng)用方興未艾 同時(shí)也帶來(lái)安全風(fēng)險(xiǎn)隱患
觀眾在首屆中國(guó)國(guó)際智能產(chǎn)業(yè)博覽會(huì)上體驗(yàn)醫(yī)療人工智能產(chǎn)品。新華社發(fā)
人工智能技術(shù)和應(yīng)用飛速發(fā)展,在推動(dòng)經(jīng)濟(jì)社會(huì)創(chuàng)新發(fā)展的同時(shí),也帶來(lái)安全、倫理、法律法規(guī)等方面的風(fēng)險(xiǎn)挑戰(zhàn)。
隨著數(shù)據(jù)越來(lái)越多被收集,應(yīng)用場(chǎng)景增加,用戶個(gè)人信息泄露的風(fēng)險(xiǎn)也隨之提升。
人工智能的研究和應(yīng)用要有倫理和法律界限,即應(yīng)以人類(lèi)的根本利益和責(zé)任為原則。
剛剛結(jié)束的全國(guó)兩會(huì)上,“拓展‘智能+’”首次被寫(xiě)入今年的《政府工作報(bào)告》,作為未來(lái)的重要基礎(chǔ)性技術(shù),人工智能已連續(xù)三年出現(xiàn)在《政府工作報(bào)告》中??梢灶A(yù)見(jiàn),隨著人工智能、大數(shù)據(jù)的深入應(yīng)用,生產(chǎn)生活的數(shù)字化轉(zhuǎn)型是大勢(shì)所趨。
人們?cè)趽肀斯ぶ悄堋⑦~向數(shù)字社會(huì)的同時(shí),也需要正視人工智能等新技術(shù)應(yīng)用在安全、倫理、法律法規(guī)、社會(huì)治理等方面的挑戰(zhàn)。只有未雨綢繆,研判和防范潛在風(fēng)險(xiǎn),才能安享“智能+”的時(shí)代紅利。
人工智能應(yīng)用方興未艾,同時(shí)也帶來(lái)安全風(fēng)險(xiǎn)隱患
前不久,一項(xiàng)人工智能深度換臉技術(shù)引發(fā)爭(zhēng)議。原來(lái),這項(xiàng)技術(shù)能做到幾乎毫無(wú)痕跡地給視頻中的人物“換臉”,引發(fā)人們對(duì)隱私和肖像權(quán)被侵犯的擔(dān)憂。更深的擔(dān)憂在于,如果這一技術(shù)被濫用,是否意味著大量視頻會(huì)被“移花接木”?
今年全國(guó)兩會(huì)上,人工智能、大數(shù)據(jù)等技術(shù)應(yīng)用帶來(lái)的安全風(fēng)險(xiǎn),成為代表委員關(guān)注的焦點(diǎn)之一。全國(guó)政協(xié)委員、360集團(tuán)董事長(zhǎng)兼首席執(zhí)行官周鴻祎就表示,安全應(yīng)該成為人工智能發(fā)展的基礎(chǔ)與前提。全國(guó)人大代表、蘇寧控股集團(tuán)董事長(zhǎng)張近東也提出,數(shù)據(jù)安全是數(shù)字中國(guó)建設(shè)的重中之重,發(fā)展高質(zhì)量的數(shù)字經(jīng)濟(jì),需要加強(qiáng)對(duì)數(shù)據(jù)的安全保護(hù)和合規(guī)共享。
從信息安全角度看,當(dāng)前人工智能應(yīng)用的安全風(fēng)險(xiǎn)點(diǎn)主要有哪些?
中國(guó)信息通信研究院移動(dòng)安全聯(lián)盟秘書(shū)長(zhǎng)楊正軍說(shuō),人工智能高度依賴海量數(shù)據(jù)的采集和訓(xùn)練分析。隨著數(shù)據(jù)越來(lái)越多被收集,應(yīng)用場(chǎng)景增加,用戶個(gè)人信息泄露的風(fēng)險(xiǎn)也隨之提升。
“人工智能算法不僅能直接采集用戶個(gè)人信息,也會(huì)深度挖掘分析看似不相關(guān)的數(shù)據(jù)。”楊正軍介紹,他們開(kāi)展的一項(xiàng)調(diào)研顯示,當(dāng)前濫用個(gè)人信息現(xiàn)象較為普遍。同時(shí),人工智能及大數(shù)據(jù)場(chǎng)景下無(wú)所不在的數(shù)據(jù)收集、專(zhuān)業(yè)化多樣化的數(shù)據(jù)處理技術(shù),使得信息主體難以了解、控制其信息是如何被收集和利用的。信息安全保護(hù)已經(jīng)成為人工智能發(fā)展的重要課題。
專(zhuān)家表示,技術(shù)本身是中性的,只要利用得當(dāng),人工智能也能用來(lái)提升網(wǎng)絡(luò)安全水平。比如,人工智能在識(shí)別惡意代碼方面就很有優(yōu)勢(shì)。
北京神州綠盟科技有限公司安全研究員吳子建說(shuō),惡意代碼往往是基于一些開(kāi)源代碼修改而成,它們通常有相似的行為模式。借助人工智能技術(shù)訓(xùn)練的檢測(cè)工具,能夠比較高效地發(fā)現(xiàn)惡意代碼。
人工智能技術(shù)也普遍用于企業(yè)內(nèi)網(wǎng)安全防護(hù)。吳子建介紹,傳統(tǒng)的防護(hù)手段是在網(wǎng)絡(luò)的入口處設(shè)置防御措施,但內(nèi)網(wǎng)之間很少進(jìn)行防御。采用人工智能等技術(shù)手段關(guān)聯(lián)數(shù)據(jù),可以有效檢測(cè)內(nèi)網(wǎng)中的異常。與傳統(tǒng)的方法相比,這種方法不僅能發(fā)現(xiàn)已知威脅,還可以檢測(cè)到未知風(fēng)險(xiǎn)。
吳子建認(rèn)為,業(yè)內(nèi)還需要做更多深入的研究,不斷提升人工智能在安全防護(hù)上的價(jià)值。
應(yīng)提前研判智能時(shí)代的法律倫理風(fēng)險(xiǎn),引導(dǎo)人機(jī)良性合作
人工智能的應(yīng)用越來(lái)越多,衍生出一系列倫理、法律難題。比如,無(wú)人駕駛汽車(chē)發(fā)生交通事故時(shí)如何界定責(zé)任,醫(yī)療外科手術(shù)機(jī)器人出現(xiàn)意外怎樣處置……
“人工智能的研究和應(yīng)用要有倫理和法律界限,即應(yīng)以人類(lèi)的根本利益和責(zé)任為原則,以實(shí)現(xiàn)人類(lèi)根本利益為終極目標(biāo)。這一要求也是人工智能和人的關(guān)系決定的。”中國(guó)人民大學(xué)法學(xué)院副教授郭銳認(rèn)為。
“當(dāng)前技術(shù)條件下,智能機(jī)器尚未具備倫理決策的能力,但其決策會(huì)引發(fā)有倫理意義的后果。”郭銳認(rèn)為,通常法律針對(duì)的是能夠遵循這些原則的主體,也就是自然人或者法律看作是主體的組織(法人),但考慮到人工智能的特征是對(duì)人的智能的模擬、延伸和擴(kuò)展,因此倫理原則應(yīng)當(dāng)適用于人工智能系統(tǒng)。
北京師范大學(xué)哲學(xué)學(xué)院教授田海平認(rèn)為,人工智能的主體構(gòu)成不是孤立的個(gè)體,而是多種關(guān)聯(lián)形態(tài)的總和。“人工智能的構(gòu)成主體分為研發(fā)者(包括算法的開(kāi)發(fā)者)、生產(chǎn)商、運(yùn)營(yíng)商、電信網(wǎng)絡(luò)服務(wù)商等。一旦發(fā)生交通或醫(yī)療事故,由于無(wú)法找到某個(gè)確定的責(zé)任主體,給責(zé)任界定帶來(lái)很大困難,因此需要確立代理人來(lái)界定責(zé)任與權(quán)利。”
近年來(lái),學(xué)界和產(chǎn)業(yè)界日益重視人工智能中的倫理與法律問(wèn)題,并推動(dòng)制定相關(guān)技術(shù)標(biāo)準(zhǔn)及社會(huì)規(guī)范。專(zhuān)家表示,人工智能倫理法律涉及科學(xué)界、企業(yè)界,哲學(xué)、法學(xué)等多個(gè)領(lǐng)域,有必要成立應(yīng)對(duì)人工智能發(fā)展的聯(lián)盟組織,吸納各方面的力量,共同推進(jìn)相關(guān)研究。
郭銳建議,要考慮到人工智能開(kāi)發(fā)和部署過(guò)程中的權(quán)責(zé)歸屬,通過(guò)為技術(shù)開(kāi)發(fā)者、產(chǎn)品生產(chǎn)者或者服務(wù)提供者、使用者界定權(quán)利和義務(wù),讓自動(dòng)駕駛、無(wú)人機(jī)等人工智能應(yīng)用安全落地。
專(zhuān)家表示,人工智能大規(guī)模進(jìn)入人們生活之前,還應(yīng)建立相對(duì)統(tǒng)一的風(fēng)險(xiǎn)評(píng)估指標(biāo)體系,設(shè)立具體、可操作的指標(biāo),為相關(guān)研究及應(yīng)用提供指引。
專(zhuān)家特別提醒,人和機(jī)器各有優(yōu)勢(shì),要互相了解才能實(shí)現(xiàn)人機(jī)協(xié)作,但人還是人機(jī)關(guān)系的主導(dǎo)者。惟其如此,才能將人工智能引向人機(jī)合作的良性發(fā)展道路。
全球人工智能法律治理面臨共同難題,當(dāng)前應(yīng)加強(qiáng)個(gè)人隱私安全管理
針對(duì)人工智能應(yīng)用在安全、倫理等領(lǐng)域的潛在威脅,世界各國(guó)已經(jīng)開(kāi)始了相關(guān)法律治理研究。
楊正軍介紹,各國(guó)對(duì)人工智能風(fēng)險(xiǎn)的關(guān)注重點(diǎn)和重視程度有所不同。以安全為例,美國(guó)關(guān)注人工智能對(duì)國(guó)家安全的影響,2018年3月美國(guó)國(guó)會(huì)發(fā)起提案,建議成立國(guó)家人工智能安全委員會(huì),并將制定相關(guān)法案;歐盟和英國(guó)關(guān)注人工智能對(duì)隱私、就業(yè)及倫理的影響;俄羅斯、以色列、印度則重點(diǎn)關(guān)注人工智能在國(guó)防領(lǐng)域的應(yīng)用以及對(duì)軍事安全的影響。
北京師范大學(xué)刑科院暨法學(xué)院副教授、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心秘書(shū)長(zhǎng)吳沈括表示,在規(guī)范人工智能發(fā)展方面,我國(guó)起步較早。2017年7月,國(guó)務(wù)院頒布《新一代人工智能發(fā)展規(guī)劃》;2017年12月,工信部發(fā)布《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計(jì)劃(2018—2020年)》,都對(duì)人工智能產(chǎn)業(yè)的規(guī)范發(fā)展提出了要求。
“這些政策能夠引導(dǎo)和助推相關(guān)產(chǎn)業(yè)的發(fā)展。關(guān)于人工智能技術(shù)標(biāo)準(zhǔn),我國(guó)也發(fā)布過(guò)一些文件。然而,當(dāng)前立法中對(duì)于人工智能帶來(lái)的安全問(wèn)題還存在比較大的空白,這也是全球人工智能的法律治理面臨的共同難題。”吳沈括說(shuō)。
隨著人工智能應(yīng)用的深入,其附屬的相關(guān)風(fēng)險(xiǎn)也日益凸顯,加強(qiáng)對(duì)人工智能相關(guān)的法律治理至關(guān)重要。人工智能法律治理呈現(xiàn)出哪些趨勢(shì),現(xiàn)實(shí)中又有哪些需要迫切注意的問(wèn)題?
吳沈括認(rèn)為,人工智能立法治理上可能會(huì)呈現(xiàn)出三個(gè)趨勢(shì):一是立法將更加細(xì)化,更有針對(duì)性。比如,針對(duì)自動(dòng)駕駛、機(jī)器人、生物識(shí)別等領(lǐng)域頒布一些規(guī)范性文件,立法監(jiān)管也會(huì)更加多元;二是立法將與產(chǎn)業(yè)特性緊密結(jié)合;三是立法將以規(guī)范為主,監(jiān)管則重在為產(chǎn)業(yè)發(fā)展提供指引。
“由于法律往往存在一定的滯后性,考慮到人工智能等新技術(shù)應(yīng)用前景廣闊,立法需要預(yù)留一定的空間,盡量實(shí)現(xiàn)產(chǎn)業(yè)應(yīng)用與風(fēng)險(xiǎn)前瞻的恰當(dāng)平衡。在確定監(jiān)管什么內(nèi)容、如何監(jiān)管以及怎樣執(zhí)行時(shí),要把握好力度,不宜影響產(chǎn)業(yè)的發(fā)展活力。”吳沈括說(shuō)。
楊正軍說(shuō),從行業(yè)調(diào)研情況來(lái)看,當(dāng)前應(yīng)該加強(qiáng)個(gè)人隱私安全管理。他建議,隱私保護(hù)應(yīng)從立法監(jiān)管和技術(shù)能力提升兩方面入手:一方面,針對(duì)我國(guó)個(gè)人信息保護(hù)法律條款分散、不成體系的現(xiàn)狀,加快統(tǒng)一立法,明確數(shù)據(jù)不當(dāng)收集、使用、泄露等的責(zé)任,同時(shí)也要界定好數(shù)據(jù)歸屬權(quán)等問(wèn)題;另一方面,應(yīng)加強(qiáng)新技術(shù)在個(gè)人隱私保護(hù)方面的應(yīng)用。
數(shù)據(jù)的合理合法收集是數(shù)據(jù)利用的前提。專(zhuān)家表示,我們不應(yīng)回避智能化與隱私安全保護(hù)的沖突,而應(yīng)積極作為,找到智能時(shí)代技術(shù)應(yīng)用與風(fēng)險(xiǎn)防護(hù)的最大公約數(shù),為智能生活保駕護(hù)航。(記者 喻思南 劉詩(shī)瑤)
關(guān)鍵詞: 人工智能 風(fēng)險(xiǎn)隱患
您可能也感興趣:
- 重慶:激發(fā)人才創(chuàng)新活力,到2025年創(chuàng)新...
- 西寧加快知識(shí)產(chǎn)權(quán)強(qiáng)市建設(shè)步伐 去年兌...
- 無(wú)錫錫山區(qū)全面啟動(dòng)實(shí)施“雙招雙引” ...
- 重慶巴南區(qū)落實(shí)創(chuàng)新驅(qū)動(dòng)發(fā)展戰(zhàn)略 以科...
- 朝陽(yáng)北票經(jīng)開(kāi)區(qū)加快推進(jìn)數(shù)字經(jīng)濟(jì)發(fā)展 ...
- 湖北省先進(jìn)低碳冶金產(chǎn)業(yè)技術(shù)創(chuàng)新聯(lián)合體...
- 重慶渝北將優(yōu)化創(chuàng)新生態(tài)環(huán)境 培育打造...
- 南昌經(jīng)開(kāi)區(qū)高度重視科創(chuàng)平臺(tái)的建設(shè)工作...
今日熱點(diǎn)
為您推薦
深圳最低工資標(biāo)準(zhǔn)調(diào)整為2360元/月 失業(yè)保險(xiǎn)金為2124元/月
遼寧實(shí)施失業(yè)保險(xiǎn)省級(jí)統(tǒng)籌 對(duì)缺口核定等作出詳細(xì)規(guī)定
部分保險(xiǎn)公司推出隔離險(xiǎn) 理賠卻存在諸多限制
更多
- 重慶:激發(fā)人才創(chuàng)新活力,到2025年創(chuàng)新要素活躍度顯著增強(qiáng)
- 西寧加快知識(shí)產(chǎn)權(quán)強(qiáng)市建設(shè)步伐 去年兌現(xiàn)資助資金200萬(wàn)元
- 無(wú)錫錫山區(qū)全面啟動(dòng)實(shí)施“雙招雙引” 引進(jìn)高端創(chuàng)新資源
- 重慶巴南區(qū)落實(shí)創(chuàng)新驅(qū)動(dòng)發(fā)展戰(zhàn)略 以科技創(chuàng)新引領(lǐng)五大產(chǎn)業(yè)集...
- 朝陽(yáng)北票經(jīng)開(kāi)區(qū)加快推進(jìn)數(shù)字經(jīng)濟(jì)發(fā)展 推動(dòng)體制機(jī)制創(chuàng)新
- 湖北省先進(jìn)低碳冶金產(chǎn)業(yè)技術(shù)創(chuàng)新聯(lián)合體組建 打造五千億級(jí)產(chǎn)...
- 重慶渝北將優(yōu)化創(chuàng)新生態(tài)環(huán)境 培育打造一批引領(lǐng)型的科創(chuàng)載體
- 南昌經(jīng)開(kāi)區(qū)高度重視科創(chuàng)平臺(tái)的建設(shè)工作 大力引進(jìn)各類(lèi)創(chuàng)新創(chuàng)...
更多
- 多地重大項(xiàng)目投資規(guī)模力度明顯加大 新基建項(xiàng)目成重要發(fā)力點(diǎn)
- 年內(nèi)湖北新開(kāi)工城建項(xiàng)目160個(gè) 集中在道路交通等方面
- 去年我國(guó)對(duì)外投資合作平穩(wěn)發(fā)展 境外經(jīng)貿(mào)合作區(qū)建設(shè)成效顯著
- 荊州集中簽約39個(gè)項(xiàng)目 重點(diǎn)涵蓋高端裝備制造、電子信息等領(lǐng)域
- 廣東打出一系列穩(wěn)外貿(mào)政策“組合拳” 外貿(mào)逆勢(shì)創(chuàng)新高
- 蘭州新區(qū)再獲“最具投資吸引力新區(qū)” 去年新增市場(chǎng)主體5427戶
- 沈陽(yáng)沈北新區(qū)舉行招商引資大會(huì) 打響項(xiàng)目建設(shè)的“發(fā)令槍”
- 山西大力培育外貿(mào)新主體 去年進(jìn)出口額突破2000億元
排行
- 重慶:激發(fā)人才創(chuàng)新活力,到2025年創(chuàng)新要素活躍度顯著增強(qiáng)
- 科技智庫(kù)需要進(jìn)一步加快智庫(kù)成果轉(zhuǎn)化
- 雄安設(shè)立兩年 290家京企“搶灘登陸”
- 女子拽男友公交車(chē)方向盤(pán)受審 涉嫌危害公共安全罪
- 成都實(shí)施創(chuàng)新驅(qū)動(dòng)發(fā)展戰(zhàn)略,將挖掘培養(yǎng)高素質(zhì)職工人才
- “人造雪粉”接觸眼睛或被誤食可能有危險(xiǎn)
- 這一年,我們?yōu)榭萍肌俺尺^(guò)的架”真不少
- “四成人不知電商法”該如何破題
- 監(jiān)督搭平臺(tái)信息都上網(wǎng) 打通精準(zhǔn)監(jiān)督‘最后一公里’
- 智能烹飪機(jī),選購(gòu)有講究
最近更新
- 高端消費(fèi)品牌開(kāi)啟漲價(jià)潮,大牌還能“笑”多久?
- 百世進(jìn)入“減法”梯隊(duì) 能否堅(jiān)守當(dāng)前的道路仍未可知
- 入場(chǎng)容易盈利難,團(tuán)車(chē)造車(chē)想要站穩(wěn)腳跟需要具備什么樣的能力?
- 爾旭大宅新型材料研產(chǎn)銷(xiāo)一體化,創(chuàng)新綠色新建材
- 兒童打鼾、張嘴睡覺(jué)要注意了 睡眠障礙將損害身體健康
- 8年開(kāi)出4000多家門(mén)店,俏妃經(jīng)期護(hù)理緣何成為女性剛需
- 預(yù)防大于治療,俏妃經(jīng)期護(hù)理喚活女性生殖健康自生力
- 俏妃經(jīng)期護(hù)理憑何為女性健康筑起防火墻
- 檳榔產(chǎn)業(yè)發(fā)展峰會(huì)展開(kāi),問(wèn)道九五之尊品牌引領(lǐng)行業(yè)高質(zhì)量發(fā)展
- 黑龍江科技招商大會(huì)大慶專(zhuān)場(chǎng)舉行 推動(dòng)科技成果落地轉(zhuǎn)化
- 大事件 | 松偉官宣高圓圓為代言人,疊加億級(jí)高鐵投放
- “網(wǎng)紅”隔離險(xiǎn)買(mǎi)易賠難?是營(yíng)銷(xiāo)噱頭還是真保障
- 百億私募巨頭林利軍屈身道歉表信心,“少數(shù)”投資人為何不買(mǎi)賬?
- 雅居樂(lè)擬18.44億元向中海出售廣州亞運(yùn)城26.66%股權(quán)
- 2021年中國(guó)跨境資金流動(dòng)有序 國(guó)際收支自主平衡
- 時(shí)隔九年,娃哈哈再做醬酒,這次能成功嗎?
- 2025年中國(guó)綠色低碳循環(huán)發(fā)展消費(fèi)體系將初步形成
- 銷(xiāo)量連續(xù)7年居世界首位 新能源汽車(chē)有望加速增長(zhǎng)
- 一張滑雪票蘊(yùn)藏?zé)o限商機(jī):冬奧會(huì)點(diǎn)燃冰雪消費(fèi)
- 綠城服務(wù)盈利增長(zhǎng)不及預(yù)期 野村將其目標(biāo)價(jià)由12.5港元下調(diào)13....
- 銀保監(jiān)會(huì)規(guī)范銀行服務(wù)市場(chǎng)調(diào)節(jié)價(jià)管理:劃出五條紅線
- ?17家酒企上榜2021年綠色工廠名單
- 麥當(dāng)勞在推特上發(fā)了一個(gè)手勢(shì),要痛失韓國(guó)市場(chǎng)了?
- 衛(wèi)生間如何進(jìn)行清潔消毒?北京疾控:要注意4個(gè)環(huán)節(jié)8個(gè)方面
- 上海發(fā)布生物醫(yī)藥產(chǎn)業(yè)發(fā)展規(guī)劃 到2025年產(chǎn)業(yè)規(guī)模將超萬(wàn)億元
- 上海:去年科技信貸授信規(guī)模1583億元,科技保險(xiǎn)助力科研穩(wěn)發(fā)展
- 中國(guó)癌癥防治十大建議發(fā)布 公眾應(yīng)改變多種不良生活方式
- 火山有色加強(qiáng)服務(wù)傳統(tǒng)企業(yè)
- 螞蟻集團(tuán)股票有哪些?相關(guān)螞蟻集團(tuán)股票龍頭一覽
- Buck電路原理
今日要聞
- 高端消費(fèi)品牌開(kāi)啟漲價(jià)潮,大牌還能“笑”多久?
- 百世進(jìn)入“減法”梯隊(duì) 能否堅(jiān)守當(dāng)前的道路仍未可知
- 入場(chǎng)容易盈利難,團(tuán)車(chē)造車(chē)想要站穩(wěn)腳跟需要具備什么樣的能力?
- 爾旭大宅新型材料研產(chǎn)銷(xiāo)一體化,創(chuàng)新綠色新建材
- 黑龍江科技招商大會(huì)大慶專(zhuān)場(chǎng)舉行 推動(dòng)科技成果落地轉(zhuǎn)化
- 大事件 | 松偉官宣高圓圓為代言人,疊加億級(jí)高鐵投放
- “網(wǎng)紅”隔離險(xiǎn)買(mǎi)易賠難?是營(yíng)銷(xiāo)噱頭還是真保障
- 百億私募巨頭林利軍屈身道歉表信心,“少數(shù)”投資人為何不買(mǎi)賬?
- 雅居樂(lè)擬18.44億元向中海出售廣州亞運(yùn)城26.66%股權(quán)
- 2021年中國(guó)跨境資金流動(dòng)有序 國(guó)際收支自主平衡