“可信AI”概念興起，如何補(bǔ)齊算法短板突破安全難題？

數(shù)字化轉(zhuǎn)型的大浪潮之下，人工智能、云計算、區(qū)塊鏈等新興技術(shù)發(fā)揮著重要作用。日新月異的發(fā)展背后，離不開海量用戶數(shù)據(jù)，而這也引發(fā)了業(yè)內(nèi)對該類技術(shù)安全性的新?lián)鷶_。6月7日，北京商報記者注意到，在人工智能領(lǐng)域，可信賴的人工智能(即“可信AI“)概念開始興起。可信AI又將如何打破現(xiàn)階段技術(shù)的限制、兼顧用戶對數(shù)據(jù)安全保護(hù)的訴求，如何補(bǔ)齊算法短板突破安全難題?

可信AI打破數(shù)據(jù)孤島

北京商報記者多方了解到，可信AI實際上是通過底層技術(shù)框架解決人工智能應(yīng)用過程中可能存在的多類問題，由此建立可靠的人工智能生態(tài)。事實上，近年來，AI換臉被黑產(chǎn)盯上、買賣隱私信息等各類圍繞用戶個人隱私數(shù)據(jù)產(chǎn)生的安全問題屢見報端，公眾對于隱私保護(hù)、數(shù)據(jù)安全等問題關(guān)注程度也在不斷提高。

在6月7日舉辦的2021全球人工智能技術(shù)大會可信AI專題論壇上，科技部高技術(shù)研究發(fā)展中心研究員、ACM中國理事會常務(wù)理事嵇智源指出，可信AI就是確保人工智能的公平性、可解釋性、健壯性和透明性，確保算法可被人信任。

針對這些亂象，一方面監(jiān)管頻頻出手，在用戶數(shù)據(jù)收集、使用方面做出明確要求，從法律層面為數(shù)據(jù)安全提供保障;另一方面，北京商報記者注意到，多家從事人工智能相關(guān)業(yè)務(wù)的科技公司針對構(gòu)建可信AI也在不斷推陳出新。

以同盾科技提出的“知識聯(lián)邦”為例，“知識聯(lián)邦”通過將數(shù)據(jù)轉(zhuǎn)化成為模型策略知識，再對分散的知識聚合，最終實現(xiàn)智能決策。同時，圍繞可信AI，同盾科技開發(fā)了天啟智能開放操作系統(tǒng)，并進(jìn)一步開放了聯(lián)邦市場，提供數(shù)據(jù)商店、模型商店和應(yīng)用商店，方便數(shù)據(jù)生產(chǎn)要素的充分流通和使用。

同盾人工智能研究院院長李曉林告訴北京商報記者，數(shù)據(jù)孤島是制約人工智能發(fā)展的重要阻礙，知識聯(lián)邦以更合規(guī)的方式來打破數(shù)據(jù)孤島，在利用數(shù)據(jù)的同時，做到保護(hù)數(shù)據(jù)隱私。“通過數(shù)據(jù)安全交換協(xié)議來有效利用多方的數(shù)據(jù)，進(jìn)行知識共創(chuàng)、共享和推理，實現(xiàn)數(shù)據(jù)可用不可見。”

隱私計算作為人工智能的底層支撐技術(shù)之一，其對于構(gòu)建可信AI也有貢獻(xiàn)。隱私計算全棧技術(shù)與基礎(chǔ)設(shè)施提供商星云Clustar于2021年4月發(fā)布了“星云隱私計算全棧解決方案”，進(jìn)一步幫助合作機(jī)構(gòu)實現(xiàn)數(shù)據(jù)安全共享與流通。

星云Clustar創(chuàng)始人陳凱指出，星云隱私計算平臺集成了主流隱私計算技術(shù)，包括聯(lián)邦學(xué)習(xí)、多方安全計算等，重點關(guān)注安全和效率問題。以目前星云Clustar為某國有大型銀行構(gòu)建的全行級隱私計算平臺為例，星云Clustar結(jié)合該銀行需求進(jìn)行了定制化開發(fā)，為其提供基于聯(lián)邦學(xué)習(xí)的多方安全建模平臺，幫助該銀行以“可用不可見”的方式打通全行內(nèi)外部的數(shù)據(jù)共享，優(yōu)化流程標(biāo)準(zhǔn)與降低管理成本，充分盤活了不同業(yè)務(wù)板塊的數(shù)據(jù)價值，也為該銀行未來進(jìn)行數(shù)據(jù)開放提供了技術(shù)基礎(chǔ)。

在冰鑒科技研究院高級研究員王詩強(qiáng)看來，人工智能是基于“大數(shù)據(jù)+算法”得出的技術(shù)結(jié)論，這一結(jié)論在落地過程中是否值得相信、是否能產(chǎn)生長期的正面影響有待考量，可信AI實際上是為規(guī)范人工智能發(fā)展提出的自律性要求。

蘇寧金融研究院金融科技研究中心主任孫揚(yáng)則進(jìn)一步表示，從當(dāng)前行業(yè)現(xiàn)狀來看，違規(guī)采集、使用用戶數(shù)據(jù)等問題依舊頻發(fā)，人工智能的安全性、可靠性與可信性都需要增強(qiáng)，打破數(shù)據(jù)孤島過程中如何防止技術(shù)公司濫用數(shù)據(jù)優(yōu)勢，也向技術(shù)公司提出了更高的數(shù)據(jù)使用要求。

金融領(lǐng)域仍是主戰(zhàn)場

隨著技術(shù)的不斷發(fā)展，人工智能技術(shù)在金融、醫(yī)療、教育等眾多行業(yè)中找到落地場景。北京商報記者了解到，由于涉及到多類用戶信息，金融領(lǐng)域場景尤為火熱。多位人工智能行業(yè)從業(yè)者也向北京商報記者坦言，金融領(lǐng)域當(dāng)前仍是最主要的“戰(zhàn)場”，人工智能在風(fēng)控、投顧、營銷、理賠等方面發(fā)揮了突出作用。

對于傳統(tǒng)信貸業(yè)務(wù)投入產(chǎn)出不對等或者無法進(jìn)行風(fēng)險評估等情況，人工智能技術(shù)可以幫助銀行等金融機(jī)構(gòu)識別風(fēng)險客戶，降低逾期率，線上化的金融業(yè)務(wù)也更為便利。“在風(fēng)險可控的情況下，更多長尾客戶獲得金融服務(wù)，對于普通用戶來說，這也是可信AI的體現(xiàn)方式之一。”王詩強(qiáng)表示。

除了助力傳統(tǒng)金融機(jī)構(gòu)轉(zhuǎn)型外，人工智能在防控金融風(fēng)險方面發(fā)揮著重要作用，并進(jìn)一步開始向監(jiān)管科技領(lǐng)域拓展。北京商報記者梳理發(fā)現(xiàn)，在多個試點城市披露的金融科技創(chuàng)新監(jiān)管應(yīng)用中，也大量出現(xiàn)了人工智能的身影。

廣州于6月4日公示的第二批4個創(chuàng)新應(yīng)用中，便包括“基于知識圖譜技術(shù)的風(fēng)險交易預(yù)警服務(wù)”“基于知識圖譜的外匯違法違規(guī)風(fēng)險行為識別應(yīng)用”等產(chǎn)品。通過聚焦大數(shù)據(jù)、人工智能、區(qū)塊鏈等前沿技術(shù)，進(jìn)一步增強(qiáng)金融監(jiān)管的專業(yè)性與傳統(tǒng)性。

孫揚(yáng)指出，在金融領(lǐng)域的相關(guān)活動中，金融機(jī)構(gòu)應(yīng)用科技分析數(shù)據(jù)、科技公司通過技術(shù)獲取數(shù)據(jù)，都要保持穿透式的監(jiān)管。在監(jiān)管科技方面，可以利用聯(lián)邦學(xué)習(xí)、知識圖譜、區(qū)塊鏈、物聯(lián)網(wǎng)金融等技術(shù)來實現(xiàn)金融活動監(jiān)管。比如物聯(lián)網(wǎng)金融用于供應(yīng)鏈金融，區(qū)塊鏈用于反洗錢，知識圖譜用于貸款中介識別等。

此外，有從業(yè)機(jī)構(gòu)負(fù)責(zé)人向北京商報記者透露，在通過可信AI強(qiáng)化監(jiān)管科技方面也在發(fā)力，例如在自主研發(fā)的系統(tǒng)中嵌入監(jiān)管中心使用板塊，便于監(jiān)管層對體系內(nèi)金融機(jī)構(gòu)處理用戶數(shù)據(jù)是否違規(guī)等行為進(jìn)行管控，但目前相關(guān)板塊業(yè)務(wù)仍處于完善調(diào)整階段。

防止矯枉過正

值得一提的是，可信AI發(fā)展的過程同樣面臨難題。李曉林直言，在同盾知識聯(lián)邦體系中，如何確立一個可信的第三方充當(dāng)合格的協(xié)調(diào)者和監(jiān)管者，如何完善各參與方的激勵方式，激發(fā)各方的積極性和配合度等問題，仍需要進(jìn)一步克服。

“人工智能技術(shù)不斷更新?lián)Q代，可信AI是針對可能出現(xiàn)的安全問題構(gòu)建的新防線，”王詩強(qiáng)認(rèn)為，除了發(fā)展可信AI所面臨的問題外，可信AI越成熟，也意味著技術(shù)對數(shù)據(jù)分析等各方面能力越高，也越可能出現(xiàn)更為精準(zhǔn)的大數(shù)據(jù)殺熟、價格歧視等矯枉過正的情況。部分企業(yè)甚至可能出現(xiàn)過分追求先進(jìn)技術(shù)，在實際落地過程中忽略了安全、隱私等問題。

王詩強(qiáng)表示，人工智能技術(shù)是一把雙刃劍，需要小心對待，規(guī)范其發(fā)展進(jìn)步需要企業(yè)與監(jiān)管等多方合力。監(jiān)管部門要制定合適的政策標(biāo)準(zhǔn)，及時處理負(fù)面的技術(shù)創(chuàng)新，以良幣驅(qū)逐劣幣，要加強(qiáng)違法處置力度，對于違法行為進(jìn)行懲罰、震懾;企業(yè)則要守住道德底線，加強(qiáng)自律，將數(shù)據(jù)安全放在首位，最終保證技術(shù)服務(wù)社會并創(chuàng)造價值。

“相關(guān)機(jī)構(gòu)都應(yīng)該嚴(yán)格遵守監(jiān)管框架，確保不侵犯消費者的權(quán)益，確保提供給消費者的業(yè)務(wù)是可信的、安全的、符合倫理的。切忌以科技之名，侵犯用戶的數(shù)據(jù)和隱私權(quán)力。”孫揚(yáng)補(bǔ)充道。

(北京商報記者 岳品瑜 廖蒙)

關(guān)鍵詞： 可信AI 算法短板 隱私泄露 安全難題