人工智能的發展如何解決隱私與便利的沖突問題？6月6日，2021全球人工智能技術大會可信AI專題論壇在杭州舉行，專家學者對下一代可信人工智能的機遇、挑戰和實現路徑進行了討論。

直接共享數據，隱私就得不到保護；如若個人產生的數據不對外共享，就不能帶來經濟價值。科技部高技術研究發展中心研究員嵇智源認為，尋找隱私保護、政府監管、商業訴求的平衡點尤為重要。我國工程院院士潘云鶴和同盾科技合伙人、人工智能研究院院長李曉林等均提出，運用知識聯邦技術有望在數據安全方面取得突破。

談數據安全_知識聯邦實現數據可用不可見

科技部高技術研究發展中心研究員嵇智源表示，尋找人工智能時代隱私保護、政府監管、商業訴求的平衡點，已經成為產學研各界迫切需要解決的問題。在此背景下，“可信AI”的理念逐漸成為全球共識，也成為未來人工智能產業健康發展的必由之路。可信AI，就是確保AI公平性、可解釋性、健壯性和透明性，確保算法可被人信任。

在可信AI的實現中，數據安全尤為重要，其中一個重要趨勢是數據可用不可見。“可用”，即數據可以發揮她的經濟價值，“不可見”，即個人數據隱私不會被泄露。

我國科學院院士、中科院醫學所所長譚蔚泓從醫療領域出發，認為智慧醫療在未來大有作為，但生命科學涉及個人的方方面面，如何保障個人隱私和數據安全，是一個剛需。打造可信的智慧醫療，要實現數據可用不可見，知識共創可共享。

同盾科技合伙人、人工智能研究院院長李曉林認為，數據已經被列為一種新型生產要素，成為驅動技術革命和重新定義人類社會未來的新動力。近年來，數據安全相關法律法規也越來越完善。作為新型生產力的人工智能，迫切呼喚新型生產關系的支撐。

他提出的解決思路是知識聯邦技術。所謂知識聯邦，就是運用人工智能、大數據、密碼學等領域技術，將散落在不同機構或個人的數據聯合起來轉換成有價值的知識，同時在聯合過程中采用安全協議來保護數據隱私。李曉林介紹，知識聯邦通過將數據轉化成信息、模型、認知和知識，滿足了數據不可見；此外，在數據交換層面，該框架通過安全的數據交換協議來使用數據，在不改變數據所有權的情況下，實現數據價值。

我國工程院院士潘云鶴認為，處理大數據和處理多重知識，形成了AI發展的兩類核心技術。作為一項我國原創、自主可控的技術，知識聯邦有望成為推動大數據智能突破發展的一個重要環節。

平安集團首席科學家肖京也肯定了聯邦學習技術在數據安全方面的作用。他介紹，分布在不同機構的數據，很多時候需要跨機構使用來發揮價值。以前的常用方法是把數據直接拷貝到大的數據平臺上面，這個方法在風險控制、風險管理和服務領域產生了很好的作用，但是對隱私保護的能力非常差。

他指出，隱私計算、聯邦學習技術可以使數據交換的過程變得安全。例如，銀行為中小企業做貸款業務時，需要政府的稅收經營分析數據，但是政府數據不能直接給銀行使用，所以銀行跟政府之間可以通過聯邦計算平臺，有效利用信息，但是不會泄露數據，不會有合規的風險。

談決策可信_正逼近可信AI，“與其恐慌不如擁抱”

除數據安全外，專家們還提出了可信人工智能面臨可解釋性差、算法偏差等挑戰。在未來，可信的人工智能到底能否實現？

李曉林認為，在2040年，這些問題都可以被解決。“2040年，生活就是工作，AI把人們生活產生的數據利用起來，產生更好的東西。數據無所不在，并且可以以安全的方式獲得。到那時，你想要做什么，都可以按照你的興趣來。”

哈爾濱工業大學（深圳）人工智能研究院院長劉劼有不同觀點。在他看來，在人工智能領域，可信、分離、高效三者不可能同時兼得。他舉例，區塊鏈是分布式技術，但非常低效。如果數據集中處理，可信又高效，但集中式的系統很難分離。在他看來，可信AI的理想狀態或許不能實現，一定要在三者之間進行折中，需要做一些犧牲。目前來看，需要在達到可信和分離的前提下盡可能提升效率，這是一個重要的研究課題。

龍盈智達（北京）科技有限公司首席數據科學家王彥博也認為，最完美的可信AI我們永遠達不到，但是我們的標準不斷在提升，可以漸漸逼近可信AI。

幾位專家都表達了對AI的樂觀。劉劼表示，在一些疾病的診斷領域，AI的準確率已經超過了醫生，但是大家對使用AI診斷還是不太接受。他認為，今后在AI決策方面，可以采用AI承諾書的方式，讓人們自己選擇。“比如，從概率的角度來說，一個醫生的準確率是80_，另外一個機器的準確率是95_。你寫一個承諾書，承諾說接受AI檢測有5_的出錯可能。大家迎接可信AI挑戰的同時，要接納這個東西。”他說。

我國科學技術大學計算機學院副院長張燕詠同樣肯定了AI在很多領域比人做得更好。比如，在汽車領域，無人車比駕駛員更安全。因為每個駕駛員不可控的因素太多，無人車是標準化的，可以根據問題不斷提高進化，機器不會喝酒，不會疲勞駕駛，也不會看手機，所以比駕駛員開車更安全。她認為，即使AI比人操作更安全，人們也還是對AI缺乏信任，一個很重要的原因在于人機交互的方式。例如，人類走在擁擠的街上，互相推一下是很正常的，但如果被機器人推一下，人們會覺得有威脅。人機互動的研究對于信任是很重要的。

龍盈智達（北京）科技有限公司首席數據科學家王彥博提出，信任是相互的，我們今天談可信AI，前提是我們對她的態度是不是信任的。“我覺得人們對于AI時代以及可信AI時代應該是充滿憧憬、擁抱的態度，科技的發展是不可逆的，與其感到恐慌，不如擁抱AI的發展，可信AI的是陽光普照下面正確的道路。”他說。

采寫_南都見習發文人李婭寧 發文人馬嘉璐