當技術越來越智慧，我們如何守護安全？

日常生活趣事11: 想减肥却越减越肥，最后安慰自己：'我这是丰满的智慧。' #生活乐趣# #日常生活趣事# #日常生活笑话# #生活笑点汇总#

　　11月9日，2023年世界網際網路大會烏鎮峰會前沿數字技術創新與安全論壇在浙江烏鎮舉行。論壇以“技術引領變革 數字開創未來”為主題，依託前沿數字技術發展浪潮，共議數字技術創新與安全。

　　技術的發展必然帶來新的風險，如何發現、甄別、處理、預防風險成為了一項重要課題。在論壇上，與會專家與嘉賓都談到了前沿科技發展可能帶來的風險，也探討了一些相應的應對之法。

　　“區別於一般的産業技術，網路空間安全有明顯的對抗性的特點，也就是説一方的勝利代表另一方的失敗。”中關村實驗室主任助理、首席科學家卿昱在主旨演講中談到，作為2015年正式設立的一級學科，“網路空間安全是一門年輕但不簡單的學科。”

　　在網路安全領域，新技術的發展會使已有的技術面臨安全風險，比如説量子計算，它很可能會給經典密碼帶來嚴重的挑戰，“各種新技術的出現同時也帶來了安全威脅。”

　　哪些新技術需要我們重點關注？

　　卿昱分享了從2019年到2023年整個頂級會議期刊的一些熱詞分析：這5年來，研究者從對隱私計算、惡意軟體、數字取證、異常檢測技術的關注，到最近3年又擴展到了人工智慧、深度學習和隱私保護的相關的技術上。

　　“隨著人工智慧的發展，我們已經很重視相關的安全問題，比如像人工智慧演算法可能會在對抗攻擊的情況下被誤導。”清華大學人工智慧研究院副院長、電腦係教授朱軍在論壇的主旨演講中舉例，監控攝像頭的人臉識別驗證的安全，其實在之前應用之前，就已經開始做很多的學術研究和應用，“一方面去發現漏洞，另一方面就是去做保密。”

　　倫理風險、演算法風險、數據風險、技術濫用，在朱軍看來，生成式人工智慧的新型安全風險正在顯現。

　　如何去應對這些風險？

　　“在清華大學人工智慧研究院成立的時候，我們當時討論就設定叫發展第三代人工智慧的公司，我們實際上是想將大數據驅動和知識相融合地去發展新型的人工智慧的方法和理論。”論壇現場，朱軍演示了人工智慧安全評測平臺、人臉人工智慧安全防火牆、數據安全産品及人工智慧內容檢測平臺等人工智慧治理的有效工具。

　　“關於大模型的一些最新的結果，我們可以從各個維度去評測我們的模型演算法；針對人臉驗證這種最廣泛的應用場景，我們專門做了稱之為人臉識別的自動防火牆；關於數據安全，我們發展的分佈式機器學習，或者用加密數據下的機器學習的技術來綜合來去解決這個問題。而對於人工智慧發展之後創造的內容，“我們最基本的就是想判斷哪些是人生成，哪些是人工智慧生成的，這背後就需要演算法模型來去幫我們自動去檢測識別”。

　　本次論壇由國家網際網路信息辦公室發起，工業和資訊化部、中國科學院、世界智慧財産權組織、中關村實驗室主辦，國家工業資訊安全發展研究中心、中國科學院計算技術研究所、百度公司協辦，來自中央和國家機關、中央新聞網站、國內外知名專家及網際網路企業等各界代表共120余位嘉賓參加論壇。

网址：當技術越來越智慧，我們如何守護安全？ https://www.yuejiaxmz.com/news/view/290609

相关内容

光護視界·啟明未來｜佛山照明發佈青少年視力健康照明戰略
我們應該如何創造美好生活
藝術療愈在中國悄然興起：用藝術點亮心靈
消博會上，這些科技產品正改變你我生活
科技助力 樂享生活
如何運用數字技術提升治理效能
干家務，智慧家居産品來幫忙
陸寶華:為大數據安全護航
星雲智慧李明：機器人產業很可能是下一個汽車產業
智慧出行，便利e路隨行

随便看看