全球新一輪科技革命和產業(yè)變革方興未艾,而作為引領新一輪科技革命和產業(yè)變革的核心驅動力量之一,人工智能近年來被廣泛應用于金融、電商、醫(yī)療等領域。
風生水起之余,人工智能產業(yè)也暗藏隱憂:隨著全球人工智能規(guī)?;ㄔO和應用的加速,人工智能基礎設施、設計研發(fā)及融合應用面臨的安全風險正日益凸顯。由中國信息通信研究院聯合瑞萊智慧RealAI、百度、騰訊等單位共同撰寫的《人工智能安全框架(2020年)》顯示,隨著深度偽造技術開源代碼、APP應用增多,不法分子利用深度偽造技術制作虛假視頻侵犯個人肖像權、名譽權和隱私權的現象屢見不鮮。截至2019年12月份,全網流傳的深度偽造視頻中,虛假色情內容占比高達96%。
而這只是問題的冰山一角。指紋和人臉識別留下的生物特征信息、自動駕駛留下的個人行蹤記錄、手機APP保存的個人隱私數據,醫(yī)院里留存的診斷治療記錄……人工智能跑步進入人們工作生活的眾多場景,用戶各種行為被記錄并作為數據保存起來,由此帶來的數據泄露、數據偽造、算法瓶頸、隱私安全、倫理困境等問題如今正一點點浮出水面。據有關報道,今年7月份就有不法分子在電商平臺販賣人臉信息,以5角錢一份的低價打包出售后,被盜的人臉信息被用于虛假注冊、電信網絡詐騙等違法犯罪活動。
尷尬的是,《人工智能安全框架(2020年)》顯示,現階段人工智能企業(yè)主要聚焦于技術研發(fā)和產品運營,在人工智能安全方面投入相對較少、基礎薄弱。目前,人工智能安全技術多處于學術研究和少量試驗試用階段,尚未形成適用于各類人工智能應用的成熟安全產品和服務體系。
人工智能產業(yè)健康有序發(fā)展,安全是重要保障,是形勢所需,也是一些技術落地不可或缺的前提。離開了安全談人工智能,猶如無水之源、無本之木。實踐也已證明,時下人工智能安全需求與企業(yè)安全投入不足以及人工智能安全產品服務欠缺之間的矛盾,正成為制約人工智能產業(yè)長遠發(fā)展的瓶頸。
站在發(fā)展困境與時代機遇重疊的關鍵時刻,業(yè)界期待產學研各界協同合作,不斷完善與升級出更安全、可信、可靠的人工智能技術,扎牢人工智能安全的籬笆,讓人們能安心享受這一技術紅利。
責編AJX
-
應用
+關注
關注
2文章
439瀏覽量
34516 -
AI
+關注
關注
88文章
35164瀏覽量
280001 -
人工智能
+關注
關注
1807文章
49029瀏覽量
249562
發(fā)布評論請先 登錄
AI應用的“安全鎖”:安全閃存技術在滿足行業(yè)認證中的作用
中興通訊加速算力普惠和AI應用普及
【「零基礎開發(fā)AI Agent」閱讀體驗】+ 入門篇學習

首創(chuàng)開源架構,天璣AI開發(fā)套件讓端側AI模型接入得心應手

直流充電安全測試負載方案解析
華為面向海外全面升級星河AI網絡
非結構化數據中臺:企業(yè)AI應用安全落地的核心引擎
芯??萍迹?b class='flag-5'>AI EC創(chuàng)新引領,筑牢AI PC設備安全防線
正點原子ESP32S3系列開發(fā)板全面支持小智AI
華為ModelEngine AI平臺全面支持DeepSeek

《AI for Science:人工智能驅動科學創(chuàng)新》第二章AI for Science的技術支撐學習心得
AI普及給嵌入式設計人員帶來新挑戰(zhàn)

評論