當部分人仍在探索AI的應用方式時，恩智浦已著眼未來，提出關鍵問題：如何確保AI以安全、可靠且負責任的方式運行？通過與技術、政府及商界精英的合作，使其真正落地，正是負責任AI (Responsible AI) 成為焦點的關鍵。

想象一下，您正在駕車前往與朋友的聚會，滿懷期待享受一頓美味的晚餐。您已經(jīng)有一段時間沒見過他們了，因此希望展現(xiàn)最佳狀態(tài)。然而，在行駛過程中，警報聲不斷響起，讓你困惑不已。此時，您收到來自車輛駕駛員監(jiān)測系統(tǒng) (DMS) 的提醒，提示你雖然駕駛表現(xiàn)良好，但未能保持足夠的注意力。

您可能未曾意識到，這一情況的發(fā)生源于人工智能 (AI) 模型所采用的訓練數(shù)據(jù)，這些數(shù)據(jù)為車輛的計算機視覺提供支持。然而，由于某些因素，AI模型誤解了實時輸入。這背后的原因在于，訓練數(shù)據(jù)中的偏差導致女性司機更常被歸類為“因個人儀容而分心”，這是訓練過程中對人群特征的細微錯誤呈現(xiàn)所導致的結果。

駕駛員監(jiān)測系統(tǒng)正在重塑我們的出行方式，但要在系統(tǒng)中集成AI技術，我們必須在模型開發(fā)過程中充分考慮數(shù)據(jù)偏差，以確保系統(tǒng)的公正性和可靠性。

負責任邊緣AI開發(fā)的風險

這不僅僅是借助AI進行數(shù)據(jù)分析和預測所面臨的風險，更涉及AI/ML系統(tǒng)的公平性與穩(wěn)健性問題，以及它們對現(xiàn)代生活的深遠影響。

例如，訓練數(shù)據(jù)中的偏見可能導致個人在申請金融服務時被錯誤拒絕。同樣，在缺乏適當?shù)娘L險評估和防范措施的情況下，邊緣AI也可能引發(fā)歧視性決策。智能邊緣在連接物理世界與數(shù)字世界方面發(fā)揮著至關重要的作用。

物理AI作為生成式AI與機器人技術交匯的核心概念，必須依靠邊緣設備實現(xiàn)，而不僅僅依賴云計算。因此，邊緣AI的錯位風險需要額外審查，以避免潛在的安全隱患和歧視問題。

全球正處于AI融入日常生活的關鍵階段。2025年1月，波士頓咨詢公司調查顯示，75%的高管將AI列為2025年的3大戰(zhàn)略重點。然而，盡管AI的影響力持續(xù)上升，但僅有不到三分之一的企業(yè)幫助其不到25%的員工提升了AI技能，這凸顯了對相關教育和意識培養(yǎng)的迫切需求。

隨著邊緣AI技術的不斷發(fā)展，工廠正變得愈發(fā)智能化與自主化。

負責任的邊緣AI

當眾多企業(yè)仍在探索AI的應用方式時，恩智浦已著眼未來，提出關鍵問題：如何確保AI以安全、可靠且負責任的方式運行？通過與技術、政府及商界精英的合作，使其真正落地，正是負責任AI (Responsible AI) 成為焦點的關鍵。

負責任的AI既不是獨立的技術，也不僅僅是政策與最佳實踐的集合。它深度融入技術和非技術領域，涵蓋機器學習、生成式AI與語言模型、時間序列數(shù)據(jù)、計算機視覺、語音識別，以及所有類型的智能軟件、傳感器和硬件。AI帶來的風險影響著企業(yè)與個人——負責任AI必須確保雙方的平等代表性。

邊緣AI正深刻改變我們的生活方式，使家庭在日?；顒訄鼍爸凶兊酶又悄芑?。

因此，負責任的AI在實踐中需要協(xié)同一致且全面的努力。恩智浦從邊緣AI賦能的角度深入研究這一課題。作為智能邊緣領域的領軍企業(yè)，我們撰寫了《負責任的邊緣AI賦能技術》白皮書。

該白皮書旨在幫助理解和解讀歐盟《AI法案》等最新立法，深入探討邊緣AI的風險及其應對措施，同時強調SoC供應商的角色和責任。此外，文中概述了恩智浦如何通過軟件與工具推動負責任AI的發(fā)展。

以DMS示例為例，恩智浦正在開發(fā)Explainable AI (XAI) 軟件，該軟件作為eIQ工具包的一部分，可在模型訓練后、部署前檢測偏差，從而幫助防止歧視、確保系統(tǒng)穩(wěn)健性，并使開發(fā)人員能夠及早識別風險并理解其成因。

邊緣AI以多種方式惠及人類，包括提升自動化與生產(chǎn)效率、增強安全性、推動更可持續(xù)的交通，以及優(yōu)化計算資源利用率。負責任的賦能技術在最大化邊緣AI價值的同時，還盡可能降低潛在風險。

本文作者

Davis Sawyer，現(xiàn)任恩智浦半導體AI產(chǎn)品市場經(jīng)理，專注于軟件工具以及基于i.MX微處理器的生成式AI使能解決方案。他常駐加拿大卡納塔，同時擔任邊緣AI基金會“產(chǎn)業(yè)”工作組主席，致力于推動基于邊緣AI的實際應用。此前，他參與創(chuàng)立了AI模型壓縮初創(chuàng)公司Deeplite，該公司于2025年被收購。Davis熱衷于打造跨學科產(chǎn)品，并樂于與睿智且友善的團隊合作。