邊緣機器學習的重要性

• 2020 年 2 月 12 日
• 筆記

近年來，人工智慧（AI）和機器學習創新一直在迅速發展，可預見的結果隨著可訪問性的提高而不斷發展，在計算能力和存儲解決方案中，數據的可訪問性和發展趨勢越來越明顯。如果您了解背景知識，那麼到目前為止，您可以發現無數機器學習創新的實例，這些實例已經出現在從消費產品和社交媒體到金融服務和製造業的廣泛行業中。

機器學習可以成為處理大量數據的強大分析工具。機器學習和邊緣計算的融合可以引導IoT小工具收集的大部分活動，並留下重要資訊以供邊緣和雲分析引擎分析。

機器學習演算法（尤其是深度學習神經網路）經常會產生可提高預測準確性的模型。但是，準確性會損害較高的計算和記憶體利用率。深度學習演算法（也稱為模型）由計算層組成，其中在每個層中處理大量參數，然後迭代地進行到下一層。資訊（例如，高解析度圖片）的維數越高，計算需求就越高。經常使用雲中的GPU場來滿足這些計算需求。

邊緣處理是一種分散式計算的世界觀，它使計算和數據存儲更接近需要的區域，從而提高了響應時間和備用頻寬。儘管邊緣計算解決了連接性，延遲，可伸縮性和安全性挑戰，但邊緣小工具上的深度學習模型的計算資產需求在較小的小工具中很難滿足。

如今，大多數組織都將其資訊存儲在雲中。這意味著資訊需要傳遞到通常位於數千英里之外的中央數據中心，以進行模型比較，然後才能將結論性見解轉移回出生地。例如，在時間至關重要的跌倒檢測中，這是一個至關重要的甚至是危險的問題。

延遲問題是促使眾多組織從雲遷移到邊緣的原因。「邊緣的洞察力」，「邊緣AI」或「邊緣機器學習」意味著，與其在雲端的演算法中進行處理，不如將數據在本地存儲在硬體小工具中的演算法中進行處理。這可以實現實時活動，但是，它同樣可以從根本上減少與處理雲中數據有關的電源利用率和安全漏洞。

在確定邊緣小工具的硬體類型之前，必須建立歸納的關鍵性能度量。在重要的層面上，邊緣機器學習的關鍵性能度量可以概括為延遲，吞吐量，設備能耗和準確性。延遲指的是收集一個數據點所花費的時間，吞吐量是每秒的派生調用數量，準確度是使用情況所需的預期收益的置信度。

分析人士發現，減少深度神經網路模型中的參數數量有助於減少模型推理所需的計算資源。使用此類系統而精度下降最少（或沒有）的一些眾所周知的模型是YOLO，MobileNets，固態硬碟（SSD）和SqueezeNet。這些預先準備好的模型中有大量可供下載並在開源平台（例如TensorFlow或PyTorch）中使用。

隨著晶片生產商和初創公司致力於加速和簡化與AI和機器學習項目相關的從培訓到推理的出色任務，專用加速器的另一個時代正在崛起。更快，更便宜，更節能和可擴展。這些加速器保證將邊緣小工具支援到另一種性能水平。他們完成此任務的方式之一是減輕邊緣小工具的中央處理單元對與運行深度學習模型相關的困惑和壓倒性的數學工作的壓力。

通常，要提高深度學習模型的性能，仍然存在許多挑戰。然而，很明顯，模型的推論正在向邊緣小工具發展。必須理解模型的業務用例和關鍵性能必要性，以加快資產受限小工具的執行速度。SAP Edge Services和Data Intelligence共同提供了一個從頭開始的工具，用於在雲中訓練機器學習模型並管理邊緣設備的生命周期和執行。

顯然，在回顧歷史和今天的狀況時，邊緣機器學習的進步是快速而堅定的。隨著未來的發展不斷發展，請準備好發揮作用，並確保您準備好利用這項創新帶來的機會。