邊緣運算是甚麼?邊緣運算結合 AI 的未來應用

邊緣運算(Edge Computing)是一種網路運算架構,運算過程盡可能靠近產出資料的地方,既能取得雲端運算的優點,也能減少網路造成的延遲和頻寬使用。2021 年全球對於邊緣運算結合雲端 AI 的需求已經有了大幅增長,受到疫情影響,為了減少員工的健康風險,企業導入 AI、IoT 與 5G 應用進行自動化倉儲管理、資源盤點已經是必要的趨勢。

一項由 IBM發布,針對全球高階主管的研究 中提到,研究中有將近 94% 的主管,認為他們所屬的企業將在未來五年內,運用邊緣運算進行即時管理。

智慧醫院智慧城市無人商店,結合邊緣運算與 AI 人工智慧是 2022 年的一大趨勢。邊緣運算加上 AI 的解決方案,可以作為人與機器之間的橋樑,從而改良預測、員工分配、產品設計和物流流程。

以下是 NVIDIA 預計在 2022 年會看到邊緣 AI 未來趨勢:

1. 邊緣管理成為 IT 的核心業務之一

Gartner 在最近的報告中提到:過去邊緣運算相對簡略,讓業務端自行管理即可;但隨著 AI 的應用越來越複雜,由 IT 部門主導邊緣 AI 管理,將會是 2022 年的趨勢。

為了增加可管理性、安全性並考慮到更靈活的成本運用,IT 部門將轉向 雲原生技術。 Kubernetes 是一個常見的容器化微服務平台,現在已成為大規模管理邊緣 AI 應用的指標工具。IT 部門已經可以在雲端中直接使用 Kubernetes 、快速建構自己的雲原生管理解決方案、將 AI 導入企業運作。例如 NVIDIA Fleet Command 或是 InfinitiesSoft 數位無限 AI-Stack

NVIDIA 打造的醫療 AI 專用邊緣運算設備

2. 邊緣人工智慧應用的快速成長

視覺辨識會繼續是 2022 年人工智慧發展的重點。NVIDIA Metropolis 是一個應用程式框架和一組開發人員工具,可幫助搭建計算機視覺 AI 應用程式,自 2017 年以來,合作夥伴的數量增加了將近百倍,現在擁有 1,000 多個成員。

想像一下,不久的未來人們有可能與人工智慧一起逛街。人工智慧可以透過手機,辨識你從架子上拿起的東西,透過自然語言分析模組,能及時理解你的需求,甚至提供更好的選擇。

多模態 AI 結合機器人可以聽到您的訂單、提供回應、理解顧客的情緒反應,在進一步給予回應,某種程度上能夠協助店員,給予更不同的服務體驗。可以查看 Project Tokkio 的範例展示:

See Project Tokkio! Nvidia’s food ordering AI

3. 人工智慧融合工業物聯網解決方案

智慧工廠也是另一個將導入大量邊緣人工智慧應用的領域。根據 Gartner 的報告,2021 年只有不到 10% 的邊緣運算裝置具有深度的機器學習能力; 2027 年,這個比例將提升到 65% ,無法提前佈局的企業將會面臨極大的挑戰。

例如:面臨人工成本上升,未來的工廠如果沒有導入 AI 應用程式,分析監視器影像或是 AIoT 的訊號,就需要耗費大量人力進行檢查,也很難提前進行預測性維護。

導入 AI 和邊緣運算的工廠和智慧倉儲,甚至能夠結合機械手臂或是倉儲機器人,及時遠端處理各種問題。

4. 企業採用 AI-on-5G 的增長

AI-on-5G 組合計算基礎設施 提供高性能和安全的連接結構,能夠在邊緣設備或雲端上直接整合 Sensor、運算平台和 AI 應用程式。

AI-on-5G 將開啟新的邊緣 AI 應用:

  • 工業 4.0:工廠自動化、工廠機器人、監控和檢查。
  • 汽車系統:自動化收費公路和車輛遙測應用。
  • 智慧空間:零售、智慧城市和供應鏈應用。

去年11月,Mavenir Edge AI 是世界第一個AI on 5G 的 full- stack 平台。2022 年,預計會出現更多解決方案,提供企業更方便地導入 AI 與邊緣運算。

5. 從雲端到邊緣的 AI 生命週期管理

對於部署邊緣 AI 的組織, MLOps 將成為幫助推動數據流入和流出邊緣的關鍵。從邊緣取得新的、有趣的數據或洞見、重新訓練模型、測試應用程式,然後將它們重新部署到邊緣裝置,可提高模型的準確性和結果。

傳統軟體開發流程,可能每季或每年進行一次大型更新,但人工智慧則能夠持續的推出小型更新,不累積程式開發技術債,使企業每天都能夠明顯進步,回應客戶反饋。

MLOps 仍處於早期開發階段,許多大型企業和初創公司正在構建解決方案,以滿足對 AI 技術更新的持續需求。雖然目前主要專注於解決數據中心的問題,但未來此類解決方案將轉向邊緣計算。

AI 已經不再是資訊科技產業的專利,如何整合雲端和邊緣運算裝置,將是 2022 年邊緣運算結合 AI 的重要新趨勢。

參考連結:https://blogs.nvidia.com/blog/2021/12/17/top-5-edge-ai-trends-2022/

--

--

--

數位無限軟體(InfinitiesSoft)專注於為企業解決虛擬化、容器化、微服務、邊緣運算、混合雲管理、異質IT環境與人工智慧帶來的挑戰,整合異質雲管與熱門的開源AI深度學習架構和開發工具環境,提供一站購足的AI機器學習雲平台方案AI-Stack。

Love podcasts or audiobooks? Learn on the go with our new app.

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store
InfinitiesSoft數位無限

InfinitiesSoft數位無限

數位無限軟體(InfinitiesSoft)專注於為企業解決虛擬化、容器化、微服務、邊緣運算、混合雲管理、異質IT環境與人工智慧帶來的挑戰,整合異質雲管與熱門的開源AI深度學習架構和開發工具環境,提供一站購足的AI機器學習雲平台方案AI-Stack。

More from Medium

Using language models to prove truths about reality

Artificial Intelligence and the future — Rise of AI

THE AGE OF AI — Book Review

AI and the Top Short-term Global Risks for our society.