人工智能（AI）和機器學習（ML）技術不僅正在快速發展，還逐漸被創新性地應用於低功耗的微控製器（MCU）中，從而實現邊緣AI/ML解決方案。這些MCU是許多嵌入式係統不可或缺的一部分
，憑借其成本效益、高能效以及可靠的性能，現在能夠支持AI/ML應用。這種集成化在可穿戴電子產品、智能家居設備和工業自動化等應用領域中
，從AI/ML功能中獲得的效益尤為顯著。具備AI優化功能的MCU和TinyML的興起（專注於在小型、低功耗設備上運行ML模型）
，體現了這一領域的進步。TinyML對於直接在設備上實現智能決策、促進實時處理和減少延遲至關重要
，特別是在連接有限或無連接的環境中。

TinyML是指在小型
、低功耗設備上應用機器學習模型
，尤其是在微控製器（MCU）平台上，這些MCU經過優化，可以在設備有限的資源體係內運行。這使得邊緣設備能夠實現智能決策，支持實時處理並減少延遲。量化（Quantization）和剪枝（Pruning）等技術用於減小模型大小並提高推理速度。量化通過降低模型權重的精度
，顯著減少內存使用而幾乎不影響準確性
；剪枝則通過去除不太重要的神經元
，進一步減小模型規模並提升延遲性能。這些方法對於在資源有限的設備上部署ML模型至關重要。

PyTorch和TensorFlow Lite都是實現機器學習模型的主流框架。PyTorch是一個開源機器學習庫，被廣泛用於人工智能應用的開發，包括可以部署在微控製器上的應用程序。PyTorch提供了用於機器學習的工具和庫，包括計算機視覺和自然語言處理
，可用於低功耗和小尺寸設備。

TensorFlow Lite for Microcontroller（TFLM）能夠在非常受限的MCU類設備上運行具有Flatbuffer轉換功能的TF Lite模型。這減少了模型的大小，並優化了它在MCU上的推理。

另一個重要的工具是來自ARM的CMSIS-NN庫
，它為Cortex-M處理器提供了優化的神經網絡內核來運行TFLM模型。CMSIS-NN庫提高了性能並減少了內存占用，使其更容易在基於ARM的MCU上運行ML模型。

此外，一些MCU還配備了專用的AI/ML硬件加速器，如Silicon Labs（芯科科技）的EFM32無線SoC和MCU，可以顯著提高ML模型的性能，使更複雜的應用程序能夠在這些設備上更快、更高效地運行。人工智能加速器擅長並行化任務，如矩陣乘法
、卷(juan)積(ji)和(he)圖(tu)形(xing)處(chu)理(li)。通(tong)過(guo)利(li)用(yong)多(duo)樣(yang)化(hua)的(de)並(bing)行(xing)性(xing)，它(ta)們(men)可(ke)以(yi)一(yi)次(ci)執(zhi)行(xing)大(da)量(liang)的(de)計(ji)算(suan)。這(zhe)使(shi)得(de)人(ren)工(gong)智(zhi)能(neng)工(gong)作(zuo)負(fu)載(zai)的(de)速(su)度(du)大(da)大(da)提(ti)高(gao)，同(tong)時(shi)保(bao)持(chi)低(di)功(gong)耗(hao)。這(zhe)些(xie)加(jia)速(su)器(qi)還(hai)增(zeng)強(qiang)了(le)內(nei)存(cun)訪(fang)問(wen)模(mo)式(shi)

，減(jian)少(shao)了(le)數(shu)據(ju)傳(chuan)輸(shu)開(kai)銷(xiao)，主(zhu)CPU—CortexM可(ke)以(yi)進(jin)入(ru)低(di)功(gong)耗(hao)睡(shui)眠(mian)模(mo)式(shi)
，以(yi)節(jie)省(sheng)更(geng)多(duo)的(de)能(neng)量(liang)或(huo)管(guan)理(li)額(e)外(wai)的(de)任(ren)務(wu)。通(tong)過(guo)使(shi)數(shu)據(ju)更(geng)接(jie)近(jin)計(ji)算(suan)單(dan)元(yuan)
，它(ta)們(men)減(jian)少(shao)了(le)等(deng)待(dai)時(shi)間(jian)。其(qi)結(jie)果(guo)是(shi)增(zeng)強(qiang)了(le)性(xing)能(neng)、降低了功耗和延遲。

實際應用

TinyML的(de)實(shi)際(ji)應(ying)用(yong)是(shi)多(duo)種(zhong)多(duo)樣(yang)且(qie)有(you)影(ying)響(xiang)力(li)的(de)。一(yi)個(ge)值(zhi)得(de)注(zhu)意(yi)的(de)示(shi)例(li)是(shi)音(yin)頻(pin)和(he)視(shi)覺(jiao)喚(huan)醒(xing)詞(ci)
，當(dang)說(shuo)出(chu)特(te)定(ding)的(de)關(guan)鍵(jian)字(zi)或(huo)在(zai)圖(tu)像(xiang)中(zhong)檢(jian)測(ce)到(dao)某(mou)人(ren)時(shi)
，設(she)備(bei)會(hui)觸(chu)發(fa)動(dong)作(zuo)。這(zhe)項(xiang)技(ji)術(shu)被(bei)用(yong)於(yu)智(zhi)能(neng)揚(yang)聲(sheng)器(qi)和(he)安(an)全(quan)攝(she)像(xiang)頭(tou)
，支(zhi)持(chi)它(ta)們(men)在(zai)識(shi)別(bie)到(dao)喚(huan)醒(xing)詞(ci)或(huo)檢(jian)測(ce)運(yun)動(dong)時(shi)激(ji)活(huo)。另(ling)一(yi)種(zhong)應(ying)用(yong)是(shi)工(gong)業(ye)環(huan)境(jing)中(zhong)的(de)預(yu)測(ce)性(xing)維(wei)護(hu)。工(gong)廠(chang)設(she)備(bei)上(shang)的(de)傳(chuan)感(gan)器(qi)持(chi)續(xu)監(jian)測(ce)振(zhen)動(dong)和(he)溫(wen)度(du)等(deng)參(can)數(shu)，可(ke)使(shi)用(yong)TinyML模型檢測來異常並在故障發生之前預測維護需求，這有助於減少停機時間和維護成本。

手勢和活動識別是TinyML的另一種令人興奮的應用。配備加速度計和陀螺儀的可穿戴設備可以監測身體活動，如走路
、跑步或特定手勢。這些設備使用TinyML模型實時分析傳感器數據，為健身追蹤或醫療診斷提供有價值的見解。在農業領域


，TinyML被用於環境監測。智能農業係統分析土壤濕度和天氣條件
，以優化灌溉

，提高作物產量和資源效率。

TinyML還增強了健康監測功能。諸如連續血糖監測儀（CGM）這(zhe)樣(yang)需(xu)要(yao)長(chang)時(shi)間(jian)電(dian)池(chi)壽(shou)命(ming)和(he)實(shi)時(shi)數(shu)據(ju)處(chu)理(li)的(de)設(she)備(bei)

，都(dou)能(neng)夠(gou)極(ji)大(da)地(di)受(shou)益(yi)於(yu)這(zhe)項(xiang)技(ji)術(shu)。此(ci)外(wai)
，智(zhi)能(neng)床(chuang)傳(chuan)感(gan)器(qi)可(ke)以(yi)在(zai)沒(mei)有(you)直(zhi)接(jie)接(jie)觸(chu)的(de)情(qing)況(kuang)下(xia)評(ping)估(gu)病(bing)人(ren)的(de)呼(hu)吸(xi)模(mo)式(shi)
，為(wei)遠(yuan)程(cheng)觀(guan)察(cha)提(ti)供(gong)不(bu)間(jian)斷(duan)的(de)健(jian)康(kang)數(shu)據(ju)。這(zhe)一(yi)創(chuang)新(xin)在(zai)管(guan)理(li)老(lao)年(nian)人(ren)護(hu)理(li)和(he)慢(man)性(xing)疾(ji)病(bing)方(fang)麵(mian)特(te)別(bie)有(you)價(jia)值(zhi)，因(yin)為(wei)持(chi)續(xu)監(jian)測(ce)有(you)助(zhu)於(yu)及(ji)早(zao)發(fa)現(xian)潛(qian)在(zai)的(de)健(jian)康(kang)問(wen)題(ti)。

啟動開發

要開始構建自己的TinyML應用，您需要了解TinyML的基礎知識並選擇合適的硬件。根據您的應用
，您可能需要傳感器來收集數據
，例如加速度計、麥克風或攝像頭。設置開發環境包括安裝Simplicity Studio集成開發環境（IDE）、SDK和TinyML所需的資源庫。

下xia一yi步bu是shi收shou集ji和he準zhun備bei與yu應ying用yong相xiang關guan的de數shu據ju。例li如ru
，如ru果guo您nin正zheng在zai構gou建jian一yi個ge手shou勢shi識shi別bie係xi統tong

，您nin需xu要yao收shou集ji不bu同tong手shou勢shi的de加jia速su度du計ji數shu據ju。收shou集ji數shu據ju後hou
，您nin需xu要yao對dui其qi進jin行xing預yu處chu理li，使shi其qi適shi合he訓xun練lian您nin的de模mo型xing。訓xun練lian模mo型xing需xu要yao在zai功gong能neng強qiang大da的de機ji器qi上shang使shi用yong高gao級ji框kuang架jia，如ruTensorFlow或PyTorch。一旦訓練完畢
，模型需要使用量化和剪枝等技術進行優化。

在完成優化後，即可將模型轉換為適合MCU的格式，如TensorFlow Lite格式。最後一步是將優化後的模型部署到MCU

，將其與應用程序代碼集成，並對其進行全麵測試
，以確保其滿足性能和精度要求。基於實際性能的不斷迭代和改進對於完善TinyML應用至關重要。

利用芯科科技的解決方案在微控製器上實現人工智能和機器學習

芯科科技提供了一係列解決方案
，有助於在MCU上實現AI/ML。EFR32/EFM32（xG24、xG26、xG28）和SiWx917係列微控製器由於其低功耗和強大的性能而非常適合TinyML應用。以下是在芯科科技MCU上實現AI/ML的詳細技術指南：

數據采集與預處理

數據采集：使用連接到MCU的傳感器采集原始數據，例如加速度計、陀螺儀和溫度傳感器等傳感器都可用於各種應用。

預處理：對數據進行清理和預處理
，使其適合訓練。這可能包括過濾噪聲、對數值進行歸一化處理以及將數據分割到窗口中。為此，芯科科技提供了數據采集和預處理工具。

數據采集工具則由合作夥伴SensiML提供：https://github.com/sensiml/sensiml_xG24_dual_audio_imu_capture

模型訓練

模型選擇：根據應用選擇合適的ML模型。常用的模型包括決策樹（decision tree）和支持向量機（vector machine）。

訓練：在高性能雲服務器或帶有GPU的本地PC上使用TensorFlow訓練模型。這包括將預處理數據輸入模型並調整參數以最小化誤差。

模型轉換：使用TensorFlow Lite轉換器將訓練模型轉換為與TF Lite Micro兼容的格式。TensorFlow Lite for Microcontrollers (TFLM)中的FlatBuffer轉換包括將TensorFlow Lite模型轉換為FlatBuffer格ge式shi，這zhe是shi一yi種zhong緊jin湊cou的de二er進jin製zhi格ge式shi，可ke以yi高gao效xiao地di存cun儲chu和he快kuai速su地di訪fang問wen。這zhe個ge過guo程cheng對dui於yu在zai內nei存cun和he處chu理li能neng力li有you限xian的de微wei控kong製zhi器qi上shang運yun行xing機ji器qi學xue習xi模mo型xing至zhi關guan重zhong要yao。FlatBuffers支持直接訪問模型而無需解壓。一旦采用FlatBuffergeshi，gaimoxingkeyiyouweikongzhiqizhixing，shiqinenggouzhixingtuilirenwu。zhezhongzhuanhuanjianxiaolemoxingdaxiao

，shiqishiyongyuneicunfeichangyouxiandeshebei，bingqiekeyikuaisufangwenhezhixingmoxing

，erwuxujinxingdaliangjiexi。ciwai，tahaiquebaogaimoxingkeyizaiyunxingsulvdiyu1GHz

、代碼空間有限（通常低於3MB）、SRAM有限（約256KB）的MCU上被無縫集成和執行。

模型部署

與Simplicity SDK集成：使用芯科科技的Simplicity SDK將TF Lite Micro與MCU集成。

閃存模型（Flashing the Model）：將轉換後的模型移植到MCU的Flash上。這可以使用Simplicity Studio完成，它為芯科科技MCU的編程提供了一個用戶友好的界麵。

推理和優化：應用量化和剪枝等優化技術，以減小模型大小並提高性能。

運行推理：一旦模型部署完成，它可以在MCU上運行推理。這包括向模型中輸入新數據並獲得預測結果。

軟件工具鏈：新的軟件工具包旨在支持開發人員使用一些最流行的工具套件（如TinyML和TensorFlow）快速構建和部署人工智能和機器學習算法。AI/ML軟件幫助設計人員創建新的應用程序。除了原生支持TensorFlow來為高效推理提供優化內核之外
，芯科科技還與一些領先的AI/ML工具提供商（如SensiML和Edge Impulse）hezuo，yiquebaokaifarenyuanyongyouduandaoduandegongjulianlaijianhuajiqixueximoxingdekaifa
，zhexiemoxingzhenduiwuxianyingyongdeqianrushibushujinxingleyouhua。tongguojiangzheyiquanxindeAI/ML工具鏈與芯科科技的Simplicity Studio開發平台以及xG24、xG28和xG26係列SoC結合使用，開發人員可以創建能夠從各種互聯設備獲取信息的應用


，這些設備都可以相互通信，從而做出智能的、由機器學習驅動的決策。

芯科科技提供各種工具和資源來支持ML應用。以下是其中一些例子：

機器學習應用：芯科科技提供集成化的硬件、軟件和開發工具，幫助客戶快速創建適用於工業和商業應用場景的、安全的智能設備。開發平台支持嵌入式機器學習（TinyML）模型推理
，由Tensorflow Lite for Microcontrollers（TFLM）框架支持。該存儲庫包含一組利用ML的嵌入式應用程序：https://github.com/SiliconLabs/machine_learning_applications

機器學習工具包（MLTK）：這是一個帶有命令行實用程序和腳本的Python軟件包，可支持基於芯科科技的嵌入式平台開發的機器學習模型。它包括從命令行界麵或Python腳本執行ML操作的各項功能
，並可確定ML模型在嵌入式平台上的執行效率，以及使用穀歌Tensorflow訓練ML模型。

參考數據集：MLTK附帶參考模型使用的數據集。這些數據集可以在Github上找到：

https://github.com/SiliconLabs/mltk/blob/master/docs/python_api/datasets/index.md

音頻特征生成器（Audio Feature Generator）：芯科科技提供了與TensorFlow Lite模型一起使用的音頻特征生成器。它根據sl_ml_audio_feature_generation_config.h中的配置去進行前端的初始化來生成功能
，並以流模式來初始化和啟動麥克風。https://docs.silabs.com/machine-learning/latest/machine-learning-tensorflow-lite-api/ml-audio-feature-generation

MLPerf Tiny Benchmark：MLPerf Tiny Benchmark是由一家開放工程聯盟MLCommons設計的性能評估套件。它旨在衡量ML係統在推理方麵的性能和能效
，將訓練好的ML模型應用於新數據。該基準是專門為低功耗的最小設備量身定製的，通常用於深度嵌入式應用，如物聯網（IoT）或智能傳感。

芯科科技參與了MLPerf Tiny基準測試，提交了展示機器學習工具包（MLTK）功能的解決方案。該工具包包括TinyML基準測試使用的幾個模型
，可在GitHub上獲得，涵蓋異常檢測
、圖像分類、關鍵字識別和視覺喚醒詞等應用程序。

與以前的版本相比，使用MLPerf Tiny v1.0的結果顯示出了推理速度提高

，以及代碼規模和內存使用量的減少。例如

，Plumerai的推理引擎表現出了顯著的增強
，包括支持時間序列神經網絡

，如基於LSTM的循環神經網絡（RNN）
，這在運動傳感器、健康傳感器、語音和音頻應用中很常見。

AI/ML合作夥伴

芯科科技與業界領先的供應商合作，包括Edge Impulse、SensiML、NeutonAI和Eta Compute等AutoML工具鏈和SaaS雲夥伴建立了合作關係。此外

，諸如Sensory和MicroAI等解決方案提供商
，以及包括Capgemini和Jabil在內的設計合作夥伴都是該網絡的一部分。這些聯盟提供了可簡化綜合解決方案開發的平台，使初學者更容易接觸到邊緣的AI/ML。

TinyML在MCU上的優勢：

成本低－MCU價格合理

綠色環保－能耗低

易於集成－可輕鬆將MCU集成到現有環境中

隱私與安全－在本地處理數據，無需聯網傳輸

快速原型開發－快速開發概念驗證解決方案

自主可靠－微型設備在任何環境下都能穩定運行

實時處理－將延遲降至最低

嵌入式開發應用流程

開發具有機器學習功能的應用需要兩個不同的工作流程：

使用Simplicity Studio來創建無線應用的嵌入式應用開發工作流程。

創建將添加到嵌入式應用的機器學習功能的機器學習工作流程。

目標應用

運動檢測：在(zai)商(shang)業(ye)辦(ban)公(gong)大(da)樓(lou)裏(li)
，許(xu)多(duo)燈(deng)都(dou)是(shi)由(you)運(yun)動(dong)探(tan)測(ce)器(qi)控(kong)製(zhi)的(de)，該(gai)探(tan)測(ce)器(qi)監(jian)測(ce)占(zhan)用(yong)情(qing)況(kuang)，以(yi)確(que)定(ding)燈(deng)是(shi)否(fou)應(ying)該(gai)打(da)開(kai)或(huo)關(guan)閉(bi)。然(ran)而(er)，當(dang)員(yuan)工(gong)在(zai)辦(ban)公(gong)桌(zhuo)前(qian)打(da)字(zi)時(shi)
，由(you)於(yu)動(dong)作(zuo)僅(jin)限(xian)於(yu)手(shou)和(he)手(shou)指(zhi)
，因(yin)為(wei)運(yun)動(dong)傳(chuan)感(gan)器(qi)本(ben)身(shen)無(wu)法(fa)識(shi)別(bie)他(ta)們(men)的(de)存(cun)在(zai)，所(suo)以(yi)可(ke)能(neng)會(hui)出(chu)現(xian)自(zi)動(dong)關(guan)燈(deng)而(er)無(wu)法(fa)為(wei)員(yuan)工(gong)可(ke)提(ti)供(gong)照(zhao)明(ming)。通(tong)過(guo)將(jiang)音(yin)頻(pin)傳(chuan)感(gan)器(qi)與(yu)運(yun)動(dong)探(tan)測(ce)器(qi)連(lian)接(jie)起(qi)來(lai)
，額(e)外(wai)的(de)音(yin)頻(pin)數(shu)據(ju)（如打字的聲音）可以通過機器學習算法進行處理
，從而使照明係統能夠更明智地決定燈是應該打開還是關閉。

預測性維護：可使用芯科科技的EFR32 MCU來(lai)開(kai)發(fa)一(yi)個(ge)預(yu)測(ce)性(xing)維(wei)護(hu)係(xi)統(tong)。這(zhe)需(xu)要(yao)使(shi)用(yong)連(lian)接(jie)的(de)傳(chuan)感(gan)器(qi)來(lai)收(shou)集(ji)機(ji)器(qi)的(de)振(zhen)動(dong)和(he)溫(wen)度(du)數(shu)據(ju)，同(tong)時(shi)訓(xun)練(lian)一(yi)個(ge)模(mo)型(xing)來(lai)根(gen)據(ju)這(zhe)些(xie)數(shu)據(ju)預(yu)測(ce)潛(qian)在(zai)的(de)故(gu)障(zhang)，然(ran)後(hou)將(jiang)該(gai)模(mo)型(xing)部(bu)署(shu)在(zai)MCU上，實現對機器的實時監控和維護計劃。

健康監測：使用EFM32 MCU構建可穿戴健康監測設備。使用傳感器收集心率和體溫等生命體征的數據。訓練一個模型來檢測數據中的異常。在MCU上部署該模型
，幫助用戶對健康情況提供實時分析了解。

智能農業：使用芯科科技的MCU開發智能灌溉係統。使用連接的傳感器收集土壤濕度和天氣數據。訓練一個模型，以便根據這些數據來優化水的使用。將該模型部署在MCU上
，控製灌溉係統
，提高作物產量。

結論

MCU不再局限於簡單任務，而是正成為實現AI的強大平台。通過探索麵向AI優化的MCU，我們可以為電池供電的智能設備開辟新的潛在應用。無論是智能家居設備還是工業傳感器
，AI驅動的MCU正在重塑嵌入式係統的未來。