基于PIC32MZ EF MCU的驅(qū)動視頻監(jiān)控系統(tǒng)

基于PIC32MZEFMCU的驅(qū)動視頻監(jiān)控系統(tǒng)在視頻監(jiān)控方面，設(shè)計(jì)師和他們的客戶長期以來一直被迫滿足于效率極低的系統(tǒng)，這些系統(tǒng)依賴于“愚蠢”的批量圖像捕獲和存檔，絕大多數(shù)記錄的內(nèi)容是不感興趣的，而感興趣的內(nèi)容假設(shè)它已經(jīng)存檔，它本身就很難在存檔中查明。然而，現(xiàn)在，功能強(qiáng)大、節(jié)能且具有成本效益的處理器、圖像傳感器和存儲設(shè)備與日益復(fù)雜的軟件相結(jié)合，為系統(tǒng)開發(fā)人員提供了將寶貴的計(jì)算機(jī)視覺處理能力整合到從消費(fèi)者監(jiān)控系統(tǒng)到應(yīng)用程序的機(jī)會?？纱┐鞯摹吧畈┛汀毕鄼C(jī)。智能的、事件驅(qū)動的視頻監(jiān)控僅在例如人或其他感興趣的對象進(jìn)入畫面時(shí)記錄圖像，并且僅在對象留在畫面中時(shí)才記錄圖像。這種自主智能在歷史上可能僅在政府、軍隊(duì)和其他高端客戶使用的昂貴、笨重、耗電的設(shè)備中提供，現(xiàn)在它可以以消費(fèi)者友好的價(jià)格提供，電池壽命長，并且以一種形式因素小而輕，足以美觀地坐在架子上。您可以利用當(dāng)今視覺處理硬件和軟件提供的潛力做些什么？以下是基于消費(fèi)者監(jiān)控系統(tǒng)案例研究的一些想法：一個(gè)基本設(shè)計(jì)可能會在它感應(yīng)到幀中的運(yùn)動時(shí)開始記錄，并持續(xù)一段固定的時(shí)間。稍微復(fù)雜一點(diǎn)的方法是可變長度記錄，直到發(fā)現(xiàn)物體運(yùn)動停止和/或物體從幀中消失。然而，這種方法可能會產(chǎn)生大量由吹樹葉、經(jīng)過的車輛等引起的“誤報(bào)”。因此，如果溫血動物是唯一感興趣的對象，您可能需要在可見光相機(jī)上添加紅外探測器或其他熱傳感器。更一般地說，可用算法可以讓您微調(diào)對象“觸發(fā)器”的大小、顏色、距離、移動速率和其他閾值參數(shù)。如果你只關(guān)心有洞察力的人怎么辦？面部檢測功能可以在這方面提供幫助。您甚至可能有興趣在有人進(jìn)入畫面時(shí)觸發(fā)相機(jī)……除非那個(gè)人是您自己、您的配偶、您的孩子、郵遞員等。為此，您將需要更強(qiáng)大的面部識別設(shè)施。OpenCV計(jì)算機(jī)視覺庫與典型的一樣，該項(xiàng)目從其軟件定義和開發(fā)計(jì)劃開始（并且從根本上受其約束）。在過去的幾十年里，計(jì)算機(jī)視覺主要是一個(gè)學(xué)術(shù)研究領(lǐng)域；因此，在這個(gè)特定領(lǐng)域還沒有一個(gè)大型、成熟的行業(yè)專業(yè)知識庫。此外，學(xué)術(shù)實(shí)驗(yàn)往往不能廣泛適用于現(xiàn)實(shí)世界的實(shí)施，例如，環(huán)境照明和天氣條件可能因一種使用情況而異，以及偏離研究實(shí)驗(yàn)室中發(fā)現(xiàn)的更受控制的條件。幸運(yùn)的是，像往常一樣，開源社區(qū)提供了資源幫助。OpenCV（開源計(jì)算機(jī)視覺）庫起源于英特爾的研究部門；公司在2000年的CVPR（IEEEComputerVisionandPatternRecognition，著名的計(jì)算機(jī)視覺會議）上正式向公眾公開。在前五年的beta測試中，OpenCV在2006年獲得了v1.0“黃金”地位，三年后是v2.0，2015年年中是v3.0（截至去年12月，v3.1是最新版本）。OpenCV在BSD許可下發(fā)布，可免費(fèi)用于學(xué)術(shù)和商業(yè)用途。它采用優(yōu)化的C/C++編寫，具有C++、C、Python和Java接口，支持Windows、Linux、MacOS、iOS和Android操作系統(tǒng)。值得注意的是，對于這個(gè)特定的監(jiān)控?cái)z像頭項(xiàng)目，該庫包含2，500多種算法，包括可用于識別和跟蹤對象、檢測和識別人臉以及對人類行為進(jìn)行分類的算法。MicrochipTechnology的PIC32MZEF系列MCU然而，值得一提的是使用OpenCV的一個(gè)潛在缺點(diǎn)。該庫以英特爾和PC為中心的起源反映在其中包含的許多基礎(chǔ)代碼都是基于浮點(diǎn)的這一事實(shí)，這對于某些僅定點(diǎn)的嵌入式系統(tǒng)設(shè)計(jì)可能存在問題。說實(shí)話，大多數(shù)計(jì)算機(jī)視覺功能甚至不需要浮點(diǎn)精度。因此，一些處理器供應(yīng)商已經(jīng)開發(fā)了部分或全部OpenCV庫的架構(gòu)定制版本，處理代碼的浮點(diǎn)到定點(diǎn)轉(zhuǎn)換以及提供其他優(yōu)化。但是，如果您堅(jiān)持自己進(jìn)行轉(zhuǎn)換，那么這項(xiàng)工作可能會因成本和進(jìn)度而受到限制。Microchip的新型PIC32MZEFMCU為OpenCV浮點(diǎn)問題提供了一種直接的替代解決方案（圖1）。它們的核心是高性能32位MIPSmicroAptive處理器，運(yùn)行頻率高達(dá)200MHz，能夠處理各種計(jì)算機(jī)視覺功能。此外，為了反映48個(gè)成員產(chǎn)品系列名稱中的“EF”后綴，Microchip還在整數(shù)CPU旁邊嵌入了一個(gè)32位和64位符合IEEE754的七級FPU，能夠以不變的方式運(yùn)行浮點(diǎn)OpenCV代碼并且高速。圖1：高性能CPU與32位和64位FPU協(xié)處理器的組合使Microchip的PIC32MZEFMCU在使用開源代碼時(shí)成為引人注目的候選者。（圖片由微芯科技提供）PIC32MZEF的其他有用方面包括其集成的10/100Mbit以太網(wǎng)MAC和大量系統(tǒng)接口（品種和數(shù)量在某種程度上取決于封裝和引腳分配……MCU系列有多種選擇）。MAC與外部PHY相結(jié)合，可以直接（如果您選擇有線以太網(wǎng)是您選擇的網(wǎng)絡(luò)技術(shù)）或通過外部有線到無線以太網(wǎng)橋接間接支持監(jiān)控?cái)z像機(jī)的網(wǎng)絡(luò)連接需求。或者，您可以通過連接到PIC32MZEFUSB2.0或其他接口端口的外部收發(fā)器來實(shí)現(xiàn)無線蜂窩和/或以太網(wǎng)連接。圖像傳感器替代品前面提到的MCU接口多樣性不僅有利于提供網(wǎng)絡(luò)連接多樣性，而且有利于圖像傳感器的靈活性。將相機(jī)連接到PIC32MZEF的一種直接方法是在設(shè)計(jì)中加入OmniVisionTechnologiesOVM7690VGA分辨率相機(jī)模塊，通過8位I/O端口連接到MCU（圖2）。這種方法有幾個(gè)關(guān)鍵原因是有益的；OVM7690已經(jīng)包含晶圓級光學(xué)元件，例如64°視場（對角線）、F/3.0鏡頭，因此您無需在設(shè)計(jì)中添加單獨(dú)的光學(xué)子系統(tǒng)。此外，OVM7690嵌入了一個(gè)專用的圖像處理器，從而減輕了PIC32MZEF的圖像預(yù)處理任務(wù)，例如去馬賽克、重新縮放、格式轉(zhuǎn)換和曝光控制。圖2：集成相機(jī)模塊吹捧設(shè)計(jì)簡單（頂部），但它提供的圖像雖然令人賞心悅目，但與傳統(tǒng)圖像傳感器的未處理輸出（底部）相比，它可能不太適合計(jì)算機(jī)視覺處理。（圖片分別由OmniVisionTechnologies和ONSemiconductor提供）但是，存在可能迫使您轉(zhuǎn)而使用傳統(tǒng)圖像傳感器（例如安森美半導(dǎo)體的VGA分辨率NOIL1SM0300A）與您自己設(shè)計(jì)的鏡頭并通過其SPI端口之一連接到PIC32MZEF的合理情況。首先，人眼喜歡的圖像可能反過來被視為對計(jì)算機(jī)視覺處理算法有害。例如，由圖像預(yù)處理器自動完成的邊緣增強(qiáng)可能會導(dǎo)致將對象與其背景區(qū)分開來的任務(wù)復(fù)雜化。自動曝光控制、黑白電平平衡、色彩校正以及通常由內(nèi)置在相機(jī)模塊中的圖像協(xié)處理器默認(rèn)完成的類似任務(wù)也是如此。例如，您可能還需要與傳感器模塊制造商提供的不同的鏡頭焦距和/或光圈。但是，無論您使用集成攝像頭模塊還是獨(dú)立圖像傳感器，您都可能會發(fā)現(xiàn)具有成本效益的VGA分辨率產(chǎn)品選項(xiàng)就足夠了；有時(shí)，您甚至只需要更便宜的QVGA或CIF分辨率產(chǎn)品。唯一可能需要超過3Mpixels分辨率的情況是，如果您試圖辨別遠(yuǎn)處的物體，或者在特別惡劣的環(huán)境觀察條件下，這兩種情況都會受益于更大的源圖像細(xì)節(jié)。如果您的目標(biāo)客戶堅(jiān)持觀看“高清”視頻，您也可以選擇更高分辨率的圖像傳感器或攝像頭，本地大容量存儲回想一下，該項(xiàng)目的基本目標(biāo)是僅在相機(jī)“看到”的感興趣事件發(fā)生時(shí)才錄制視頻，并且僅在該事件持續(xù)時(shí)才錄制。在這樣做的過程中，該實(shí)施最大限度地減少了設(shè)計(jì)所需的閃存或其他存儲技術(shù)的容量（更不用說在此過程中節(jié)省寶貴的電池壽命）。盡管如此，雖然512KB到2MB的閃存以及集成在各種PIC32MZEFMCU系列成員中的128KB到512KBRAM可能足以滿足非易失性代碼存儲和瞬態(tài)數(shù)據(jù)存儲的目的，但更高容量的外部存儲視頻剪輯本身仍然是必要的。當(dāng)然，您總是可以使用獨(dú)立的NAND閃存設(shè)備（或其中一些），通過I/O總線與MCU配對。但是，您需要開發(fā)自己的媒體管理軟件，以處理后臺“垃圾收集”清理已填充有效和/或停用視頻數(shù)據(jù)的閃存擦除塊，以及磨損級別媒體，以防止某些擦除塊與其他擦除塊的“熱”過度循環(huán)。此外，這種媒體管理需要由MCU本身處理，從而消耗寶貴的處理器周期，否則這些周期可能會專門用于計(jì)算機(jī)視覺處理和其他任務(wù)。相反，請考慮使用包含自己的媒體管理控制器的閃存大容量存儲解決方案。選項(xiàng)包括可移動SD卡（以及更小的miniSD和microSD兄弟），以及MicronTechnology的BGA封裝e.MMCNAND閃存;這兩個(gè)選項(xiàng)都通過少引腳I/O總線連接到PIC32MZEFMCU。例如，根據(jù)捕獲的幀分辨率、幀速率和壓縮格式，美光的32GBytee.MMC應(yīng)該能夠讓您存儲數(shù)十分鐘到數(shù)小時(shí)的視頻。此外，通過電子郵件、短信或其他警報(bào)，您可以將新視頻的捕獲狀態(tài)（連同視頻本身的部分或全部）傳達(dá)給監(jiān)控系統(tǒng)所有者；視頻將保留在攝像機(jī)中，以供后續(xù)查看、存檔和/或刪除。具有集成媒體管理控制器的閃存大容量存儲解決方案既可以釋放系統(tǒng)處理器來處理其他任務(wù)，又可以簡化您的軟件開發(fā)工作。（圖片由美光科技提供）結(jié)論誠然，這個(gè)項(xiàng)目描述并不是包羅萬象的。例如，仍需要添加AC/DC和DC步進(jìn)電源子系統(tǒng)，并且您可能還需要包含麥克風(fēng)和ADC，以便將音頻與圖像一起錄制。但是，它涵蓋了設(shè)計(jì)的一些關(guān)鍵部分。每種算法越復(fù)雜，組合的越多，最終導(dǎo)致PIC32MZEF的CPU和FPU的處理潛力超載的可能性就越大。話雖如此，用于對象識別的新興卷積神經(jīng)網(wǎng)絡(luò)“深度學(xué)習(xí)”技術(shù)等新算法以及對現(xiàn)有算法的優(yōu)化一直在出現(xiàn)。圖：卷積神經(jīng)網(wǎng)絡(luò)（CNN）和其他“深度學(xué)習(xí)”方法一旦使用一系列參考圖像進(jìn)行訓(xùn)練，就可以在大量處理和內(nèi)存需求的權(quán)衡下提供令人印象深