《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 嵌入式技術(shù) > 設(shè)計(jì)應(yīng)用 > 基于體感交互的智能家居控制與監(jiān)護(hù)系統(tǒng)
基于體感交互的智能家居控制與監(jiān)護(hù)系統(tǒng)
2019年電子技術(shù)應(yīng)用第6期
趙 琳1,,方艷紅1,,2,張紅英1,2,王學(xué)淵1
1.西南科技大學(xué) 信息工程學(xué)院,四川 綿陽621010;2.特殊環(huán)境機(jī)器人技術(shù)四川省重點(diǎn)實(shí)驗(yàn)室,四川 綿陽621010
摘要: 為實(shí)現(xiàn)通過手勢對家居電器設(shè)備的控制,,并對室內(nèi)危險(xiǎn)情況進(jìn)行實(shí)時(shí)監(jiān)測和報(bào)警,設(shè)計(jì)了基于體感交互的智能家居系統(tǒng),。該系統(tǒng)利用Kinect設(shè)備捕獲RGBD圖像信息,,將識(shí)別出的手勢信息作為控制信號(hào),通過ZigBee局域網(wǎng)對家居設(shè)備進(jìn)行控制,;同時(shí)對場景中可能出現(xiàn)的老人或小孩摔倒情況進(jìn)行實(shí)時(shí)檢測判定,,對危險(xiǎn)情況報(bào)警,。實(shí)驗(yàn)結(jié)果表明,該系統(tǒng)能滿足通過手勢對家居設(shè)備進(jìn)行控制的需求,,并且對摔倒情況能進(jìn)行檢測和報(bào)警,。
中圖分類號(hào): TN919.5;TP399
文獻(xiàn)標(biāo)識(shí)碼: A
DOI:10.16157/j.issn.0258-7998.190091
中文引用格式: 趙琳,,方艷紅,,張紅英,等. 基于體感交互的智能家居控制與監(jiān)護(hù)系統(tǒng)[J].電子技術(shù)應(yīng)用,,2019,,45(6):101-103.
英文引用格式: Zhao Lin,F(xiàn)ang Yanhong,,Zhang Hongying,,et al. Smart home control and monitoring system based on somatosensory interaction[J]. Application of Electronic Technique,2019,,45(6):101-103.
Smart home control and monitoring system based on somatosensory interaction
Zhao Lin1,,F(xiàn)ang Yanhong1,2,,Zhang Hongying1,,2,Wang Xueyuan1
1.Faculty of Information Engineering,,Southwest University of Science and Technology,,Mianyang 621010,,China,; 2.Key Laboratory of Sichuan Province for Robot Technology Used for Special Environment,Mianyang 621010,,China
Abstract: In order to realize the control of home appliances by gesture and real-time monitoring including alarming of indoor hazards,a smart home system based on somatosensory interaction is designed. The system captures RGBD image information by Kinect device, takes the recognized gesture information as control signal, and controls the household equipment through ZigBee LAN. At the same time, it detects the falls of the elderly or children in the scene in real time, and alarms the dangerous situation. The experimental results show that the system can meet the need of controlling the household equipment by gesture, and can detect and alarm the falling situation.
Key words : somatosensory interaction,;gesture recognition;home control,;fall detection

0 引言

    隨著科學(xué)技術(shù)的日益發(fā)展和社會(huì)的進(jìn)步,,人們對美好生活的需求日益增長,對生活質(zhì)量也有越來越高的要求,。人們的家電控制方式從最初的按下按鈕使開關(guān)閉合發(fā)展為紅外遙控,,甚至到手機(jī)小程序應(yīng)用。現(xiàn)今甚至可以進(jìn)一步脫離手機(jī)應(yīng)用程序,,利用體感技術(shù)來實(shí)現(xiàn)對家居設(shè)備的控制[1],。

    本文在現(xiàn)有的智能家居技術(shù)的理論基礎(chǔ)上[2-3],設(shè)計(jì)了一種基于體感交互的智能家居控制與監(jiān)護(hù)系統(tǒng),,用戶可以通過簡單的手勢實(shí)現(xiàn)對家居設(shè)備的控制,。對于有老人或小孩的家庭,,當(dāng)出現(xiàn)有人突然摔倒等危險(xiǎn)情況時(shí),系統(tǒng)會(huì)自動(dòng)報(bào)警并且將現(xiàn)場實(shí)際情況發(fā)送給監(jiān)護(hù)人,。

1 系統(tǒng)整體結(jié)構(gòu)設(shè)計(jì)

    系統(tǒng)主要由感知終端模塊,、核心處理模塊和信號(hào)處理模塊組成,系統(tǒng)整體結(jié)構(gòu)框圖如圖1所示,。

jsj2-t1.gif

    由圖1可知,,系統(tǒng)在感知終端獲取視頻圖像信息后,傳遞給核心處理模塊,,在核心處理模塊中完成手勢判定和摔倒檢測,,之后,一方面將檢測到的摔倒信息利用網(wǎng)絡(luò)發(fā)送到用戶預(yù)留的地址,;另一方面將手勢識(shí)別信號(hào)通過串口發(fā)送給上位機(jī)微控單元(MCU),,在ZigBee局域網(wǎng)中的下位機(jī)MCU接收上位機(jī)發(fā)出的控制信息,實(shí)現(xiàn)對電器設(shè)備的控制,。

2 系統(tǒng)設(shè)計(jì)及實(shí)現(xiàn)

    系統(tǒng)的設(shè)計(jì)流程圖如圖2所示,。

jsj2-t2.gif

    在圖2的系統(tǒng)設(shè)計(jì)流程中,感知終端采用Kinect傳感器實(shí)現(xiàn)信息采集,;核心處理端依據(jù)骨骼關(guān)節(jié)點(diǎn)空間信息進(jìn)行動(dòng)作判定,,并對動(dòng)作做出響應(yīng);當(dāng)用戶需要完成家居控制服務(wù)時(shí),,將信息傳輸給MCU,,實(shí)現(xiàn)家居設(shè)備的控制,當(dāng)發(fā)現(xiàn)危險(xiǎn)情況時(shí),,通過網(wǎng)絡(luò)將信息發(fā)送給監(jiān)護(hù)人,。

2.1 信息采集

    系統(tǒng)的信息采集使用Kinect傳感器獲取人體20個(gè)骨骼節(jié)點(diǎn)信息,依據(jù)骨骼節(jié)點(diǎn)的三維位置信息創(chuàng)建對應(yīng)人體骨架,,對相應(yīng)的人體骨架進(jìn)行坐標(biāo)定位,。

2.2 信息處理

    信息處理包括實(shí)時(shí)對接收的數(shù)據(jù)進(jìn)行手勢判定[4-6]和摔倒檢測[7-8]

2.2.1 手勢判定

    Kinect傳感器的信息采集頻率是30幀/s,,當(dāng)連續(xù)30幀的右手骨骼點(diǎn)坐標(biāo)變化超出閾值時(shí),,認(rèn)為手勢發(fā)生并提取數(shù)據(jù)流,與模型對比完成分類,。

    以右手骨骼點(diǎn)到脊柱骨骼點(diǎn)以及左右肩骨骼點(diǎn)的歐式距離作為手勢判別的特征數(shù)據(jù),,歐式距離計(jì)算公式為:

    jsj2-gs1.gif

式中,d為歐式距離數(shù)值大小,,(x1,,y1,z1),、(x2,,y2,,z2)分別為空間中任意兩點(diǎn)的三維坐標(biāo)。

    對獲取的數(shù)據(jù)進(jìn)行擬合得到待匹配序列,。將待匹配序列與模板序列比對,,當(dāng)差值在閾值范圍內(nèi)則匹配到當(dāng)前模板,完成手勢分類,。

    系統(tǒng)中預(yù)先定義了兩個(gè)模板,,每個(gè)模板保存有右手骨骼點(diǎn)到左右肩以及脊柱關(guān)節(jié)點(diǎn)的距離,定義了e1,、e2,、e3、e4,、e5,、e6用于保存待匹配序列與模板序列骨骼點(diǎn)相對距離的誤差,計(jì)算公式為:

    jsj2-gs2.gif

其中,,E為右手骨骼點(diǎn)到左右肩節(jié)點(diǎn)或脊柱節(jié)點(diǎn)的誤差,,ai為模板中存放的某一骨骼點(diǎn)相對距離大小,bi為實(shí)時(shí)獲取的對應(yīng)骨骼點(diǎn)相對距離大小,。

    e1,、e2、e3分別表示右手到模板一脊柱,、左肩,、右肩的距離誤差,e4,、e5,、e6分別表示右手到模板二脊柱、左肩,、右肩的距離誤差,,系統(tǒng)設(shè)定的誤差閾值(單位:m)分別為4,、3,、3、3,、3,、5。當(dāng)有待匹配序列滿足某一模板設(shè)定的閾值條件時(shí),,認(rèn)定該模板所代表的手勢發(fā)生,。

2.2.2 摔倒檢測

    受文獻(xiàn)[7]和文獻(xiàn)[8]中利用加速度傳感器檢測摔倒的啟發(fā),本文利用采集的骨骼點(diǎn)空間位置信息,,在被監(jiān)護(hù)者不佩戴任何儀器設(shè)備的情況下獲得其活動(dòng)加速度數(shù)據(jù),。

    以脊柱中心骨骼點(diǎn)為例,,根據(jù)基本物理運(yùn)動(dòng)學(xué)知識(shí),加速度計(jì)算公式為:

    jsj2-gs3.gif

其中,,at表示第t幀中骨骼點(diǎn)的加速度大小,,xt+1、xt-1分別表示與前后幀骨骼點(diǎn)的變化量,,Δt是采樣時(shí)間間隔,,本文的采樣間隔時(shí)間是1/30 s。

    由于一些比較劇烈的運(yùn)動(dòng)可能會(huì)產(chǎn)生較大的加速度而導(dǎo)致誤判,,因此本文進(jìn)一步檢測關(guān)節(jié)的距離變化來提高檢測的準(zhǔn)確性,。整體的摔倒檢測實(shí)現(xiàn)流程如圖3所示。

jsj2-t3.gif

    由圖3可知,,摔倒判定需同時(shí)滿足加速度超出閾值和骨骼距離小于閾值兩個(gè)判定條件,。其中,骨骼距離是指髖骨和膝蓋在豎直方向上的相對位置,。經(jīng)過多次摔倒測試,,本文設(shè)置的加速度閾值設(shè)定為0.05 m/s2,骨骼點(diǎn)距離閾值設(shè)定為0.5 m,。

2.3 信息傳輸

    信息傳輸包括與移動(dòng)端的遠(yuǎn)程通信和與MCU的串口通信,。

2.3.1 遠(yuǎn)程通信

    當(dāng)檢測到有摔倒情況發(fā)生后,通過網(wǎng)絡(luò)將報(bào)警信息和當(dāng)前圖片信息發(fā)送到第三方云端服務(wù)器,,服務(wù)器將信息發(fā)送到用戶手機(jī)端,,使在外的家人能夠及時(shí)獲知危險(xiǎn)情況,如圖4所示,。

jsj2-t4.gif

2.3.2 串口通信

    當(dāng)需要完成家居控制服務(wù)時(shí),,核心處理單元通過USB串口向MCU發(fā)送信息,MCU根據(jù)接收到的信息對家居電器進(jìn)行判斷操作,。

    系統(tǒng)使用CC2530作為微控單元MCU,。CC2530是TI公司推出的一款芯片,里面包含了51單片機(jī)的內(nèi)核與ZigBee技術(shù),。其中的ZigBee是一種短距離局域網(wǎng)無線通信技術(shù),,工作在2.4 GHz頻段,傳輸速率10 kb/s~250 kb/s,,傳輸距離10~100 m[9],,具有低功耗、低成本的特點(diǎn)[10],。

    CC2530需要完成的信息處理分為上位機(jī)與下位機(jī)兩部分,。上位機(jī)主要接收核心處理單元的數(shù)據(jù)信息,處理分析,通過局域網(wǎng)方式將信息傳送到下位機(jī),。下位機(jī)控制電器設(shè)備,。圖5所示是用CC2530實(shí)現(xiàn)家居智能開關(guān)的設(shè)計(jì)流程。

jsj2-t5.gif

    在圖5所示的CC2530設(shè)計(jì)流程中,,上位機(jī)協(xié)調(diào)器實(shí)時(shí)接收從串口發(fā)送來的字符,,并通過ZigBee無線協(xié)議把字符發(fā)送到下位機(jī)終端,終端根據(jù)收到字符控制家電開關(guān),。

3 實(shí)驗(yàn)及結(jié)果分析

    將系統(tǒng)硬件設(shè)備連接,,其中Kinect設(shè)備通電并連接到PC,ZigBee協(xié)調(diào)器通過USB數(shù)據(jù)線連接到PC串口,,對受控終端供電,。在室內(nèi)自然光條件下進(jìn)行測試,依次打開上位機(jī)控制程序,、手勢識(shí)別程序,。工作區(qū)顯示ZigBee成功組網(wǎng),Kinect攝像頭正常工作,。進(jìn)行兩組手勢控制測試,,每組30次,結(jié)果記錄見表1,。

jsj2-b1.gif

    如表1數(shù)據(jù)所示,,兩組測試實(shí)驗(yàn)的控制成功率分別為86.7%和80%,能夠滿足日常家居控制的設(shè)計(jì)需求,。

    摔倒檢測實(shí)驗(yàn)中,,當(dāng)出現(xiàn)有人異常摔倒情況時(shí),系統(tǒng)提示“fall detection”,,并將報(bào)警信息和當(dāng)前圖像(如圖6所示)發(fā)送到監(jiān)護(hù)人手機(jī)端,。

jsj2-t6.gif

4 結(jié)束語

    本文介紹了基于體感交互的智能家居系統(tǒng),該系統(tǒng)集智能家居控制,、實(shí)時(shí)檢測危險(xiǎn)狀況于一體,,使用戶脫離了遙控器、手機(jī)APP等終端,,只需通過手勢就可以控制家居設(shè)備,;當(dāng)家中有老人或小孩意外摔倒時(shí),系統(tǒng)會(huì)自動(dòng)檢測危險(xiǎn)狀況并及時(shí)向監(jiān)護(hù)人報(bào)警,。系統(tǒng)采用Kinect作為信息采集設(shè)備,,檢測范圍較大且不易受室內(nèi)光線強(qiáng)度影響,即使在夜間光量不足的情況下也能使用,。

參考文獻(xiàn)

[1] 傅大梅,倪瑛.基于Kinect的智能家居體感控制系統(tǒng)的研究與設(shè)計(jì)[J].價(jià)值工程,2016,,35(32):166-168.

[2] 張嘉慶.淺析中國智能建筑中智能家居的現(xiàn)狀及未來[J].中國戰(zhàn)略新興產(chǎn)業(yè),,2018(4):47.

[3] 吳杰文,左宸羽,,倪銀堂,,等.智能家居的研究現(xiàn)狀綜述與展望[J].中國戰(zhàn)略新興產(chǎn)業(yè),2017(16):6.

[4] 管珊珊.基于Kinect的手勢識(shí)別研究進(jìn)展[C].中國計(jì)算機(jī)用戶協(xié)會(huì)網(wǎng)絡(luò)應(yīng)用分會(huì)2018年第二十二屆網(wǎng)絡(luò)新技術(shù)與應(yīng)用年會(huì)論文集,,2018.

[5] 陳紅梅,,賴重遠(yuǎn),張洋,,等.基于深度數(shù)據(jù)的手勢識(shí)別研究進(jìn)展[J].江漢大學(xué)學(xué)報(bào)(自然科學(xué)版),,2018,46(2):101-108.

[6] 徐軍,,劉春花,,孟月霞,等.可穿戴手勢識(shí)別控制器[J].電子技術(shù)應(yīng)用,,2016,,42(7):68-71,75.

[7] 彭亞平,,賀乾格,,柯希垚,等.一種基于加速度傳感器的摔倒檢測腰帶[J].電子測量技術(shù),,2018,,41(11):117-120.

[8] 徐慧慧,楊淼,,錢超瑜.基于三軸加速度傳感器的摔倒檢測系統(tǒng)[J].黑龍江科技信息,,2017(6):76.

[9] 廖慧,陽序仁.基于CC2530的LED智能照明系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)[J].電力電子技術(shù),,2018,,52(11):33-35.

[10] 李建勇,李洋,,劉雪梅.基于ZigBee的糧庫環(huán)境監(jiān)控系統(tǒng)設(shè)計(jì)[J].電子技術(shù)應(yīng)用,,2016,42(1):65-67,,71.



作者信息:

趙  琳1,,方艷紅1,2,,張紅英1,,2,王學(xué)淵1

(1.西南科技大學(xué) 信息工程學(xué)院,四川 綿陽621010,;2.特殊環(huán)境機(jī)器人技術(shù)四川省重點(diǎn)實(shí)驗(yàn)室,,四川 綿陽621010)

此內(nèi)容為AET網(wǎng)站原創(chuàng),未經(jīng)授權(quán)禁止轉(zhuǎn)載,。