99精品伊人亚洲|最近国产中文炮友|九草在线视频支援|AV网站大全最新|美女黄片免费观看|国产精品资源视频|精彩无码视频一区|91大神在线后入|伊人终合在线播放|久草综合久久中文

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

開發(fā)者說 | AI操控機(jī)器人系列第三期——語音控制

地瓜機(jī)器人 ? 2022-08-17 11:25 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

摘要:

AI操控機(jī)器人系列第二期的人體跟隨教程中,身為地平線資深程序員的奶爸朱靠,使用地平線發(fā)布的機(jī)器人開發(fā)平臺(tái)TogetherROS軟件棧,搭建了人體跟隨機(jī)器人。

同為開發(fā)者的梁雪,期待AI的世界,想讓自己的生活也AI一把,并且一向是個(gè)能動(dòng)口絕不動(dòng)手的懶人,于是熱衷于體驗(yàn)各類AI機(jī)器人,尤其是動(dòng)動(dòng)口就能操控的機(jī)器人,想著有朝一日過上“能只動(dòng)口絕不動(dòng)手”的生活,于是乎,就有了下面的這些體驗(yàn)。

產(chǎn)品A:說說話確實(shí)是能跟著走一走,but,我真的不想說完話之后還需要自己向右轉(zhuǎn)才能引導(dǎo)它右轉(zhuǎn)呀……

產(chǎn)品B:為什么還是得動(dòng)動(dòng)手,遙控來操控……噢,可達(dá)不到懶人預(yù)期呢。

難道就沒有動(dòng)動(dòng)口就能讓機(jī)器人運(yùn)動(dòng),達(dá)到控制機(jī)器人的目的嗎?答案必然是,有!下面地平線AI操控機(jī)器人系列——語音控制閃亮登場(chǎng)。

一、功能介紹

大家先看一下最終實(shí)現(xiàn)的功能。

20220815-190006.gif

從開始語音到機(jī)器人依據(jù)指令快速且準(zhǔn)確的運(yùn)動(dòng),得益于地平線旭日??X3派上5Tops算力的BPU,可以實(shí)現(xiàn)低延遲算法推理能力,以及語音算法模塊實(shí)現(xiàn)的遠(yuǎn)場(chǎng)(3~5米)降噪、回聲消除,高準(zhǔn)確率的asr識(shí)別功能。開始碼代碼前,先來簡(jiǎn)單分析一下人體跟隨機(jī)器人需要具備哪些基本模塊。

語音輸入——麥克風(fēng)

旭日X3派采用的是麥克風(fēng)陣列硬件拾音,通過麥克風(fēng)采集到音頻之后交給后面的智能語音分析模塊處理。

智能語音感知

智能語音算法對(duì)原始音頻進(jìn)行處理,對(duì)音頻進(jìn)行降噪并且識(shí)別出語音,同時(shí)還能輸出語音聲源定位的DOA角度。

交互

識(shí)別出語音之后,定義并且實(shí)現(xiàn)不同語音對(duì)應(yīng)的不同功能應(yīng)用,比如“向前走”語音控制機(jī)器人向前運(yùn)動(dòng)。

控制

根據(jù)“交互”模塊輸出的控制指令,實(shí)現(xiàn)對(duì)機(jī)器人的機(jī)械控制。

機(jī)器人本體

當(dāng)然還需要一個(gè)具備運(yùn)動(dòng)能力的機(jī)器人本體,接收控制指令并控制電機(jī)運(yùn)動(dòng),最終實(shí)現(xiàn)通過語音控制機(jī)器人運(yùn)動(dòng)的效果。

地平線發(fā)布的機(jī)器人開發(fā)平臺(tái)TogetherROS軟件棧內(nèi)置了豐富易用的機(jī)器人開發(fā)組件,包含搭建一個(gè)智能機(jī)器人應(yīng)用(如機(jī)器人語音控制)所涉及到的所有功能模塊,完全開源免費(fèi),并允許開發(fā)者二次開發(fā)。

二、準(zhǔn)備工作

準(zhǔn)備搭建機(jī)器人人體跟隨應(yīng)用案例的硬件設(shè)備和軟件包。

硬件

①旭日X3派

3.png


②麥克風(fēng)陣列及轉(zhuǎn)接板

640.jpg


③機(jī)器人

5.png


本次使用本末的輪足機(jī)器人來介紹,沒有的開發(fā)者們也不用擔(dān)心,文章后面會(huì)介紹自己搭建機(jī)器人的方式。

安裝系統(tǒng)
參考旭日X3派的用戶手冊(cè)的安裝系統(tǒng)章節(jié),安裝完成(或者已經(jīng)安裝過)需要更新系統(tǒng)。

系統(tǒng)配置
配置旭日X3派的無線網(wǎng)絡(luò),參考旭日X3派的用戶手冊(cè)的無線網(wǎng)絡(luò)章節(jié)。

安裝TogetherROS
使用apt命令通過DEB包安裝TogetherROS。登錄旭日X3派ssh root@192.168.1.147,執(zhí)行命令:

root@ubuntu:~# sudo apt install hhp
root@ubuntu:/userdata# ls /opt/
tros

可以看到TogetherROS已安裝在/opt目錄下,說明安裝成功。至此,準(zhǔn)備工作結(jié)束,下面開始使用這些硬件設(shè)備和軟件包搭建機(jī)器人人體跟隨App。

三、使用介紹

接下來開始操作各個(gè)功能模塊,再一步步組裝起來,分別驗(yàn)證其功能。

安裝音頻麥克風(fēng)

首先需要將旭日X3派與音頻轉(zhuǎn)接板連接起來,安裝好的旭日X3派以及音頻板圖如下:

接口.jpg


直接使用TogetherROS中的ROS package測(cè)試麥克風(fēng)陣列的功能,通過腳本加載麥克風(fēng)陣列驅(qū)動(dòng),并且啟動(dòng)智能語音識(shí)別模塊。登錄旭日X3派ssh root@192.168.1.147后,在終端(以下默認(rèn)終端都是通過ssh登錄)中輸入以下命令啟動(dòng):

# 配置TogetherROS環(huán)境
source /opt/tros/setup.bash
# 從TogetherROS的安裝路徑中拷貝出運(yùn)行示例需要的配置文件。
cp -r /opt/tros/lib/hobot_audio/config/ .
# 加載音頻驅(qū)動(dòng),設(shè)備啟動(dòng)之后只需要加載一次
bash config/audio.sh
#啟動(dòng)launch文件
ros2 launch hobot_audio hobot_audio.launch.py

智能語音識(shí)別模塊默認(rèn)發(fā)布的智能語音消息話題名為:/audio_smart, 在另一個(gè)終端執(zhí)行使用ros2 topic list命令可以查詢到此topic信息:

$ ros2 topic list
/audio_smart

語音識(shí)別和命令詞控制小車運(yùn)動(dòng)功能

旭日X3派上打開一個(gè)終端,啟動(dòng)語音識(shí)別和控制的腳本

# 配置TogetherROS環(huán)境
source /opt/tros/setup.bash
# 從TogetherROS的安裝路徑中拷貝出運(yùn)行示例需要的配置文件。
cp -r /opt/tros/lib/hobot_audio/config/ .
# 加載音頻驅(qū)動(dòng),設(shè)備啟動(dòng)之后只需要加載一次
bash config/audio.sh
#啟動(dòng)launch文件
ros2 launch audio_control hobot_audio_control.launch.py

在當(dāng)前終端執(zhí)行ros2 topic echo /cmd_vel命令查詢旭日X3派上的話題信息,當(dāng)語音控制“向前走”,終端輸出如下:

linear:
  x: 0.30000001192092896
  y: 0.0
  z: 0.0
angular:
  x: 0.0
  y: 0.0
  z: 0.0

說明智能語音識(shí)別算法和交互功能的軟件包已安裝成功,并能夠通過/cmd_vel話題對(duì)外發(fā)布機(jī)器人運(yùn)動(dòng)控制消息。

將旭日X3派安裝在機(jī)器人上

首先,需要將音頻板安裝在旭日X3派上,其次,將安裝了線性四麥麥克風(fēng)陣列的旭日X3派直接固定在機(jī)器人上,并將機(jī)器人的USB控制接口插到旭日X3派上。安裝效果如下圖:

10 (3).jpg

安裝好后,可以通過控制機(jī)器人運(yùn)動(dòng)查看是否成功安裝。在旭日X3派上啟動(dòng)本末雙足機(jī)器人運(yùn)行控制Node,打開一個(gè)終端,執(zhí)行如下命令:

# 配置TogetherROS環(huán)境
source /opt/tros/setup.bash
#啟動(dòng)本末機(jī)器人運(yùn)動(dòng)控制package
ros2 run diablo_sdk ros_bridge_example

旭日X3派上重新打開一個(gè)終端,通過發(fā)布/cmd_vel話題消息控制機(jī)器人以0.3r/s的速度轉(zhuǎn)動(dòng):


# 配置TogetherROS環(huán)境
source /opt/tros/setup.bash
ros2 topic pub -r 10 /cmd_vel geometry_msgs/Twist '{linear: {x: 0, y: 0, z: 0}, angular: {x: 0, y: 0, z: 0.3}}'

機(jī)器人收到控制指令后轉(zhuǎn)動(dòng)的效果如下:

轉(zhuǎn).gif

四、完整的機(jī)器人語音控制效果

旭日X3派上打開一個(gè)終端,啟動(dòng)智能語音識(shí)別和語音控制腳本

# 配置TogetherROS環(huán)境
source /opt/tros/setup.bash
# 從TogetherROS的安裝路徑中拷貝出運(yùn)行示例需要的配置文件。
cp -r /opt/tros/lib/hobot_audio/config/ .
# 加載音頻驅(qū)動(dòng),設(shè)備啟動(dòng)只需要加載一次
bash config/audio.sh
#啟動(dòng)語音控制launch文件
ros2 launch audio_control hobot_audio_control.launch.py

旭日X3派上打開一個(gè)終端,啟動(dòng)機(jī)器人運(yùn)動(dòng)控制Node

# 配置TogetherROS環(huán)境
source /opt/tros/setup.bash
#啟動(dòng)本末機(jī)器人運(yùn)動(dòng)控制Node
ros2 run diablo_sdk ros_bridge_example

通過語音控制機(jī)器人運(yùn)動(dòng)

20220815-190006.gif

五、原理分析

對(duì)于一個(gè)復(fù)雜的機(jī)器人系統(tǒng),一般在機(jī)器人上配置上位機(jī)和下位機(jī)兩種處理器。語音控制機(jī)器人由兩部分組成,分為上位機(jī)和下位機(jī)。各部分詳細(xì)組成如下圖:

17.jfif

!

六、語音控制進(jìn)階

智能語音識(shí)別Node中,設(shè)備喚醒詞和命令詞默認(rèn)配置/opt/tros/lib/hobot_audio/config/hrsc/cmd_word.json文件下(當(dāng)然,若用戶將此config文件夾拷貝到了其他路徑,那以實(shí)際使用的配置路徑為準(zhǔn)):

{
    "cmd_word": [
        "地平線你好",
        "向前走",
        "向后退",
        "向左轉(zhuǎn)",
        "向右轉(zhuǎn)",
        "停止運(yùn)動(dòng)"
    ]
}

配置文件的第一項(xiàng)為喚醒詞,后面的是命令詞,用戶可以根據(jù)需要進(jìn)行配置,實(shí)現(xiàn)語音操作的自定義。

本文轉(zhuǎn)自地平線開發(fā)者社區(qū),完整文章內(nèi)容詳見:https://developer.horizon.ai/forumDetail/109609560406362625

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 語音識(shí)別
    +關(guān)注

    關(guān)注

    39

    文章

    1782

    瀏覽量

    114257
  • 人工智能
    +關(guān)注

    關(guān)注

    1807

    文章

    49035

    瀏覽量

    249745
  • 語音控制
    +關(guān)注

    關(guān)注

    5

    文章

    498

    瀏覽量

    28822
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    NVIDIA Isaac Sim和Isaac Lab現(xiàn)已推出早期開發(fā)者預(yù)覽版

    NVIDIA 發(fā)布了機(jī)器人仿真參考應(yīng)用 Isaac Sim 和機(jī)器人學(xué)習(xí)框架 Isaac Lab 的開發(fā)者預(yù)覽版。開發(fā)者現(xiàn)在可以通過 GitHub 訪問早期版本,搶先體驗(yàn)先進(jìn)功能,用于
    的頭像 發(fā)表于 07-04 14:23 ?442次閱讀

    涂鴉AI畫畫機(jī)器人開發(fā)方案

    兒童教育的畫畫機(jī)器人品牌,通過語音互動(dòng)激發(fā)孩子創(chuàng)作力,已暢銷全球100多個(gè)國(guó)家。為助力開發(fā)者和各類品牌高效構(gòu)建此類產(chǎn)品,涂鴉重點(diǎn)突破AI語音
    的頭像 發(fā)表于 06-12 18:17 ?621次閱讀
    涂鴉<b class='flag-5'>AI</b>畫畫<b class='flag-5'>機(jī)器人</b><b class='flag-5'>開發(fā)</b>方案

    明遠(yuǎn)智睿SSD2351開發(fā)板:語音機(jī)器人領(lǐng)域的變革力量

    源的開發(fā)資料為開發(fā)者提供了深入研究和定制語音機(jī)器人功能的基礎(chǔ),開發(fā)者可以根據(jù)不同的應(yīng)用需求,對(duì)語音
    發(fā)表于 05-28 11:36

    盤點(diǎn)#機(jī)器人開發(fā)平臺(tái)

    地瓜機(jī)器人RDK X5開發(fā)套件地瓜機(jī)器人RDK X5開發(fā)套件產(chǎn)品介紹 旭日5芯片10TOPs算力-電子發(fā)燒友網(wǎng)機(jī)器人
    發(fā)表于 05-13 15:02

    網(wǎng)課回放 I 升級(jí)版“一站式” PCB 設(shè)計(jì)第三期:原理圖完整性及可靠性分析

    網(wǎng)課回放 I 升級(jí)版“一站式” PCB 設(shè)計(jì)第三期:原理圖完整性及可靠性分析
    的頭像 發(fā)表于 05-10 11:09 ?233次閱讀
    網(wǎng)課回放 I 升級(jí)版“一站式” PCB 設(shè)計(jì)<b class='flag-5'>第三期</b>:原理圖完整性及可靠性分析

    【「# ROS 2智能機(jī)器人開發(fā)實(shí)踐」閱讀體驗(yàn)】機(jī)器人入門的引路書

    的非常好的,特別是一些流程圖,很清晰的闡釋了概念 很適合作為初學(xué)者入門的引路書 還能了解很多技術(shù)和框架,破除初學(xué)者的自負(fù)困境,讓初學(xué)者知道功能是由很多開發(fā)者維護(hù)的,前人已經(jīng)為各種產(chǎn)品搭建了完善的框架。避免陷入得一個(gè)單打獨(dú)斗的錯(cuò)覺 一直蠢蠢欲動(dòng)ros2和
    發(fā)表于 04-30 01:05

    【「# ROS 2智能機(jī)器人開發(fā)實(shí)踐」閱讀體驗(yàn)】+內(nèi)容初識(shí)

    機(jī)器人技術(shù)的飛速發(fā)展,ROS 2 作為其核心工具之一,為開發(fā)者提供了強(qiáng)大的支持。與傳統(tǒng)的理論書籍不同,本書深入淺出地講解了 ROS 2 的架構(gòu)、開發(fā)流程以及在智能機(jī)器人項(xiàng)目中的應(yīng)用,以
    發(fā)表于 04-27 11:24

    大象機(jī)器人攜手進(jìn)迭時(shí)空推出 RISC-V 全棧開源六軸機(jī)械臂產(chǎn)品

    末端執(zhí)行器。 全棧開源 從RISC-V指令集、芯片SDK到機(jī)器人控制代碼100%開放,開發(fā)者可自由定制算法與控制邏輯。 官方apt倉(cāng)庫(kù)提供deepseek-r1-distill-qwe
    發(fā)表于 04-25 17:59

    思必馳助力2025年第三期科技人才沙龍活動(dòng)

    近日,由蘇州市科學(xué)技術(shù)協(xié)會(huì)主辦,思必馳科技股份有限公司承辦的2025第三期科技人才沙龍“具身智能機(jī)器人創(chuàng)新生態(tài)研討”活動(dòng)成功舉辦?;顒?dòng)匯聚了來自相關(guān)企業(yè)、高校院所、學(xué)會(huì)協(xié)會(huì)等近60名專業(yè)人士參加,圍繞具身智能機(jī)器人領(lǐng)域的技術(shù)突破
    的頭像 發(fā)表于 04-24 15:42 ?352次閱讀

    第三期 “亞馬遜云科技創(chuàng)業(yè)加速器” 正式啟動(dòng)

    新 助力生成式 AI 初創(chuàng)企業(yè)釋放潛能,加速全球化進(jìn)程 ? 北京 ——2025 年 4 月 18 日 亞馬遜云科技今日宣布,第三期 "亞馬遜云科技創(chuàng)業(yè)加速器" 正式啟動(dòng)。亞馬遜云科技將聯(lián)合包括啟明創(chuàng)
    發(fā)表于 04-18 10:46 ?176次閱讀

    地瓜機(jī)器人,和全球機(jī)器人開發(fā)者交朋友

    前言自2024年9月20日在國(guó)內(nèi)官宣以來,地瓜機(jī)器人(D-Robotics)正在以行業(yè)領(lǐng)軍者的角色,開放姿態(tài)擁抱全球機(jī)遇,致力于和全球機(jī)器人開發(fā)者交朋友。短短半年間,從亞洲的東京、首爾、新加坡
    的頭像 發(fā)表于 03-24 15:27 ?867次閱讀
    地瓜<b class='flag-5'>機(jī)器人</b>,和全球<b class='flag-5'>機(jī)器人</b><b class='flag-5'>開發(fā)者</b>交朋友

    名單公布!【書籍評(píng)測(cè)活動(dòng)NO.58】ROS 2智能機(jī)器人開發(fā)實(shí)踐

    手機(jī)為平臺(tái)的移動(dòng)互聯(lián)網(wǎng)時(shí)代,下一個(gè)以機(jī)器人為核心的智能機(jī)器人時(shí)代,是否也會(huì)遵循這樣的邏輯? 隨著ROS 2的誕生,智能機(jī)器人開發(fā)迎來新篇章 ,它不僅為
    發(fā)表于 03-03 14:18

    湯姆貓發(fā)布AI語音情感陪伴機(jī)器人研發(fā)進(jìn)展

    湯姆貓公司近日透露了其AI產(chǎn)品的研發(fā)進(jìn)展,其中AI語音情感陪伴機(jī)器人備受矚目。據(jù)官方介紹,這款機(jī)器人預(yù)計(jì)將于2024年12月底前正式發(fā)售,為
    的頭像 發(fā)表于 12-17 11:27 ?1283次閱讀

    機(jī)器人語音功能

    AI時(shí)代,“會(huì)說話”的機(jī)器人已經(jīng)十分常見,在許多酒店、餐廳、醫(yī)院、圖書館,我們都能碰到這些小個(gè)頭大智慧的服務(wù)機(jī)器人,它們開口的瞬間,你可能會(huì)聽到熟悉的聲音:櫻桃小丸子、蠟筆小新、哆啦A夢(mèng)...這些
    的頭像 發(fā)表于 12-02 10:50 ?1171次閱讀

    軟通動(dòng)力云夢(mèng)山院第三期管理集訓(xùn)營(yíng)圓滿舉辦

    軟通動(dòng)力云夢(mèng)山院第三期管理集訓(xùn)營(yíng)在西安圓滿舉辦。本期集訓(xùn)營(yíng)以“聚戰(zhàn)略、耕業(yè)務(wù)”為主旨,通過優(yōu)秀產(chǎn)品實(shí)踐經(jīng)驗(yàn)分享、核心業(yè)務(wù)研討、政策與業(yè)務(wù)策略賦能、跨部門協(xié)作通路探討等形式,從理論知識(shí)到實(shí)戰(zhàn)結(jié)論,從
    的頭像 發(fā)表于 10-10 10:27 ?1078次閱讀