99精品伊人亚洲|最近国产中文炮友|九草在线视频支援|AV网站大全最新|美女黄片免费观看|国产精品资源视频|精彩无码视频一区|91大神在线后入|伊人终合在线播放|久草综合久久中文

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

如何在同步的 Rust 方法中調(diào)用異步代碼 | Tokio 使用中的幾點教訓(xùn)

OSC開源社區(qū) ? 來源:GreptimeDB ? 2023-12-24 16:23 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

在同步的 Rust 方法中調(diào)用異步代碼經(jīng)常會導(dǎo)致一些問題,特別是對于不熟悉異步 Rust runtime 底層原理的初學(xué)者。在本文中,我們將討論我們遇到的一個特殊問題,并分享我們采取的解決方法的經(jīng)驗。

背景和問題

在做GreptimeDB項目的時候,我們遇到一個關(guān)于在同步 Rust 方法中調(diào)用異步代碼的問題。經(jīng)過一系列故障排查后,我們弄清了問題的原委,這大大加深了對異步 Rust 的理解,因此在這篇文章中分享給大家,希望能給被相似問題困擾的 Rust 開發(fā)者一些啟發(fā)。

我們的整個項目是基于Tokio這個異步 Rust runtime 的,它將協(xié)作式的任務(wù)運行和調(diào)度方便地封裝在.await調(diào)用中,非常簡潔優(yōu)雅。但是這樣也讓不熟悉 Tokio 底層原理的用戶一不小心就掉入到坑里。

我們遇到的問題是,需要在一個第三方庫的 trait 實現(xiàn)中執(zhí)行一些異步代碼,而這個 trait 是同步的,我們無法修改這個 trait 的定義。

traitSequencer{
fngenerate(&self)->Vec;
}

我們用一個PlainSequencer來實現(xiàn)這個 trait ,而在實現(xiàn)generate方法的時候依賴一些異步的調(diào)用(比如這里的PlainSequencer::generate_async):

implPlainSequencer{
asyncfngenerate_async(&self)->Vec{
letmutres=vec![];
foriin0..self.bound{
res.push(i);
tokio::sleep(Duration::from_millis(100)).await;
}
res
}
}

implSequencerforPlainSequencer{
fngenerate(&self)->Vec{
self.generate_async().await
}
}

這樣就會出現(xiàn)問題,因為generate是一個同步方法,里面是不能直接 await 的。

error[E0728]:`await`isonlyallowedinside`async`functionsandblocks
-->src/common/tt.rs30
|
31|/fngenerate(&self)->Vec{
32||self.generate_async().await
||^^^^^^onlyallowedinside`async`functionsandblocks
33||}
||_____-thisisnot`async`

我們首先想到的是,Tokio 的 runtime 有一個Runtime::block_on方法,可以同步地等待一個 future 完成。

implSequencerforPlainSequencer{
fngenerate(&self)->Vec{
RUNTIME.block_on(async{
self.generate_async().await
})
}
}

#[cfg(test)]
modtests{
#[tokio::test]
asyncfntest_sync_method(){
letsequencer=PlainSequencer{
bound:3
};
letvec=sequencer.generate();
println!("vec:{:?}",vec);
}
}

編譯可以通過,但是運行時直接報錯:

Cannotstartaruntimefromwithinaruntime.Thishappensbecauseafunction(like`block_on`)attemptedtoblockthecurrentthreadwhilethethreadisbeingusedtodriveasynchronoustasks.
thread'tests::test_sync_method'panickedat'Cannotstartaruntimefromwithinaruntime.Thishappensbecauseafunction(like`block_on`)attemptedtoblockthecurrentthreadwhilethethreadisbeingusedtodriveasynchronoustasks.',/Users/lei/.cargo/registry/src/github.com-1ecc6299db9ec823/tokio-1.17.0/src/runtime/enter.rs9

提示不能從一個執(zhí)行中的 runtime 直接啟動另一個異步 runtime??磥?Tokio 為了避免這種情況特地在Runtime::block_on入口做了檢查。既然不行那我們就再看看其他的異步庫是否有類似的異步轉(zhuǎn)同步的方法。

果然找到一個futures::block_on。

implSequencerforPlainSequencer{
fngenerate(&self)->Vec{
futures::block_on(async{
self.generate_async().await
})
}
}

編譯同樣沒問題,但是運行時代碼直接直接 hang 住不返回了。


cargotest--color=always--packagetokio-demo

--bintttests::test_sync_method

--no-fail-fast----format=json

--exact-Zunstable-options--show-output

Compilingtokio-demov0.1.0(/Users/lei/Workspace/Rust/learning/tokio-demo) Finishedtest[unoptimized+debuginfo]target(s)in0.39s Runningunittestssrc/common/tt.rs(target/debug/deps/tt-adb10abca6625c07) {"type":"suite","event":"started","test_count":1} {"type":"test","event":"started","name":"tests::test_sync_method"} #theexecutionjusthangshere:(

明明generate_async方法里面只有一個簡單的sleep()調(diào)用,但是為什么 future 一直沒完成呢?

并且吊詭的是,同樣的代碼,在tokio::test里面會 hang 住,但是在tokio::main中則可以正常執(zhí)行完畢:

#[tokio::main]
pubasyncfnmain(){
letsequencer=PlainSequencer{
bound:3
};
letvec=sequencer.generate();
println!("vec:{:?}",vec);
}

執(zhí)行結(jié)果:

cargorun--color=always--packagetokio-demo--bintt
Finisheddev[unoptimized+debuginfo]target(s)in0.05s
Running`target/debug/tt`
vec:[0,1,2]

其實當(dāng)初真正遇到這個問題的時候定位到具體在哪里 hang 住并沒有那么容易。真實代碼中 async 執(zhí)行的是一個遠(yuǎn)程的 gRPC 調(diào)用,當(dāng)初懷疑過是否是 gRPC server 的問題,動用了網(wǎng)絡(luò)抓包等等手段最終發(fā)現(xiàn)是 client 側(cè)的問題。

這也提醒了我們在出現(xiàn) bug 的時候,抽象出問題代碼的執(zhí)行模式并且做出一個最小可復(fù)現(xiàn)的樣例(Minimal Reproducible Example)是非常重要的。

Catchup

在 Rust 中,一個異步的代碼塊會被make_async_expr編譯為一個實現(xiàn)了std::Future的 generator。

#[tokio::test]
asyncfntest_future(){
letfuture=async{
println!("hello");
};

//theaboveasyncblockwon'tgetexecuteduntilweawaitit.
future.await;
}

而.await本質(zhì)上是一個語法糖,則會被lower_expr_await編譯成類似于下面的一個語法結(jié)構(gòu):

//pseudo-rustcode
match::into_future(){
mut__awaitee=>loop{
matchunsafe{::poll(
<::Pin>::new_unchecked(&mut__awaitee),
::get_context(task_context),
)}{
::Ready(result)=>breakresult,
::Pending=>{}
}
task_context=yield();
}
}

在上面這個去掉了語法糖的偽代碼中,可以看到有一個循環(huán)不停地檢查 generator 的狀態(tài)是否為已完成(std::poll)。

自然地,必然存在一個組件來做這件事,這里就是 Tokio 和async-std這類異步運行時發(fā)揮作用的地方了。Rust 在設(shè)計之初就特意將異步的語法(async/await)和異步運行時的實現(xiàn)分開,在上述的示例代碼中,poll 的操作是由 Tokio 的 executor 執(zhí)行的。

問題分析

回顧完背景知識,我們再看一眼方法的實現(xiàn):

fngenerate(&self)->Vec{
futures::block_on(async{
self.generate_async().await
})
}

調(diào)用generate方法的肯定是 Tokio 的 executor,那么 block_on 里面的self.generate_async().await這個 future 又是誰在 poll 呢?

一開始我以為,futures::block_on會有一個內(nèi)部的 runtime 去負(fù)責(zé)generate_async的 poll。于是查看了代碼(主要是futures_executor::run_executor這個方法):

fnrun_executor,>

立刻嗅到了一絲不對的味道,雖然這個方法名為run_executor,但是整個方法里面貌似沒有任何 spawn 的操作,只是在當(dāng)前線程不停的循環(huán)判斷用戶提交的 future 的狀態(tài)是否為 ready 啊!

這意味著,當(dāng) Tokio 的 runtime 線程執(zhí)行到這里的時候,會立刻進入一個循環(huán),在循環(huán)中不停地判斷用戶的的 future 是否 ready。如果還是 pending 狀態(tài),則將當(dāng)前線程 park 住。

假設(shè),用戶 future 的異步任務(wù)也是交給了當(dāng)前線程去執(zhí)行,futures::block_on等待用戶的 future ready,而用戶 future 等待futures::block_on釋放當(dāng)前的線程資源,那么不就死鎖了?

這個推論聽起來很有道理,讓我們來驗證一下。既然不能在當(dāng)前 runtime 線程 block,那就重新開一個 runtime block:

implSequencerforPlainSequencer{
fngenerate(&self)->Vec{
letbound=self.bound;
futures::block_on(asyncmove{
RUNTIME.spawn(asyncmove{
letmutres=vec![];
foriin0..bound{
res.push(i);
tokio::sleep(Duration::from_millis(100)).await;
}
res
}).await.unwrap()
})
}
}

果然可以了。


cargotest--color=always--packagetokio-demo

--bintttests::test_sync_method

--no-fail-fast----format=json

--exact-Zunstable-options--show-output

Finishedtest[unoptimized+debuginfo]target(s)in0.04s Runningunittestssrc/common/tt.rs(target/debug/deps/tt-adb10abca6625c07) vec:[0,1,2]

值得注意的是,在futures::block_on里面,額外使用了一個RUNTIME來 spawn 我們的異步代碼。其原因還是剛剛所說的,這個異步任務(wù)需要一個 runtime 來驅(qū)動狀態(tài)的變化。

如果我們刪除 RUNTIME,而為 futures::block_on 生成一個新的線程,雖然死鎖問題得到了解決,但tokio::sleep 方法的調(diào)用會報錯"no reactor is running",這是因為 Tokio 的功能運作需要一個 runtime:

called`Result::unwrap()`onan`Err`value:Any{..}
thread''panickedat'thereisnoreactorrunning,mustbecalledfromthecontextofaTokio1.xruntime',
...

tokio::main和tokio::test

在分析完上面的原因之后,“為什么tokio::main中不會 hang 住而tokio::test會 hang ???“ 這個問題也很清楚了,他們兩者所使用的的 runtime 并不一樣。tokio::main使用的是多線程的 runtime,而tokio::test使用的是單線程的 runtime,而在單線程的 runtime 下,當(dāng)前線程被futures::block_on卡死,那么用戶提交的異步代碼是一定沒機會執(zhí)行的,從而必然形成上面所說的死鎖。

Best practice

經(jīng)過上面的分析,結(jié)合 Rust 基于 generator 的協(xié)作式異步特性,我們可以總結(jié)出 Rust 下橋接異步代碼和同步代碼的一些注意事項:

?將異步代碼與同步代碼結(jié)合使用可能會導(dǎo)致阻塞,因此不是一個明智的選擇。

?在同步的上下文中調(diào)用異步代碼時,請使用 futures::block_on 并將異步代碼 spawn 到另一個專用的 runtime 中執(zhí)行 ,因為前者會阻塞當(dāng)前線程。

?如果必須從異步的上下文中調(diào)用有可能阻塞的同步代碼(比如文件 IO 等),則建議使用 tokio::spawn_blocking 在專門處理阻塞操作的 executor 上執(zhí)行相應(yīng)的代碼。








審核編輯:劉清

,>
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • Rust
    +關(guān)注

    關(guān)注

    1

    文章

    234

    瀏覽量

    7088

原文標(biāo)題:如何在同步的Rust方法中調(diào)用異步代碼 | Tokio使用中的幾點教訓(xùn)

文章出處:【微信號:OSC開源社區(qū),微信公眾號:OSC開源社區(qū)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    什么是Tokio模塊 Channel?

    的一個重要組成部分,它可以用于在異步任務(wù)之間傳遞數(shù)據(jù)。在本教程,我們將介紹 Rust 語言中的 Tokio 模塊 channel,并提供幾個示例,以幫助您更好地理解它的使用
    的頭像 發(fā)表于 09-19 15:57 ?1340次閱讀

    何在Rust連接和使用MySQL數(shù)據(jù)庫

    何在Rust連接和使用MySQL數(shù)據(jù)庫。 安裝 mysql 模塊 這里我們假設(shè)你已經(jīng)安裝了Rust編程語言工具鏈,在本教程,我們將使用
    的頭像 發(fā)表于 09-30 17:05 ?2249次閱讀

    何在Rust讀寫文件

    見的內(nèi)存安全問題和數(shù)據(jù)競爭問題。 在Rust,讀寫文件是一項非常常見的任務(wù)。本教程將介紹如何在Rust讀寫文件,包括基礎(chǔ)用法和進階用法。
    的頭像 發(fā)表于 09-20 10:57 ?2571次閱讀

    Rust的多線程編程概念和使用方法

    Rust是一種強類型、高性能的系統(tǒng)編程語言,其官方文檔強調(diào)了Rust的標(biāo)準(zhǔn)庫具有良好的并發(fā)編程支持。Thread是Rust的一種并發(fā)編程
    的頭像 發(fā)表于 09-20 11:15 ?1395次閱讀

    LabVIEW如何調(diào)試異步調(diào)用的VI?

    大佬們,我想在異步調(diào)用的VI插入探針,查看數(shù)據(jù),應(yīng)該怎么操作,LabVIEW如何調(diào)試異步調(diào)用的VI呀?網(wǎng)上都沒查到啥結(jié)果。
    發(fā)表于 07-28 11:19

    FPGA設(shè)計異步復(fù)位同步釋放問題

    異步復(fù)位同步釋放 首先要說一下同步復(fù)位與異步復(fù)位的區(qū)別。 同步復(fù)位是指復(fù)位信號在時鐘的上升沿或者下降沿才能起作用,而
    發(fā)表于 06-07 02:46 ?2352次閱讀

    何在函數(shù)庫調(diào)用指令?

    函數(shù)是一段可復(fù)用的代碼。我們通常把重復(fù)的代碼放進函數(shù)并且在不同的地方去調(diào)用它。庫是函數(shù)的集合。我們可以在庫定義經(jīng)常使用的函數(shù),這樣其它腳
    的頭像 發(fā)表于 08-31 15:51 ?4067次閱讀

    何在同步Rust方法調(diào)用異步代碼呢?

    同步Rust 方法調(diào)用異步代碼經(jīng)常會導(dǎo)致一些
    的頭像 發(fā)表于 03-17 09:18 ?2552次閱讀

    Tokio 模塊的優(yōu)雅停機機制

    在進行高并發(fā)、網(wǎng)絡(luò)編程時,優(yōu)雅停機是一個非常重要的問題。在 Rust 語言中,Tokio 是一個非常流行的異步編程框架,它提供了一些優(yōu)雅停機的機制,本文將圍繞 Tokio 模塊的優(yōu)雅停
    的頭像 發(fā)表于 09-19 15:26 ?959次閱讀

    如何使用Tokio 和 Tracing模塊構(gòu)建異步的網(wǎng)絡(luò)應(yīng)用程序

    ,并在調(diào)試和故障排除時提供有用的信息。 在本教程,我們將介紹如何使用 Tokio 和 Tracing 模塊來構(gòu)建一個異步的網(wǎng)絡(luò)應(yīng)用程序,并使用 Tracing 來記錄應(yīng)用程序的行為和性能。我們將從安裝和配置開始,然后介紹如何使
    的頭像 發(fā)表于 09-19 15:29 ?1061次閱讀

    如何使用 Tokio 模塊的Channel

    便地進行消息傳遞和數(shù)據(jù)共享。 在本教程是 Channel 的下篇,我們將介紹如何使用 Tokio 模塊的 Channel,包括如何使用異步 Channel 和如何使用標(biāo)準(zhǔn)庫同步 C
    的頭像 發(fā)表于 09-19 15:38 ?1004次閱讀

    tokio模塊channel的使用場景和優(yōu)缺點

    Rust 語言的 tokio 模塊提供了一種高效的異步編程方式,其中的 channel 模塊是其核心組件之一。本教程將介紹 tokio 模塊 channel 的除了上文提到的 mspc
    的頭像 發(fā)表于 09-19 15:54 ?1228次閱讀

    Tokio 的基本用法

    Tokio 是一個異步 I/O 框架,它提供了一種高效的方式來編寫異步代碼。它使用 Rust 語言的 Futures 庫來管理
    的頭像 發(fā)表于 09-19 16:05 ?1155次閱讀

    Channel模塊的使用方法示例

    Rust 語言中的 Tokio 模塊是一個異步編程庫,它提供了一種高效的方式來處理異步任務(wù)。其中,channel 是 Tokio 模塊
    的頭像 發(fā)表于 09-20 11:47 ?1534次閱讀

    異步電路的時鐘同步處理方法

    異步電路的時鐘同步處理方法? 時鐘同步異步電路
    的頭像 發(fā)表于 01-16 14:42 ?1702次閱讀