日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當(dāng)前位置:首頁 > 科技  > 軟件

講完Go并發(fā)控制,講講并發(fā)抑制

來源: 責(zé)編: 時間:2024-06-17 17:40:32 158觀看
導(dǎo)讀已知有一個函數(shù)search,能夠按照關(guān)鍵詞執(zhí)行搜索,coSearch能夠批量并發(fā)查詢。讓我們把目光定位到search上,search通過查詢數(shù)據(jù)庫或者調(diào)用其他api來完成搜索,這是一個相對耗時和消耗資源的操作。當(dāng)多個相同的關(guān)鍵詞并發(fā)查詢(

已知有一個函數(shù)search,能夠按照關(guān)鍵詞執(zhí)行搜索,coSearch能夠批量并發(fā)查詢。pV928資訊網(wǎng)——每日最新資訊28at.com

讓我們把目光定位到search上,search通過查詢數(shù)據(jù)庫或者調(diào)用其他api來完成搜索,這是一個相對耗時和消耗資源的操作。pV928資訊網(wǎng)——每日最新資訊28at.com

當(dāng)多個相同的關(guān)鍵詞并發(fā)查詢(調(diào)用search函數(shù))時,我們希望只產(chǎn)生一次數(shù)據(jù)庫調(diào)用(調(diào)用query),第一個查詢未完成時后續(xù)的重復(fù)查詢會等待,當(dāng)?shù)谝粋€查詢完成時則會與其他查詢分享結(jié)果,這樣一來雖然只執(zhí)行了一次數(shù)據(jù)庫調(diào)用但是所有查詢都拿到了最終的結(jié)果。pV928資訊網(wǎng)——每日最新資訊28at.com

圖片圖片pV928資訊網(wǎng)——每日最新資訊28at.com

什么是并發(fā)抑制:pV928資訊網(wǎng)——每日最新資訊28at.com

package mainimport ( "context" "fmt" "sync" "time" "golang.org/x/sync/errgroup")func query(ctx context.Context, word string) (string, error) { fmt.Println("searching: ", word) time.Sleep(5 * time.Second) return fmt.Sprintf("result: %s", word), nil // 模擬結(jié)果}// 實現(xiàn)search,在重復(fù)并發(fā)調(diào)用下僅執(zhí)行一次query// 其他并發(fā)共享這次query的結(jié)果func search(ctx context.Context, word string) (string, error) {    return query(ctx, word)}func coSearch(ctx context.Context, words []string) ([]string, error) { g, ctx := errgroup.WithContext(ctx) g.SetLimit(10) results := make([]string, len(words)) for i, word := range words {  i, word := i, word  g.Go(func() error {   result, err := search(ctx, word)   if err != nil {    return err   }   results[i] = result   return nil  }) } err := g.Wait() return results, err}func main() { words := []string{"Go","Go", "Go", "Rust", "PHP", "JavaScript", "Java"} results, err := coSearch(context.Background(), words) if err != nil {  fmt.Println(err)  return } fmt.Println(results)}

好了,可以先暫停想想該如何實現(xiàn)search函數(shù)了。pV928資訊網(wǎng)——每日最新資訊28at.com

一步一步實現(xiàn)并發(fā)抑制

我們先假設(shè)所有查詢關(guān)鍵詞都一樣,那么問題簡化成并發(fā)執(zhí)行search時,只在第一次search時調(diào)用query,其他的search并發(fā)調(diào)用等待并共享這次的查詢結(jié)果。pV928資訊網(wǎng)——每日最新資訊28at.com

通過waiting變量,其他goroutine等待第一個goroutine數(shù)據(jù)庫調(diào)用完成,那么如何讓其他goroutine等待在這個位置呢?pV928資訊網(wǎng)——每日最新資訊28at.com

func main() { words := []string{"Go", "Go", "Go", "Go", "Go"} results, err := coSearch(context.Background(), words) if err != nil {  fmt.Println(err)  return } fmt.Println(results)}var ( waiting bool resp    string err     error)func search(ctx context.Context, word string) (string, error) {  if waiting {    // 等待resp, err被賦值,即第一個query完成后再返回    // ...?      return resp, err  }  waiting = true  resp, err = query(ctx, word)  waiting = false  return resp, err}func query(ctx context.Context, word string) (string, error) { fmt.Println("searching: ", word) time.Sleep(5 * time.Second) return fmt.Sprintf("result: %s", word), nil // 模擬結(jié)果}

sync.WaitGroup{}并發(fā)控制

sync.WaitGroup{}是并發(fā)控制的核心,這里再次重申下用法:pV928資訊網(wǎng)——每日最新資訊28at.com

  • 當(dāng)新運行一個goroutine時,我們需要調(diào)用wg.Add(1)。
  • 當(dāng)一個goroutine運行完成的時候,我們需要調(diào)用wg.Done()。
  • wg.Wait()讓程序阻塞在此處,直到所有的goroutine運行完畢。

利用 sync.WaitGroup{}便可實現(xiàn)上文代碼中等待的效果:pV928資訊網(wǎng)——每日最新資訊28at.com

var ( wg      sync.WaitGroup waiting bool resp    string err     error)func search(ctx context.Context, word string) (string, error) { if waiting {  // 其他goroutine等待第一個goroutine執(zhí)行完成  wg.Wait()  return resp, err } waiting = true     wg.Add(1) resp, err = query(ctx, word)    wg.Done() // 第一個goroutine執(zhí)行完成     waiting = false return resp, err}

并發(fā)安全

當(dāng)多個goroutine對同一個內(nèi)存區(qū)域進行讀寫時,就會產(chǎn)生并發(fā)安全的問題,它會導(dǎo)致程序運行的結(jié)果不符合預(yù)期,而上文的程序并發(fā)的讀寫了waiting變量,需要給waiting變量加把鎖。pV928資訊網(wǎng)——每日最新資訊28at.com

釋放鎖的位置非常的有技巧,如果在在wg.Add(1)之前mu.Unlock(),可能 wg.Add(1)還未來得執(zhí)行其他goroutine已經(jīng)執(zhí)行了wg.Wait(),并獲取到了錯誤的數(shù)據(jù)。pV928資訊網(wǎng)——每日最新資訊28at.com

unlock在add之前;pV928資訊網(wǎng)——每日最新資訊28at.com

var (  wg      sync.WaitGroup  mu      sync.Mutex  waiting bool  resp    string  err     error)func search(ctx context.Context, word string) (string, error) { mu.Lock() if waiting {  mu.Unlock()  wg.Wait()  return resp, err } waiting = true     wg.Add(1)    // 在wg.Add(1)之后釋放鎖,保證其他goroutine被wg.Wait()阻塞 mu.Unlock() resp, err = query(ctx, word)    wg.Done() mu.Lock() waiting = false mu.Unlock()      return resp, err}

完整版本

現(xiàn)在可以針對不同的關(guān)鍵詞做區(qū)分了,使用一個map來代替原有的waiting,并將每一個關(guān)鍵詞查詢的WaitGroup和結(jié)果打包到map的value中。pV928資訊網(wǎng)——每日最新資訊28at.com

type call struct { wg   sync.WaitGroup resp string err  error}var (    mu sync.Mutex    m = make(map[string]*call))func search(ctx context.Context, word string) (string, error) { mu.Lock() if c, ok := m[word]; ok {  mu.Unlock()  c.wg.Wait()  return c.resp, c.err } c := &call{} m[word] = c c.wg.Add(1) // 在wg.Add(1)之后才釋放鎖,保證其他goroutine被wg.Wait()阻塞 mu.Unlock() c.resp, c.err = query(ctx, word) c.wg.Done() mu.Lock() delete(m, word) mu.Unlock() return c.resp, c.err}

開源庫 golang.org/x/sync/singleflight

上面一步一步教大家手搓了一個并發(fā)抑制的邏輯,我們的基本邏輯和開源庫golang.org/x/sync/singleflight沒有區(qū)別,只是singleflight內(nèi)部實現(xiàn)更加嚴(yán)謹(jǐn)pV928資訊網(wǎng)——每日最新資訊28at.com

直接使用singleflight非常簡單的就可以實現(xiàn)我們的訴求pV928資訊網(wǎng)——每日最新資訊28at.com

  • singleflight.Group 創(chuàng)建一個需要并發(fā)控制的范圍
  • Do函數(shù)

第一個參數(shù)接收一個key來判斷否重復(fù)調(diào)用pV928資訊網(wǎng)——每日最新資訊28at.com

第二個參數(shù)為要執(zhí)行的函數(shù),函數(shù)可以返回正常值或者errorpV928資訊網(wǎng)——每日最新資訊28at.com

Do函數(shù)返回值除了閉包函數(shù)的返回值之外,還返回了此次返回值是否由其他goroutine共享pV928資訊網(wǎng)——每日最新資訊28at.com

import ( "golang.org/x/sync/singleflight")var g = new(singleflight.Group)func search(ctx context.Context, word string) (string, error) { resp, err, _ := g.Do(word, func() (interface{}, error) {  return query(ctx, word) }) return resp.(string), err}

錯誤處理

因為共享第一個goroutine的結(jié)果,因此如果第一次調(diào)用失敗,那其他goroutine也都會失敗pV928資訊網(wǎng)——每日最新資訊28at.com

如果在某些場景下允許第一個調(diào)用失敗后再次嘗試調(diào)用該函數(shù),那么可以通過調(diào)用Forget方法來忘記這個keypV928資訊網(wǎng)——每日最新資訊28at.com

var g = new(singleflight.Group)func search(ctx context.Context, word string) (string, error) { resp, err, _ := g.Do(word, func() (interface{}, error) {  val, err := query(ctx, word)  // 當(dāng)出錯并且允許重試時  if err != nil && true {   g.Forget(word)   return "", err  }  return val, err }) return resp.(string), err}

超時控制

當(dāng)使用Do函數(shù)時,如果query長時間未響應(yīng)(這里假設(shè)qeury不具備超時能力),那么所有的goroutine都會被阻塞并等待,利用DoChan+select可以實現(xiàn)超時邏輯pV928資訊網(wǎng)——每日最新資訊28at.com

var g = new(singleflight.Group)func search(ctx context.Context, word string) (string, error) {    ctx, cancel := context.WithTimeout(ctx, 2*time.Second) defer cancel()     result := g.DoChan(word, func() (interface{}, error) {  return query(ctx, word) }) select { case r := <-result:  return r.Val.(string), r.Err case <-ctx.Done():  return "", ctx.Err() }}

使用場景

預(yù)防緩存穿透pV928資訊網(wǎng)——每日最新資訊28at.com

在高并發(fā)的狀態(tài)下,一般會給熱點數(shù)據(jù)設(shè)置緩存。但數(shù)據(jù)第一次訪問或者緩存失效的狀態(tài)下,如果直接去查詢數(shù)據(jù)庫,會給數(shù)據(jù)庫造成極大壓力,甚至直接打爆數(shù)據(jù)庫。pV928資訊網(wǎng)——每日最新資訊28at.com

以上各種分享中被反復(fù)提到的場景,但!注意!使用singleflight就一勞永逸了么,不是的,在大規(guī)模集群下可能有數(shù)百臺機器,當(dāng)處在高并發(fā)狀態(tài)時,即使每臺機器只發(fā)起一個請求,也足以打爆你的數(shù)據(jù)庫!結(jié)合實際,搭配適當(dāng)?shù)木彺娌呗浴?shù)據(jù)預(yù)熱、限流等手段才能避免潛在的風(fēng)險。挖個坑,以后有機會聊聊這些問題pV928資訊網(wǎng)——每日最新資訊28at.com

總結(jié)

本篇作為一個例子,給你講透典型的Go并發(fā)控制的姊妹篇,講述了另外一種并發(fā)控制模型,并介紹了開源庫golang.org/x/sync/singleflight。pV928資訊網(wǎng)——每日最新資訊28at.com

當(dāng)由一個goroutine并發(fā)向下發(fā)展成多個goroutine時,使用golang.org/x/sync/errgrouppV928資訊網(wǎng)——每日最新資訊28at.com

當(dāng)多個goroutine并發(fā)向下抑制成一個goroutine時,使用golang.org/x/sync/singleflightpV928資訊網(wǎng)——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-26-94296-0.html講完Go并發(fā)控制,講講并發(fā)抑制

聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 超火超實用的 10 個前端工具庫,可能就是你一直在尋找的!

下一篇: 盤點歷屆 Java 語言的關(guān)鍵字,一定有你不認(rèn)識的

標(biāo)簽:
  • 熱門焦點
Top 主站蜘蛛池模板: 鹤岗市| 青河县| 精河县| 博白县| 永春县| 吉首市| 柳州市| 新郑市| 达州市| 广饶县| 宣化县| 乡城县| 池州市| 海伦市| 泾源县| 沂水县| 房山区| 双牌县| 塘沽区| 揭东县| 和田市| 湘西| 曲阜市| 麦盖提县| 宣武区| 大洼县| 南平市| 胶南市| 宁津县| 泰来县| 兰西县| 中卫市| 新乡县| 沙洋县| 安义县| 阜新| 眉山市| 衢州市| 新和县| 历史| 大新县|