Acelere suas APIs

Feb 21 2023
A criação de novos objetos pode ser uma operação relativamente cara, especialmente se envolver alocação de memória no heap, portanto, a reutilização de objetos pode ajudar a reduzir a sobrecarga e melhorar o desempenho. Ao manter um pool de objetos preAllocated e reutilizá-los conforme necessário, podemos evitar a sobrecarga de alocar e desalocar memória (o coletor de lixo desaloca as variáveis ​​não utilizadas na memória).

A criação de novos objetos pode ser uma operação relativamente cara, especialmente se envolver alocação de memória no heap, portanto, a reutilização de objetos pode ajudar a reduzir a sobrecarga e melhorar o desempenho. Ao manter um pool de objetos preAllocated e reutilizá-los conforme necessário, podemos evitar a sobrecarga de alocar e desalocar memória (o coletor de lixo desaloca as variáveis ​​não utilizadas na memória).

Isso pode ser especialmente útil para APIs que precisam lidar com um grande número de solicitações, onde criar e destruir objetos em cada solicitação pode ser um gargalo significativo. Ao reutilizar objetos, podemos reduzir a quantidade de tempo de CPU e memória necessária, o que pode levar a um melhor desempenho e à capacidade de lidar com mais solicitações.

Para conseguir isso, podemos usar o sync.Poolpacote em Go para implementar o agrupamento de objetos. O sync.Poolé um pacote Go integrado que fornece um mecanismo thread-safe para armazenar e recuperar objetos de um pool.
Pode saltar para o código diretamente ..!!

Manipuladores:-


package handlers

import (
 "encoding/json"
 "net/http"
 "sync"
)

type Request struct {
 Name    string `json:"name"`
 Id      string `json:"id"`
 Country string `json:"country"`
 Age     int    `json:"age"`
}

type ObjectPool struct {
 ReqPool *sync.Pool
}

var objPool ObjectPool

func init() {
 // init object pool
 objPool.ReqPool = &sync.Pool{
  New: func() interface{} {
   return new(Request)
  },
 }

}


func HandlerWithoutSyncPool() http.Handler {
 return http.HandlerFunc(func(w http.ResponseWriter, r *http.Request) {
  req :=new(Request)
  err := json.NewDecoder(r.Body).Decode(&req)
  if err != nil {
   w.WriteHeader(http.StatusBadRequest)
   return
  }
  w.WriteHeader(http.StatusOK)
  err = json.NewEncoder(w).Encode(req)
  if err != nil {
   w.WriteHeader(http.StatusInternalServerError)
   return
  }

 })
}

func HandlerWithSyncPool() http.Handler {
 return http.HandlerFunc(func(w http.ResponseWriter, r *http.Request) {
  req := objPool.ReqPool.Get().(*Request)

 //to make sure it return object to pool
  defer objPool.ReqPool.Put(req)

  err := json.NewDecoder(r.Body).Decode(&req)
  if err != nil {
   w.WriteHeader(http.StatusBadRequest)
   return
  }

  w.WriteHeader(http.StatusOK)
  
 })
}

Observação: os resultados variam de acordo com o tipo de objeto que estamos agrupando

package handlers

import (
 "bytes"
 "encoding/json"
 "net/http"
 "net/http/httptest"
 "testing"
)

var tests = []struct {
 req Request
}{
 {
  req: Request{Name: "test", Country: "testCountry", Id: "id1", Age: 10},
 },
}


func BenchmarkHandlerWithSyncPool(b *testing.B) {

 for _, test := range tests {
  data, _ := json.Marshal(test)

  b.RunParallel(func(pb *testing.PB) {

   for pb.Next() {
    _, _ = http.Post("http://127.0.0.1:8888/withpool", "application/json", bytes.NewBuffer(data))
   }
  })

 }

}

func BenchmarkHandlerWithoutSyncPool(b *testing.B) {
 for _, test := range tests {

  data, _ := json.Marshal(test)

  b.RunParallel(func(pb *testing.PB) {

   for pb.Next() {
    _, _ = http.Post("http://127.0.0.1:8888/withoutpool", "application/json", bytes.NewBuffer(data))
   }
  })
 }

}


go test -bench=BenchmarkHandlerWithoutSyncPool -benchtime=5s -cpu=1
goos: darwin
goarch: amd64
pkg: testsyncpool/handlers
cpu: Intel(R) Core(TM) i9-9880H CPU @ 2.30GHz
BenchmarkHandlerWithoutSyncPool     23067    1004690 ns/op

      
                

go test -bench=BenchmarkHandlerWithSyncPool -benchtime=5s -cpu=1 
goos: darwin
goarch: amd64
pkg: testsyncpool/handlers
cpu: Intel(R) Core(TM) i9-9880H CPU @ 2.30GHz
BenchmarkHandlerWithSyncPool     77290      76521 ns/op

      
                

package main

import (
 "log"
 "net/http"
 "net/http/pprof"
 "testsyncpool/handlers"
)

func main() {
 r := http.NewServeMux()
 //r.Handle("/withoutpool", handlers.HandlerWithoutSyncPool())

 r.Handle("/withpool", handlers.HandlerWithSyncPool())

 // Register pprof handlers
 r.HandleFunc("/debug/pprof/", pprof.Index)
 r.HandleFunc("/debug/pprof/cmdline", pprof.Cmdline)
 r.HandleFunc("/debug/pprof/profile", pprof.Profile)
 r.HandleFunc("/debug/pprof/symbol", pprof.Symbol)
 r.HandleFunc("/debug/pprof/trace", pprof.Trace)
 err := http.ListenAndServe(":8888", r)
 if err != nil {
  log.Fatal(err)
 }
}

Por favor, sinta-se livre para adicionar quaisquer comentários/sugestão/erros etc…