Mise en place de cache local au niveau du serveur pour améliorer les temps de traitement des requêtes #26

wpetit · 2024-05-28T16:51:13+02:00

wpetit commented

2024-05-28 16:51:13 +02:00

Cette PR ajoute une mise en cache locale des proxy/layers au niveau du serveur, permettant ainsi un gain de performance d'environ x5 comme l'indique le benchmark suivant:

goos: linux
goarch: amd64
pkg: forge.cadoles.com/cadoles/bouncer/internal/proxy
cpu: 12th Gen Intel(R) Core(TM) i7-12700H
         │ bench_cache.txt │           bench_nocache.txt           │
         │     sec/op      │    sec/op     vs base                 │
Proxy-20       82.63µ ± 3%   469.86µ ± 5%  +468.61% (p=0.000 n=10)

Voir également les analyses de trace avec et sans cache en pièce jointe.

La durée de la mise en cache est configurable dans le fichier de configuration, via la clé proxy.cache.ttl. La valeur est définie à 30s par défaut.

Cette PR ajoute une mise en cache locale des proxy/layers au niveau du serveur, permettant ainsi **un gain de performance d'environ x5** comme l'indique le benchmark suivant: ``` goos: linux goarch: amd64 pkg: forge.cadoles.com/cadoles/bouncer/internal/proxy cpu: 12th Gen Intel(R) Core(TM) i7-12700H │ bench_cache.txt │ bench_nocache.txt │ │ sec/op │ sec/op vs base │ Proxy-20 82.63µ ± 3% 469.86µ ± 5% +468.61% (p=0.000 n=10) ``` Voir également les analyses de trace avec et sans cache en pièce jointe. La durée de la mise en cache est configurable dans le fichier de configuration, via la clé `proxy.cache.ttl`. La valeur est définie à `30s` par défaut.

bench_cache.png

313 KiB

bench_nocache.png

319 KiB

wpetit added 1 commit 2024-05-28 16:51:14 +02:00

feat: improve perf by caching proxy and layers locally

Cadoles/bouncer/pipeline/head This commit looks good

Details

Cadoles/bouncer/pipeline/pr-develop Build started...

Details

3a9fde9bc9

wpetit merged commit d667bb03f5 into develop