Mise en place de cache local au niveau du serveur pour améliorer les temps de traitement des requêtes #26

wpetit · 2024-05-28T16:51:13+02:00

wpetit commented

2024-05-28 16:51:13 +02:00

Cette PR ajoute une mise en cache locale des proxy/layers au niveau du serveur, permettant ainsi un gain de performance d'environ x5 comme l'indique le benchmark suivant:

goos: linux
goarch: amd64
pkg: forge.cadoles.com/cadoles/bouncer/internal/proxy
cpu: 12th Gen Intel(R) Core(TM) i7-12700H
         │ bench_cache.txt │           bench_nocache.txt           │
         │     sec/op      │    sec/op     vs base                 │
Proxy-20       82.63µ ± 3%   469.86µ ± 5%  +468.61% (p=0.000 n=10)

Voir également les analyses de trace avec et sans cache en pièce jointe.

La durée de la mise en cache est configurable dans le fichier de configuration, via la clé proxy.cache.ttl. La valeur est définie à 30s par défaut.

Cette PR ajoute une mise en cache locale des proxy/layers au niveau du serveur, permettant ainsi **un gain de performance d'environ x5** comme l'indique le benchmark suivant: ``` goos: linux goarch: amd64 pkg: forge.cadoles.com/cadoles/bouncer/internal/proxy cpu: 12th Gen Intel(R) Core(TM) i7-12700H │ bench_cache.txt │ bench_nocache.txt │ │ sec/op │ sec/op vs base │ Proxy-20 82.63µ ± 3% 469.86µ ± 5% +468.61% (p=0.000 n=10) ``` Voir également les analyses de trace avec et sans cache en pièce jointe. La durée de la mise en cache est configurable dans le fichier de configuration, via la clé `proxy.cache.ttl`. La valeur est définie à `30s` par défaut.

bench_cache.png

313 KiB

bench_nocache.png

319 KiB

wpetit added 1 commit 2024-05-28 16:51:14 +02:00