El controlador Nvidia habilita contadores dentro del sistema operativo.
La aplicación Windows Performance Monitor se puede utilizar para recopilar esta información. Ejecute "perfmon"
Agregar contador
También puede usar nvidia-smi para obtener la información:
C:\Usuario>"c:\Program Files\NVIDIA Corporation\NVSMI\nvidia-smi.exe" --loop=1 --query-gpu=memory.used --format=csv
memoria.usada [MiB]
230 MiB
230 MiB
Otra opción es GPUZ:
https://www.techpowerup.com/gpuz/
Puede encontrar información adicional aquí:
https://github.com/JeremyMain/GPUProfiler/wiki