Драйвер Nvidia включает счетчики в операционной системе.
Для сбора этой информации можно использовать приложение Windows Performance Monitor. Запустите "perfmon"
Добавить счетчик
Вы также можете использовать nvidia-smi для получения информации:
C:\User>"c:\Program Files\NVIDIA Corporation\NVSMI\nvidia-smi.exe" --loop=1 --query-gpu=memory.used --format=csv
memory.used [MiB]
230 MiB
230 MiB
Другой вариант - GPUZ:
https://www.techpowerup.com/gpuz/
Дополнительную информацию можно найти здесь:
https://github.com/JeremyMain/GPUProfiler/wiki