Conoce las estrategias de recuperación de memoria en CUDA y cómo optimizan el rendimiento del sistema.

Política de recuperación de memoria del sistema CUDA

¿Qué es la Política de Recuperación de Memoria en CUDA?

Por Alejandro

A partir de la versión 546.01 del controlador NVIDIA, en el Panel de Control de NVIDIA aparece la posibilidad de activar o desactivar una nueva opción: CUDA Sysmem Fallback Policy, que permite configurar el comportamiento de la función System Memory Fallback.

En este artículo hablaremos de qué es esta función, si se debe activar System Memory Fallback para juegos u otras tareas y de información adicional que puede ser útil.

Propósito de la función

La función System Memory Fallback (que se puede traducir como «Reserva de memoria del sistema») en las tarjetas gráficas NVIDIA está diseñada para tareas que requieren una gran cantidad de memoria de la tarjeta gráfica al utilizar los núcleos CUDA: principalmente al utilizar herramientas de IA como Stable Diffusion.

En caso de que la opción esté activada, para estas tareas, además de la memoria de la tarjeta gráfica (VRAM), se puede utilizar la memoria RAM del ordenador, con el siguiente resultado:

  • No recibirás notificaciones de que no hay suficiente memoria (CUDA out of memory), siempre que el volumen total de VRAM y RAM libre sea suficiente para realizar la tarea.
  • Es probable que el rendimiento sea menor: la razón es que la memoria RAM del ordenador funciona significativamente más lentamente que la memoria de la tarjeta gráfica.

Así que, activar la función permite utilizar herramientas de IA (y otros procesos que utilizan CUDA y una cantidad significativa de VRAM) incluso en tarjetas gráficas con poca memoria propia y sin aplicar optimizaciones adicionales.

Descubre cómo CUDA gestiona la memoria de manera automática para evitar problemas de sobrecarga en el sistema

Configuración de memoria del sistema de reserva

La posibilidad de configurar la memoria del sistema de reserva apareció en el panel de control de NVIDIA a partir de la versión 546.01 del controlador (la función ya estaba implementada anteriormente, pero sin posibilidad de configuración).

Para activar o desactivar simplemente siga estos pasos:

  1. Abra el Panel de Control de NVIDIA: puede hacerlo a través del menú contextual del escritorio, haga clic derecho en el escritorio y seleccione el punto deseado (en Windows 11 primero deberá hacer clic en «Mostrar opciones adicionales»).
  2. Vaya a la sección «Opciones 3D» — «Administrar configuraciones 3D».
  3. Establezca el valor deseado para el parámetro CUDA – Política de reserva de memoria del sistema en la pestaña «Parámetros globales» (para todas las aplicaciones) o «Configuración de programas» (para las aplicaciones seleccionadas) y haga clic en el botón «Aplicar».

Los siguientes son los valores de configuración disponibles:

  • Driver Default — valor predeterminado, el comportamiento de la función está determinado por el controlador y la tarea que se está ejecutando.
  • Prefer No Sysmem Fallback — preferir no utilizar la memoria del sistema de reserva

Si bien es posible activar esta opción globalmente para todas las aplicaciones y juegos que utilizan CUDA, no se recomienda a menos que se experimente con una falta de memoria de la tarjeta gráfica al realizar ciertas tareas. La razón es el posible descenso del rendimiento debido al uso de la memoria RAM del ordenador en lugar de la VRAM.

Al activar la recuperación de memoria del sistema para tareas de IA, el rendimiento puede disminuir considerablemente y otras opciones para garantizar el funcionamiento en tarjetas gráficas con poca VRAM podrían ser más preferibles.

Por ejemplo, en mi caso, al usar Stable Diffusion y WebUI en una tarjeta gráfica con 6 GB de memoria, el uso de parámetros para optimizar el funcionamiento en tarjetas gráficas de este tipo muestra un resultado varias veces más rápido que el desactivación de dichos parámetros y la activación de la recuperación de memoria del sistema. Por lo tanto, el uso de la función podría ser justificado, quizás solo, cuando sea necesario generar imágenes con un tamaño mayor que de otra manera no se podrían crear en este equipo.

En el caso de los juegos, la situación es mejor, pero también se observa una ligera disminución del rendimiento y es posible que sea inestable.

A continuación, en el siguiente capturas de pantalla se muestran los resultados de las pruebas de varias juegos con la opción Sysmem Fallback Policy activada y desactivada, así como los resultados de las pruebas realizadas con la versión anterior del controlador:

Quizás tengas observaciones diferentes sobre el funcionamiento de la función. Sería genial si pudieras compartirlas en los comentarios a continuación.

Compartir este artículo
Salir de la versión móvil