El ancho de banda es el rango de frecuencia que marcan una caída de 3dB. Como en tu caso no eliminás la comtinua, tu ancho de banda irá de DC a una frecuencia de corte superior. En esa frecuencia de corte superior, vas a tener una caída de 3dB.
Para saber el ancho de banda necesitas saber la frecuencia de sampling y la máxima frecuencia senoidal que esperás. Pero antes es necesario que entiendas lo básico del muestreo, si hacés un análisis en frecuencia de lo que hacés cuando muestreas, pasa esto:
Olvidate por un momento de las frecuencias negativas que aparecen en el gráfico que pueden confundirte un poco.
Ahí la señal X(jw) es la salida que esperás obtener (no importa la forma), cuyo ancho de banda es wm. P(jw) es la señal de muestreo (en la realidad esta señal es distinta, pero no quiero marearte), que tendrá una frecuencia de muestreo fs (o en radianes ws).
Xp(jw) sale de una operación llamada "convolución" entre X(jw) y P(jw), para resumir, esa convolución lo que hace es desplazar la señal X(jw) en c/"flechita" (delta de dirac) que tiene P(jw). Entonces si te fijás en c/ws aparece una señal X(jw) repetida (obviamente con distinta amplitud). Esa convolución se dá cuando muestras, siempre.
La idea de ese filtro pasa bajos final, es eliminar todas esas X(jw) de "más" (frecuencias imágenes) y quedarte solo con la que se encuentra entre DC y fm. Si no atenúas bien esas frecuencias de imágenes, a la salida hablando en forma temporal, aparecen y terminan deformando la señal original. Por lo tanto lo conveniente es que el nivel de atenuación de esas frecuencias imágenes sea muy alto (rechazo a la frecuencias imágenes), ¿qué tan alto? según que tan pura querés que sea la señal a la salida, en términos de senoidal, cuanto THD estás dispuesto a tolerar (además obviamente del THD que introduce el circuito en si).
Si ves la segunda Xp(jw), la que tiene solapamiento, eso sucede cuando la frecuencia máxima de la señal es mayor a fsampling/2, la famosa fórmula de nyquist, si superás fsampling/2, obtenés a la salida una deformación por aliasing.
En mi caso yo tenía una fsampling de 1,7MHz, quería llegar a una senoidal de 500kHz, por lo tanto mi frecuencia de imagen empezaba en 1,2MHz (fsampling-fseñal), yo implementé un filtro de 4to orden para tener una atenuación cercana a 24dB sobre esa frecuencia imágen. Sin embargo me encontré con otro problema que nunca terminé de solucionar, que era ese armónico de baja frecuencia que se me metía cuando la señal estaba cerca de los 500kHz.
Una forma de mejorar ese rechazo, es aumentar la fsampling o disminuir la frecuencia máxima de la señal (agregar más muestras). Aumentando la fsampling en frecuencias altas (usé un acumulador de solo 8 bits), conseguí aumentar un poco más esa fsampling, dando como resultado una mejora en la salida de los 500kHz.
Volviendo un poco a tu caso, suponiendo que lográs una fsampling de 16MHz, tu máxima frecuencia teórica será 8MHz, en forma práctica si imponés dicha frecuencia en 5MHz, la frecuencia imagen la vas a tener en 11MHz y con dos filtros de 1er orden conseguís atenuar más o menos 12dB (va a ser un poquito más).
Es decir, si querés una senoidal de 5MHz, en frecuencia vas obtener una armónica en 5MHz (la senoidal que buscás) y una armónica 12dB atenuada en 11MHz, esa 2da armónica mientras menor peso tenga, mejor se verá la senoidal de 5MHz.
