mm un microcontrolador no es bueno en calculos matematicos... asi que no es recomendable para ese tipo de aplicaciones... con excepcion de algunos fabricantes...
Por otro lado un DSP es caro, lo que te sugeriria es que uses un microcontrolador de 16 o 32 bits... o un DSP economico, en marcas de micros puede ser freescale, Atmel o Texas Instruments.. por el lado de los DSPs me gustan mas los Texas o los Freescale
Aunque atmel acaba de sacar un nuevo micro de 32 bits (AVR32) y el kit de desarrollo esta a muy buen precio... de echo estoy esperando que nos lleguen para comprar uno... ese trae linux incorporado y otras monerias mas... creo que seria el adecuado para tu aplicacion, el problema es que viene en empaque BGA y aun no sale la version QFP
Saludos