Hola,
No puedo recomendarte un modem sobre otro, o si conviene un movil con modem o algo que sea solo modem, pero si tu problema consiste en gestionar el trafico SMS, tienes una solucion muy buena en kannel
http://www.kannel.org/
Yo soy responsable de la plataforma SMS de Terra Latinoamerica, y lo usamos "a full" desde hace años, y responde muy bien (hablamos de millones de SMS diarios repartidos entre 10 instalaciones de kannel)
Actualmente estoy implementando una plataforma donde se conecta a un modem GSM (Nokia CS-10) y con un par de lineas de config, sacadas del manual, comenzo a procesar de inmediato.
¿Cual es la ventaja? bueno, la primera, con el Kannel interactuas sobre HTTP, no puedes tener problemas, usas lo que quieras para comunicarte con el (desde linea de comandos a java, lo que te vaya mejor), por el otro lado, se conecta usando AT con el modem, pero tambien tiene muchos otros protocolos soportados, permite encolar (por si tienes mucho trafico) , es trapido, bastante liviano, y puedes configurar la cantidad de conexiones (modems o del tipo que necesites) que quieras, o tener dos o mas kannels en el mismo server, si quieres tener separadas las cosas. Lo recomiendo mucho, como te digo, me soluciono el problema de conectarme a un modem USB en linux para mensajeria SMS en cuestion de minutos practicamente.
Si tienes dudas, con gusto te comento sobre como instalarlo o usarlo. Es una solucion robusta y confiable, open source, muy usada en todo el mundo (me sorprendi al ver que empreas tenian un kannel como gateway de mensajeria), deja logs claros, y temuestra registros de conexiones (nombre, estado, tiempo desde ultimo inicio, enviados, recibidos, encolados, fallados) y algunas estadisticas de enviados y recibidos..
Saludos
cejota