Tu problema es que la entrada al 7812 es muy alta, 17vac rectificados se van a casi 24Vcc, la diferencia entre los 24 y los 12, se transforman en calor, por mas poca corriente que le demandes al 7812.
La resistencia shunt esta para habar la corriente que circula por el 7812, normalmente si quitas el 7812 y dejas la resistencia, deberias tener 8v aprox. eso lo tendrias que verificar, y por ahi buscar un valor que llegue a 10V, y ahi colocar el 7812, vas a lograr que baje un poco el trabajo del 7812. Bajar la tensión de entrada tambien es una opción.
Hacer una fuente stepdown es otra opción.
En cualquiera de las opciones deberias lograr que el aire que mueven los ventiladores, pasen por el 7812.
En algunos casos se suelen usar dos en cascada, un 7812 con un zener para llevarlo a 18V y a la salida de este el 7812 directo.
La resistencia shunt esta para habar la corriente que circula por el 7812, normalmente si quitas el 7812 y dejas la resistencia, deberias tener 8v aprox. eso lo tendrias que verificar, y por ahi buscar un valor que llegue a 10V, y ahi colocar el 7812, vas a lograr que baje un poco el trabajo del 7812. Bajar la tensión de entrada tambien es una opción.
Hacer una fuente stepdown es otra opción.
En cualquiera de las opciones deberias lograr que el aire que mueven los ventiladores, pasen por el 7812.
En algunos casos se suelen usar dos en cascada, un 7812 con un zener para llevarlo a 18V y a la salida de este el 7812 directo.