Bei der Freilaufdiode darf man keine ganz langsame nehmen (wie z.B. 1N5403). Das sollte schon eine Schottkeydiode sein. Man sollte zwischen Netzteil und PWM Controlle einiges an Elkos und eventuell auch eine Induktivität haben damit der Stromfluß einigermaßen gelichmäßig ist. Es könnte sein das das Netzteil abschaltet weil der Wechselspannungsanteil am Ausdgang zu groß ist.
Ein weiteres Problem könnte die ungleiche Belastung an 5 V und 12 V sein.