Alejandro Garnacho og Rasmus Højlund scorede, da United foretog et comeback efter ellers at have indkasseret det første mål og dermed kravlede op på 11. pladsen i Premier League.
Sejren på Old Trafford kom dagen efter, at Ten Hag udtalte, at rygterne om hans job var "eventyr og løgne" fra mediernes side.
Adspurgt om det kunne være et vendepunkt i sæsonen, sagde Ten Hag:
"Nej, det er bare en sejr. Presset er der altid. Vi skal vinde hver eneste kamp. Hver eneste kamp, vi vinder, er vigtig. På dette hold kan man se sammenholdet og kampgejsten. I dag var vi fast besluttede på at score mål, og det er det, vi har brug for. I dag scorede vi to fantastiske mål, og det er vi meget tilfredse med."
United startede kampen på lige fod i forhold til Crystal Palace, hvad angår færrest scorede mål i ligaen i denne sæson, hvilket Ten Hag gav sit holds forfærdelige start på sæsonen skylden for.
"Dette hold har kapacitet til at score rigtig gode mål," sagde hollænderen.
"I dag var de to mål, vi scorede, af høj kvalitet, og når man scorer og vinder, får man mere selvtillid. Istarten af sæsonen havde vi nogle gode præstationer, men vi scorede ikke nok, og så ender man i en nedadgående spiral. Dette resultat kan hjælpe os, men det er kun én sejr, og vi skal bygge videre på den."
Ten Hag havde stor ros til Marcus Rashford, som har været genstand for kritik fra fansene, men som spillede en fremragende kamp med blandt andet et præcist indlæg, der fandt Garnacho ved bagerste stolpe og skabte Uniteds første mål.
"Jeg nød virkelig, hvordan han spillede, man ser, hvad han er i stand til," sagde Ten Hag.
"Vi vil have det her i hver kamp, virkelig intenst pres og så fantastisk en præstation. Det starter med kampgejsten. Når vi alle bidrager med den, har vi et hold, der kan spille med om trofæer."