Trods semifinaleplads i pokalturnering: Britisk trænerikon kvitter skotsk job
Warnocks hold slog Kilmarnock 3-1 på Pittodrie, men klubben meddelte, at den 75-årige var "trådt til side" kort efter slutfløjtet i kvartfinalekampen.
Warnock blev ansat af Aberdeen den 5. februar, og den tidligere Sheffield United-træner accepterede jobbet indtil slutningen af sæsonen.
Han havde erstattet den fyrede Barry Robson i håbet om at løfte Aberdeen væk fra nedrykningszonen, men det blev ikke til en eneste sejr i hans seks kampe i den skotske Premier League.
Aberdeens bestyrelsesformand Dave Cormack fortæller: "Klubben vil gerne takke både Neil og Ronnie Jepson for deres indsats.
"Da jagten på en ny manager er langt fremme, vil Peter Leven overtage kontrollen med alle førsteholdsspørgsmål, indtil processen er afsluttet."
Warnock gik på pension sidste år og holdt nedrykningstruede Huddersfield i den engelske Championship, men forlod jobbet i september.
Den tidligere Crystal Palace- og QPR-chef har vundet otte oprykninger og har rekorden for flest ledede ligakampe i England med 1.626 kampe i sin tid i 15 klubber.