Det fortæller den italienske træner efter Benzemas sidste kamp for den spanske hovedstadsklub søndag mod Athletic Bilbao.
Ancelotti havde sågar sagt til flere medier så sent som lørdag, at han forventede, at Benzema ville fortsætte i klubben.
"Jeg talte med ham i morges, og han fortalte mig, at han var på vej væk. Han har truffet beslutningen, og jeg fortalte ham, at jeg respekterer den fuldt ud," siger Ancelotti søndag aften ifølge nyhedsbureauet AFP.
Det var få timer før sæsonens sidste ligakamp på hjemmebane, at Real Madrid oplyste på sin hjemmeside, at den franske angriber stopper i klubben.
35-årige Benzema kom til Real Madrid som blot 21-årig fra Lyon tilbage i 2009, men det er først i de senere sæsoner, at han for alvor har etableret sig som en stor profil.
"Jeg har trænet en af de bedste i verden. Ikke blot en angriber, men en komplet fodboldspiller," siger Carlo Ancelotti ifølge AFP.
"En meget venlig, ydmyg og seriøs person. Vi kan ikke være glade for, at han stopper, men vi er nødt til at respektere hans beslutning. Det, han har udrettet i denne klub, er legendarisk og uforglemmeligt," tilføjer han.
Søndagens kamp mod Athletic Bilbao endte 1-1, og Reals ene mål blev leveret af netop Benzema, der i sin sidste kamp for klubben scorede på et straffespark.
Karim Benzema fik efter kampen en varm afsked af sine holdkammerater, som kastede ham op i luften sammen med andre afgående spillere, heriblandt Marco Asensio og Eden Hazard.
"Det har været en fornøjelse at spille med ham. Han er en fantastisk spiller, en legende," siger Thibaut Courtois til Movistar ifølge AFP.
"Det er en skam, at han tager afsted, men han har fortjent retten til at vælge sin fremtid," tilføjer den belgiske målmand.
Det er uvist, hvor Benzema fortsætter karrieren, men angriberen sættes kraftigt i forbindelse med et skifte til Saudi-Arabien.
Den saudiarabiske tv-station Al Ekhbariya oplyser ifølge nyhedsbureauet Reuters, at klubben Al-Ittihad har indgået en toårig aftale med Karim Benzema.
Skulle Benzema ende i Saudi-Arabien, følger han i Cristiano Ronaldos fodspor. Portugiseren er for tiden tilknyttet Al-Nassr.
Med det ene point fra søndagens kamp ender Real Madrid på andenpladsen i La Liga ét point foran Atlético Madrid.