Dortmund førte 5-1 ved pausen, hvor fløjspilleren Karim Adeyemi scorede hattrick og tilkæmpede sig et straffespark før pausen.
Emre Can gav Dortmund en føring i det syvende minut på et straffespark. Serhou Guirassy konverterede også fra pletten og scorede et solomål. Felix Nmecha tilføjede endnu et, da Dortmund tangerede deres bedste Champions League-præstation nogensinde.
Celtics Daizen Maeda havde udlignet til 1-1 efter ni minutter, men Dortmund tog føringen igen ved Adeyemi blot to minutter senere.
Rodgers sagde, at kampen var "hård at se på".
"Vi formåede ikke at få vores bedste spil frem, og de viste, hvorfor de er et tophold," sagde han.
"Vi blev måske lidt forskrækkede tidligt. På dette niveau skal man være på sit højeste niveau, og det var vi ikke - og det var de."
Celtic havde vundet otte ud af otte mulige i starten af sæsonen, men blev i den grad kørt over af sidste års Champions League-finalister.
"Vi gik ind med stor selvtillid," sagde Rodgers. "Holdet har spillet rigtig godt. Vi var i en rigtig god position, men vi havde brug for at starte kampen bedre, end vi gjorde.
"Vi blev straffet. De var absolut hensynsløse i afslutningerne. Det var utroligt at se, desværre for os var det os, der var bagud."
Celtics næste Champions League-kamp er på udebane mod Serie A-mandskabet Atalanta, som vandt Europa League sidste år.
Rodgers sagde, at det ville være "meget svært for os at komme op på (Dortmunds) niveau, men det, vi ønsker, er at være mere konkurrencedygtige."
"Det, vi så i aften, var det allerhøjeste niveau i de europæiske turneringer," sagde han.
Celtics anfører Callum McGregor sagde til TNT Sports, at "det gjorde ondt".
"Vi blev straffet for hver eneste fejl, vi begik, og det sker ikke så tit i en fodboldkamp," sagde han.
"Før vi vidste af det, var vi bagud 5-1. En tankevækkende aften.
"Vi er nødt til at holde sammen. Vi har haft en god start på sæsonen, men vi er blevet lidt ædru."