A község az őskortól lakott hely. Az írásos források 1322-ben említik először. 1423-ban az esztergomi érsek tulajdonában van a falu, aki a korábban román stílusban épített templomot kibővítette. 1590-ben 36 család lakott Herencsényben, akik elsősorban búzát termeltek, de jelentős szőlőültetvénnyel is rendelkeztek. A makkos erdők a sertéstartásnak kedveztek.

A település történetében ritkán fordult elő, hogy csupán egy földbirtokoshoz tartozott volna.
A nagyobb birtokrésszel rendelkező földbirtokosok a faluhoz közel, de attól elkülönítve jelölték ki az általuk betelepített családok házhelyeit. Ekkor alakultak ki Herencsény mellett azok a kis önálló települések, amelyek a falu lakóinak ismeretében ma is élnek: Vajdafalu, amelyet a Róth család létesített a 17. század közepe táján a Feketevíz széles ball partján a templomhoz közel. A Város nevű rész betelepítésére a Ráday család adott engedélyt, amelyet a 19. század közepén még „Kukorica Város" néven ismert a falu lakossága.

A Gándor nevű falurészt a Wattay család népesítette be. Herencsény falu csupán abból a néhány sor házból állt, amelyet a 19. század második felében Tiszttartósor névre kereszteltek el. A Szemetszög falurész is ekkor kapta nevét.

A több településrészből összeálló falunak viszont egy közös bírója volt. A jobbágyok családfői (28 jobbágy) évenként váltva egymást, sorban látták el ezt a tisztséget.

A jobbágyfelszabadítás után a jobbágyföldek felaprózódtak. A földművelésből kiszorult családok tagjai cselédnek szegődhettek, napszámba jártak, vagy az 1860-as évek elején megnyitott helyi szénbányában helyezkedtek el.

A falu elemi iskolája a törökháborúk idején is működött. Több pusztulás után 1885-ben épült fel a ma is álló iskola. A 120-140 iskolaköteles gyermeket egy pedagógus tanította.

A 19. század közepétől a falu lakóinak jelentős része (a telkiföldek felaprózódása, a lakosság számának növekedése, a földszerzési lehetőség teljes hiánya miatt) elszegényedett.