Dès le VIIe siècle, Rumegies faisait partie de la Seigneurie et de l’abbaye de Saint-Amand.
Le premier nom ancien de Rumegies apparaît en 1058, dans une donation faite par le Roi Henri de l'abbaye d’Hasnon.
Le village restera associé à la vie de l’Abbaye de Saint-Amand jusqu’à la Révolution française.
Au XIXe siècle, la population du village s’accroît. Les activités économiques se développent comme la brasserie, la filature, le tissage, la meunerie.
Rumegies est bordée par les communes de Saméon et d’Aix, limitrophes avec Mouchin, frontalier avec les communes de Rongy et Howardries, de l’entité de Brunehaut au Nord, et rattachés au Valenciennois par la Commune de Lecelles, à l’Est.
Elle fait partie du canton de Saint-Amand rive gauche (20e circonscription électorale) et de l’Arrondissement de Valenciennes.  

À un croisement des chemins, on découvre l’aubette dite "du pont de cailloux", construite après la Seconde Guerre mondiale, en remplacement de l’ancienne en briques et en planches. Aujourd’hui elle est gardée par un douanier factice en résine.