La ville est mentionnée en 843 avec le traité de Verdun, le partage de l'empire carolingien entre les trois petits-fils de Charlemagne octroie à Lothaire, la Francie médiane qui comprend le Hainaut dont fait partie le village. Le nom de la localité est attesté sous les formes De Avisnis ; altare de Avesnis en 1131 ; Avesnes en 1174 dans la Charte de Jacques, seigneur d'Avesnes. Jusqu'à 1962, le nom officiel était simplement Avesnes. Il existe plusieurs autres Avesnes dans la partie nord de la France, dont les formes anciennes sont similaires à celles d'Avesnes-sur-Helpe. Ville très ancienne, datant du Moyen Âge, Avesnes-sur-Helpe possède un patrimoine culturel et architectural riche qui séduit tous les visiteurs.
Juchée sur des plateaux escarpés, la ville domine le cours de l’Helpe. Le premier seigneur d'Avesnes connu est Wedric II d'Avesnes, né aux environs de 990, fils de Wedric Ier de Morvois. Les textes du XIe siècle qualifient Avesnes de Castellum ou de castra. L'origine de la création des premières fortifications date de 1050 par Wedric III le barbu d'Avesnes (né vers 1020 et mort vers 1075). Il s’agissait d’une grosse tour dont les fouilles effectuées au milieu des années 1970 ont permis d’en déterminer les dimensions :20 m x 17 m. L'emplacement de cette fortification se trouve sur le site de l'actuel palais de justice, sur un éperon rocheux de plus de 20 mètres dominant la vallée de l'Helpe Majeure.
Sans descendance, la seigneurie passa à sa sœur Ade d'Avesnes (1050-1075) qui épousa Fastre Ier d'Oisy (1050-1092). Gossuin d’Oisy, neveu de Thierry lui même fils de Wédric le Barbu en 1080 améliora, non seulement les fortifications du château mais établit une seconde enceinte renfermant et protégeant les maisons de la ville. Un bourg castral s'organise autour d'une place, l'actuelle place Guillemin. Gossuin d’Oisy est ainsi le premier à avoir créé les remparts d’Avesnes.
Au XIIIe siècle, une enceinte plus large correspondant aux trois quartiers de la vieille ville : centre-ville, plateau Chémerault et ville basse, est édifiée avec des tours rondes dont il subsiste un exemplaire à côté du Bastion de la Reine sur le plateau Chémerault.
En 1423, Olivier de Bretagne comte de Penthièvre, seigneur d’Avesnes, songea en début du XVe siècle à remettre ces murailles en état. Il obtint de la comtesse du Hainaut Jacqueline de Bavière des lettres d’octroi pour lever, dans toute l’étendue de la terre d’Avesnes , pendant six ans à compter du jour de la purification 1422 six deniers au lot de vin ou de bière, avec affectation du produit aux fortifications du chef-lieu de la seigneurie. Olivier de Bretagne couronna les murailles d'un parapet et les flanqua de tours crénelées. L’enceinte fut considérablement élargie.
À partir de 1433, Avesnes, comme tout le Hainaut, fait partie du duché de Bourgogne. Le 30 juillet 1461, le roi Louis XI expédia ses premières lettres patentes dès Avesnes. La lutte de Louis XI contre le Téméraire créant une lourde menace pour le Hainaut, Isabeau de la Tour, agissant comme tutrice de sa fille Françoise de Bretagne (nièce d’Olivier), fit lever un impôt, dit maltote, impôt affecté aux fortifications. Cela n’empêcha pas Louis XI de prendre Avesnes le 11 juin 1477. La ville fut arasée avec ses remparts. Les tours avaient été démolies, les murailles abattues, les fossés comblés. En 1490, nouveau désastre. les français s’emparèrent à nouveau de la ville, la pillant et la brûlant.
Gabriel d'Albret accorda au magistrat, en 1493, pour quatre années, un droit de maltotes sur les vins et bières, à charge d'en employer le produit à la réparation des ouvrages de la place (mais ce ne fut que 60 ans après, en 1538, que les travaux furent terminés).
En 1502 le seigneur d’Avesnes Charles de Croÿ fit remettre la ville en état de défense, l’enceinte étant reconstruite et les portes rétablies. Le duc de Croÿ dotent la ville de ses premières fortifications bastionnées. Il s’agit de six bastions à orillons et galerie de contremines, dont le bastion de la Reine. Ceux-ci sont dessinés par l’ingénieur italien Jacopo da Modena, ingénieur de Charles Quint. Un homme était alors chargé d’aller ouvrir les portes le matin et de les fermer le soir, accompagné par le mayeur et le massard, représentant la commune. Les fortifications bastionnées donnent à la cité la réputation d'être imprenable.
Durant les années 1540 et 1550, le dispositif défensif est modifié et renforcé par des cavaliers sur les bastions et les courtines. Sa situation escarpée rend difficile sa défense par l’inondation. Les ingénieurs de Madrid et Bruxelles rectifient les tracés des bastions et construisent des demi-lunes et des redoutes pour protéger les portes. Une redoute est ajoutée sur le lieu-dit Pont Rouge. La porte de France est reconstruite. Vers 1630, les bastions, sauf le Bastion de la Reine, sont élargis et des ouvrages extérieurs ajoutés sous la direction du chevalier de Clerville. De cette époque date la porte de Mons (1628) et le Cavalier du Bastion de France.
Conquise définitivement par la France en 1659 par le Traité des Pyrénées, une série de travaux visant à moderniser l’enceinte est ordonnée en 1661. A partir de 1673, Vauban engage de nombreux travaux. Vauban intègre la place dans le réseau de places fortes du " Pré Carré ". S’il ne touche pas à l’enceinte urbaine, il redéfinit les ouvrages extérieurs, renforce la garnison de casernes et de poudrières, perce de nouvelles portes. Il ne touche pas aux courtines et bastions, sauf le Bastion de la Reine qu'il élargit sur un côté.
En revanche il met en place le réseau moderne d'ouvrages extérieurs : redoutes et demi-lunes et renforce le système d’inondation du front nord. Il édifie sur l’Helpe, le Pont-des-Dames, un pont-écluse à quatre vannes permettant de réguler le cours de la rivière, de tendre des inondations défensives et de réguler le volume d’eau des fossés. Ses travaux furent impressionnants avec une redéfinition des ouvrages détachés, un renfort de la garnison de casernes et de poudrières.
Détruite partiellement durant un siège en 1815, la ville est reconstruite sous la Restauration et voit ses fortifications modernisées à partir de 1821, suite à la perte de Philippeville et Mariembourg cédées au royaume des Pays-Bas. Un demi-bastion casematé sur deux niveaux est établi près de la Porte de France qui est restaurée, le bastion Saint-Jean est remis à neuf, ses casemates anciennes sont obstruées et les magasins à poudre et de stockage sont reconstruits. Au cours des années 1830, les défenses sont restaurées et un nouveau bastion est ajouté sur la courtine du front sud-est. Plus petit que les autres, le bastion Saint-Louis est doté de casemates.
Après le déclassement en 1873, Avesnes-sur-Helpe oublia son passé militaire. Lors du démantèlement, les portes de la ville ont été supprimées pour faciliter les transports. Les remparts restent cependant très présents. Il subsiste aujourd’hui les deux tiers des remparts dont le bastion de la Reine, le bastion Saint-Jean, le bastion de France, la porte de Mons et le Pont-des-Dames. Le donjon et une partie de l’enceinte, construits à l’époque médiévale, ont été mis au jour depuis 1975. Le Bastion royal porte la sous-préfecture et le bastion Saint-Jean restauré en 2006 est le prétexte à la promenade. Les remparts au cœur de la ville, accueillent autant les familles que les promeneurs. Souterrains, casemate, bastion sont visibles partout.
Le plan-relief de 1826, conservé au Musée des Beaux-Arts de Lille, a été construit en remplacement de la maquette de 1723, emportée par les Prussiens en 1815.