[[File:Hohnstein-Graf2.PNG|thumb|Der Kreis Grafschaft Hohenstein führte das Wappen der Grafen von Hohenstein|197x197px]]
Im Jahr 1938 wurde durch einen Schriftwechsel zwischen dem damaligen Landrat [[Wolf von Wolffersdorf|Wolff von Wolffersdorf]] und dem Staatsarchiv Magdeburg deutlich, dass der Kreis Grafschaft Hohenstein das Wappen der Grafen von Hohenstein ohne offizielle Verleihung führte. Eine vermutete Wappenverleihung um 1890 konnte nicht nachgewiesen werden. Das Staatsarchiv Magdeburg teilte mit, dass vor dem Ersten Weltkrieg lediglich der Kreis Cottbus (1852) ein offizielles Kreiswappen erhalten hatte.
[[Datei:Wappen Landkreis Grafschaft Hohenstein.png|thumb|Neues Wappen für den Landkreis Grafschaft Hohenstein, das während des Zweiten Weltkrieges entworfen wurde|197x197px]]
Auf Anregung des Staatsarchivs wurde ein Prozess zur Schaffung eines neuen Kreiswappens eingeleitet. Bekannte Nordhäuser Persönlichkeiten wie [[Hans Silberborth]], Schulrat [[Paul Koch]] und Museumsdirektor Stolberg wurden als Gutachter und Entwerfer einbezogen. Am 24. Februar 1942 wurde ein vom Staatsarchiv entwickelter Entwurf angenommen und für 130 Reichsmark in Auftrag gegeben. Kriegsbedingt kam dieser Entwurf jedoch nicht zur Ausführung.
[[File:NDH-Wappen by Erhard Heckel.jpg|thumb|Originalentwurf des Wappens des Landkreises Nordhausen, Entwurf und handgefertigt von Erhard Heckel]]
Das Wappen des Landkreises Nordhausen in der dargestellten Form wurde erstmals am 1. Januar 1949 eingeführt und bis 1952 genutzt. Nach der Wiedervereinigung wird es ab 1990 erneut verwendet. Das Wappen wurde von Erhard Heckel entworfen.
Am 17. August 1948 schrieb der Landkreis Nordhausen einen Wettbewerb für die Gestaltung eines Kreiswappens und -siegels aus. Die Ausschreibung richtete sich an Kunstschaffende des Landkreises und stellte vier Preise in Aussicht.
Die Gestaltungsrichtlinien, die im Regierungsblatt für das Land Thüringen (Teil II, Nr. 9 vom 20. März 1948) veröffentlicht wurden, sahen vor:
*Eine klare, nicht überladene Gestaltung
*Verwendung der Farben Rot, Blau, Grün, Schwarz sowie Gelb (Gold) und Weiß (Silber)
*Beachtung der heraldischen Regel, dass Farbe nur auf Metall oder Metall auf Farbe stehen darf
Am Wettbewerb beteiligten sich folgende Künstler:
*Aus Nordhausen: Hans-Heinz Paetzoldt, Franz Raabe, [[Karl Bornträger]], Erich Busch, [[Martin Domke]], Erhard Heckel, Hans Georg Mengel
*Aus Benneckenstein: Gerd-Joachim Friedmann
*Aus Sülzhayn: Ewald Streletzki
*Aus Bleicherode: Winnie Möllhausen und Ulrich Lewin
Eine Kommission aus Künstlern, Architekten und Hans Silberborth wählte einstimmig den Entwurf von Erhard Heckel, dem damaligen Atelierleiter der Neu-Zeit-Werbung Nordhausen/Harz, für den ersten
[[Datei:Entwurf Wappen Landkreis Nordhausen.png|thumb|Erster Entwurf für das Landkreiswappen von Erhard Heckel|147x147px]]
Der ursprüngliche Entwurf wurde mehrfach überarbeitet. Statt der acht Thüringer Sterne wurde das zwölfteilige rot-weiße Schachbrett der Hohensteiner Grafen eingefügt, dessen Farbgebung vom Heroldamt Berlin bestätigt war und traditionell die "Reinwaschung aus dem Blute Christi" symbolisierte.
Nach einer weiteren Begutachtung in Weimar am 19. November 1948 wurde das Wappen mit kleineren Änderungen von 1949 bis 1952 als offizielles Kreiswappen geführt. Mit der Auflösung der Länder in der DDR verschwand es aus dem öffentlichen Gebrauch.
Nach der Wiedervereinigung wurde das historische Wappen am 13. September 1990 durch Beschluss Nr. 28-3/90 vom Kreistag Nordhausen wieder eingeführt.
Da im Gegensatz zu den meisten Kommunen der Landkreis Nordhausen nicht über eine Wappensatzung verfügt, entstand 2024 in der Landratsverwaltung und im Kreistag der Wunsch, die Verwendung und den Schutz des Wappens, der Flagge und des Dienstsiegels zu regeln.<ref>{{Internetquelle | autor = | url =https://www.thueringer-allgemeine.de/lokales/nordhausen/article407178051/wie-der-kreis-nordhausen-gegen-wappen-piraterie-vorgehen-will.html | titel = Wie der Kreis Nordhausen gegen Wappen-Piraterie vorgehen will | werk =Thüringer Allgemeine | hrsg = | datum =5. September 2024 | seiten = | zugriff =15. Oktober 2024 | zitat = | format = | sprache = | kommentar = }}</ref> Nach dieser Satzung ist die Verwendung des Wappens und der Flagge grundsätzlich genehmigungspflichtig. Ausnahmen bestehen für heraldische und wissenschaftliche Zwecke sowie für den Unterricht•.
Dritte können eine Genehmigung zur Nutzung des Wappens beantragen, müssen jedoch sicherstellen, dass die Verwendung das Ansehen des Landkreises Nordhausen nicht schädigt. Eine Verwendung für politische Zwecke ist ausgeschlossen, und das Dienstsiegel darf nur vom Landkreis selbst verwendet werden•.