Norbert Herz wurde am 11. Dezember 1858 in Olmütz (Mähren) als Sohn eines Arztes geboren. Er studierte an der Technischen Hochschule und an der Universität in Wien Mathematik, Astronomie und Geodäsie. 1879 legte er die Lehramtsprüfung ab, und am 1. Oktober 1880 trat er als astronomischer Rechner in das Gradmessungsbüro bei Theodor R. v. Oppolzer ein. Am 1. Jänner 1881 übersiedelte er als Assistent an die Technische Hochschule. Sein Doktorat erwarb er am 15. Juli 1882 in Heidelberg.

Von 1884 bis 1891 war Herz der erste Direktor der Kuffner-Sternwarte. Zu seinen Hauptaufgaben zählten die Inbetriebnahme des Großen Refraktors und des Meridiankreises.

1893 wanderte Herz nach Amerika aus und arbeitet unter Simon Newcomb im Nautical Almanac Office. Nach wenigen Monaten kehrte er nach Wien zurück und beschloß seinem Leben eine neue Wendung zu geben.
Bis 1899 studierte er in Wien und Heidelberg Medizin und schloß seine Studien in Heidelberg mit den Rigorosen ab. Zum zweiten Mal reiste er 1900 nach Amerika, in der Hoffnung, dort eine Arztpraxis eröffnen zu können. Wieder kehrte er nach kurzer Zeit nach Wien zurück und wurde Professor an einer Oberrealschule.
1904 habilitierte sich Herz doch noch für Astronomie und Geodäsie. 1911 legte er seine Dozentur allerdings wieder zurück, nachdem sein ehemaliger Assistent Samuel Oppenheim den Ruf als Ordinarius für theoretische Astronomie erhielt.

Herz starb vereinsamt und verbittert am 31. Jänner 1927 in Wien. Herz galt als äußerst empfindliche, instabile Persönlichkeit, die oft an ihren inneren Konflikten scheiterte.