Seine Ausbildung erhielt Hermann Carmiencke bei Johann Christian Dahl (1788-1857) in Dresden, auf dessen Empfehlung er 1831 an die Akademie nach Kopenhagen wechselte. Nach einer Tätigkeit als Zeichenlehrer bei den Grafen Schönburg in Wechselburg ließ Carmiencke sich um 1840 endgültig in Kopenhagen nieder. Bald wurde er sogar zum Hofmaler König Christians VIII. ernannt.
Die Unruhen von 1848 verleiden ihm jedoch Europa und 1851 wanderte Carmiencke nach New York aus, wo seine Landschafsdarstellungen mit großer Euphorie aufgenommen wurden. Später war Carmiencke maßgeblich an der Gründung der Brooklyn Academy beteiligt.