Hermann Grapow wurde in Rostock geboren. Angeregt durch Georg Steindorffs "Blütezeit des Pharaonenreiches", begann er schon als Schüler Ägyptisch zu lernen, indem er Adolf Ermans "Ägyptisches Glossar" abschrieb. Durch Vermittlung von Heinrich Schäfer wurde er 1905 Erman persönlich vorgestellt, bei dem er 1906 an der Berliner Universität das Studium der Ägyptologie aufnahm. 1912 wurde Grapow hier mit einer Dissertation über "Das 17. Kapitel des ägyptischen Totenbuches und seine religionsgeschichtliche Bedeutung" promoviert. Schon seit 1907 war er als Hilfskraft in Ermans Projekt eines Wörterbuches der ägyptischen Sprache tätig und entwickelte sich mehr und mehr zu einem unersetzlichen Mitarbeiter. Das Sichten und Sortieren der rund 1,4 Millionen Belegzettel lag wesentlich in seinen Händen. Für dieses Projekt berief ihn die Berliner Akademie 1922 zum wissenschaftlichen Beamten. 1928 wurde er auf Ermans Einfluß hin zum Honorarprofessor an der Berliner Unversität ernannt. Seit 1929 hielt er hier neben Kurt Sethe Lehrveranstaltungen ab. Nach Sethes Tod übernahm Grapow 1934 zunächst stellvertretend die Leitung des Ägyptologischen Seminars, bevor ihm 1938 dann das Ordinariat übertragen wurde. Im Folgejahr ernannte ihn die Preußische Akademie der Wissenschaften, für die er bereits seit über 30 Jahren tätig war, zum Ordentlichen Mitglied und kommissarischen Sekretar der Philosophisch-historischen Klasse; später leitete er die Akademie als Vizepräsident bis zum Kriegsende 1945. Zudem wurde er im Sommer 1940 zum Dekan der Philosophischen Fakultät und im Frühjahr 1943 zum Prorektor der Universität berufen. Nach dem 2. Weltkrieg begründete er 1947 gemeinsam mit Richard Hartmann und Diedrich Westermann das Institut für Orientforschung an der Berliner Akademie und arbeitete weiter an der Vollendung des "Wörterbuches der ägyptischen Sprache". Als dieses mit seinen Belegbänden erschienen war, wurde die Bearbeitung altägyptischer Texte medizinischen Inhalts zu Grapows zweiter Lebensaufgabe. 1973, sechs Jahre nach seinem Tode, erschien der 9. und letzte Band des von ihm initiierten "Grundrisses der Medizin der alten Ägypter".