По возрасту Рейнхард Гейдрих не смог принять участие в боях Первой Мировой войны, но война повлияла и на него - он стал исповедовать крайне правые взгляды. В 1918 году Гейдрих вступил в Германский национальный союз молодежи, в 1919 - в Добровольческий корпус (фрайкорпс) генерала Мэркера, в 1920 - в Германский национальный союз молодёжи, а в 1921 году семнадцатилетний Гейдрих стал инициатором создания националистического Германского народного молодёжного отряда. В те бурные годы был активным участником всех вооруженных стычек с коммунистами и с другими левыми организациями.

30 марта 1922 года Гейдрих, с детства грезивший о военной форме, поступил в офицерское училище ВМФ в Киле-Гольтенау. Среди кадетов-однокурсников отличался непомерным честолюбием и высокомерием, - с самого начала он собирался стать адмиралом. После стажировки на учебном судне "Ниобе" он был назначен в политический сектор разведывательной службы Балтийского флота - так началось знакомство Рейнхарда Гейдриха с разведкой. В 1924 году он был переведен на крейсер "Берлин", командиром которого был его будущий конкурент и будущий начальник абвера Вильгельм Канарис. Был с Канариосм в довольно близких отношениях и часто давал камерные концерты на скрипке в доме Канариса и его жены, но среди прочих сослуживцев друзей не имел.