Праздничный ужин в честь назначения адмирала Вильгельма Канараса шефом абвера, 2 января 1936 года. За столом слева направо: оберст ВВС Эберт, Вильгельм Канарис, группенфюрер СС Рейнхард Гейдрих, генерал-майор Карман, группенфюрер СС фон Эберштайн, генерал-лейтенант Либман, оберст ВВС Веннингер.

Получив в свои руки достаточно власти Гейдрих начал внедряться в те области разведки, которые всегда были прерогативой профессиональных разведчиков абвера. Не удивительно, что абвер начал применят контрмеры. Капитан 2-го ранга Конрад Патциг, который был шефом абвера с 1932 года, усмотрел в амбициях Гейдриха опасность для военной разведки, и после "Ночи длинных ножей" настоял на расследовании убийства генерала фон Бредова и открыто потребовал, чтобы шеф СД ушел в отставку. Патциг также дал довольно интересную характеристику для СС: "СС - это мусорная корзина с сомнительного рода личностями и преступниками, которые не останавливаются ни перед чем, даже перед убийством, когда встает вопрос о расширении их власти".

Однако командование армии решило пока не идти на конфликт с СС, и заменило неугомонного Патцига на более тонкого и дипломатичного Канариса, который занял этот пост 2 января 1936 года. Гейдрих был знаком с Канарисом еще со времен службы на учебном крейсера "Берлин", которым командовал будущий шеф абевра. Тогда Гейдриху удалось наладить дружеские отношения с капитаном и его семьей, он часто давал камерные концерты игры на скрипке в доме Канариса. По словам историков, "Во время игры Гейдрих был мягким и нежным, демонстрируя прекрасные манеры и неплохие музыкальные способности. При этом он нередко плакал, в чем проявлялись особенности его характера - соединение цинизма и жестокости с мягкостью и сентиментальностью". После того, как Канарис занял должность шефа абвера, он не испортил отношений с Гейдрихом, они дружили семьями, а их дома находились в одном районе Берлина, но со временем отношение между Гейдрихм и Канарисом охладели и перешли практически в открытую конфронтацию, как перешли в конфронтацию и отношения между СД и абвером.