Рейхсмаршал Герман Геринг, рейхсфюрер СС Генрих Гиммлер и группенфюрер СС Рейнхард Гейдрих на пути в Имперскую канцелярию, весна 1939 года.

В конце 1938 года Гейдрих поручил Вальтеру Шелленбергу разработать план создания общегерманской службы безопасности, и 25 февраля 1939 он предоставил Гейдриху документ под названием "Реорганизация Службы безопасности рейхсфюрера СС, принимая во внимание организационное и кадровое объединение с полицией безопасности". По нему СД и полиция безопасности объединялись в единое государственное ведомство - Главное управление имперской безопасности (Reichsicherheitshauptamt, RSHA). При этом СД, становясь государственной организацией, в то же время не смешивалась с Гестапо, чем устранялась опасность для карьерного роста для сотрудников СД со стороны чиновников политической полиции. Шелленберг так сформулировал задачи нового управления: "Новый аппарат должен обладать такой степенью подвижности, освободившись от тормозящего мышления, чтобы легко управлять Рейхом в соответствии с указаниями фюрера".

Проект Шелленберга полностью отвечал личным планам Гейдриха и 27 февраля он одобрил эту концепцию объединения. Однако Гиммлер увидев, что идет речь о выводе СД из-под контроля НСДАП, в очередной раз засомневался в целесообразности объединения и решил сначала осторожно проконсультироваться с высшим партийным руководством, и прежде всего с Рудольфом Гессом. Однако позиция руководства партии осталась неизменной: во-первых, НСДАП никогда не позволит своей партийной структуре (в данном случае СД) получить статус государственного ведомства, во-вторых, НСДАП никогда не позволит, чтобы какой-либо государственный орган получил право вмешиваться в её внутренние дела, и, в-третьих, государственное руководство НСДАП не считает необходимым создание "министерства государственной безопасности", которое могло бы угрожать её абсолютной монополии на власть. Таким образом, проект Шелленберга был категорически отвергнут.

То Главное управление имперской безопасности, которое было создано 27 сентября 1939 года, оказалось на первых порах механическим объединением государственных органов (Главного управления полиции безопасности, HASIPO - это Гестапо и Крипо) и партийных органов (Главного управления службы безопасности, SD-HA). Но своей главной цели Гейдрих не добился - слияния СД и полиции безопасности не произошло. Кроме того, с одной стороны была сформирована общегерманская структура, объединившая в своем составе основные спецслужбы, а с другой стороны, руководством страны было категорически запрещено упоминать название РСХА в прессе, а также в переписке с другими государственными ведомствами, а шеф РСХА продолжал официально именоваться "шефом полиции безопасности и СД". Не то, что рядовые граждане Германии, но и некоторые руководители Рейха просто не подозревали о существовании единой службы безопасности - РСХА, и даже на Нюрнбергском процессе обвинения против СД и Гестапо рассматривались отдельно.