Himmler, SS'lere 1925 yılında katıldı ve 1927'de "Reichsführer-SS" rütbesine getirildi. Bu rütbeyi çok büyük ciddiyetle karşılayan Heinrich, işinde de son derece disiplinliydi. SS Komutano Erhard Heiden'ın istifasından sonra, Heinrich Himmler 1929 Ocak ayında Reichsführer-SS rütbesine yükseldi. O zamanlarda SS birliğinin 280 üyesi vardı ve SA (Sturmabteilung) birliğinden sayıca çok daha fazlaydılar. Himmler'in daha sonra SA-Oberführer rütbesine çıkarılması düşünüldü fakat 1929'dan sonra "Reichsführer-SS" rütbesini tercih etti.

        Himmler, Hermann Göring ve General Werner von Blomberg, hızla büyüyen ve kontrol edilemez hale gelen SA birliği ve lideri Erst Röhm'ün, Almanya ordusuna ve Nazi liderliğine bir tehdit oluşturduğunda hemfikir oldular. Röhm'ün kuvvetli sosyalist görüşleri vardı ve bunlara inanıyordu, fakat Hitler başarılı bir taktikle Almanya'da gücü eline aldı. Buna rağmen gerçek "devrim" daha başlamamıştı ve Nazi liderleri, SA birliğinin gücünü arkasına alarak, Ernst Röhm'ün her an bir darbe girişiminde bulunabileceğini düşünüyorlardı.

Himmler ve Göring'in baskısı üzerine Hitler, Röhm'ün öldürülmesi gerektiğine katıldı. Röhm'ün ortadan kaldırılması işini Himmler, Göring, Heydrich, Kurt Daluege ve Walter Schellenberg'e bıraktı. Ernst Röhm'ün ve yüksek rütbeli SA subaylarının ölüm fermanı yazılmıştı bile. Emirler verildi ve 10 Haziran 1934'te "Uzun Bıçaklar Gecesi" adıyla bilinen operasyon başlatıldı. Ertesi gün SS birliği Nazi Partisi'nden ayrılıp bağımsız bir organizasyon oldu ve Himmler'in Reichsführer-SS rütbesi artık resmi bir ordu rütbesiydi.

        1936'da Himmler'in çevresine olan yetkisi iyiden iyiye yükselmeye başladı. Almanya'daki bütün "askeri" kuvvetlerin başına getirildi ve Ordnungspolizei gibi merkezi SS karargahı olan yeni kurulan grupların lideri oldu. Himmler artık "Alman Polisi'nin Şefi" konumundaydı. Buna rağmen Himmler üniformalı polislerin idaresini alamamıştı. İşte bu güç de kendisi İçişleri Bakanı olarak atandığında eline geçmiş oldu. Heinrich Himmler'in sıfatı tam olarak: İçişleri Bakanı Reichsführer-SS ve Alman Polisi Şefi oldu.(Resmi yazı ve mektuplarda sıfatı "RFSSuCdDPidMI" diye kısaltılıyordu).1934'te politik polis gücü de Heinrich Himmler'in liderliğinde bir organizasyondu. Politik polisi daha sonra "Gestapo"ya dönüştürdü ve Almanya'nın bütün toplama kamplarına personel yaptı. Buna rağmen savaş başladıktan sonra bu gözaltı kampları hiçbir zaman bir "toplama kampı" olarak planlanmamıştı veya Himmler ve SS birliği de bu kampları yürütenler olmayacaktı. Fakat 1943'te, Almanya'nın, Stalingrad felaketinden sonra parti üyeleri Gestapo'nun performansından şikayet etmeye başlayınca ve parti kendi polis birliği olan Politische Staffeln'i kurunca, Gestapo'nun hüküm sürdüğü yerlerde hiçbir niteliği kalmadı. 1936'daki atanmasından sonra Himmler, Almanya'nın siyasi olmayan dedektif güçlerinin de lideri olmuştu. Bu güçlere "Kripo" deniyordu. Himmler, Kripolar'ı, Sicherheitspolizei ile bilreştirip, onları Reinhard Heydrich'in liderliği altında toplayacaktı. Fakat bu birleşme Reich'de (meclis) onaylanmayınca plan suya düştü. Kripo birliği tekrar sivil toplumun kontrolu altında kaldı. 2. Dünya Savaşı'nın patlak vermesinin ardından, Himmler Reichssicherheitshauptamt'ı (Reich (meclis) Güvenliği Merkezi)  kurdu ve Gestapo, Krip ve Sicherheitsdienst birliklerini bu çatı altında topladı. Himmler bu merkezi kullanarak Kripolar üzerinde tam yetki almaya kalkışmıssa da, çok sert tepki gördü ve planını uygulayamadı. Aynı zamanda SS'ler de askeri bir branş kurmakla meşguldu; daha sonra Waffen-SS (SS'lerin savaş kolu) adını alacak olan SS-Verfügungstruppe. 

        "Uzun Bıçaklar" gecesinin ardından, SS-Totenkopfverbände birliğine Almanya rejimindeki toplama kamplarını kurma emri verildi ve 1941'den sonra ek olarak imha kampları da Polonya'da inşa edildi. SS'lerin istihbarat kolu olan Sicherheitsdienst (SD), Yahudiler, Çingeler'i, şamanları, homoseksüelleri, komünistleri ve Naziler'in karşı çıktığı diğer ırk ve kütlürdeki insanları bulmakla görevliydi. Yakaladığı bu türde insanları sorgusuz sualsiz silah zoruyla derhal kurulan kamplara yönlendirten Himmler, bu kamplardan ilkini 22 Mart 1933'te Dachau'da kurdu. Büyük Tahribat'ın (The Holocaust) mimarlarından biri oldu. "Gizemciliği" kullanarak ırkçı Nazi ideolojisini toplu cinayet ve soykırımla milyonlarca insanı katlederek dünyaya tanıtıyordu. Himmler'in Polonyalılar için daha değişik planları da vardı. Akıllı, entellektüel Polonyalılar hemen öldürülüyordu, diğer kalanlar, fazla akıllı olmayanlardı ve Himmler de zaten onların aklını yıkayıp Almanya için kullanmak istiyordu.

Heinrich Himmler, Hitler'den daha çok toplama ve savaş kampı kurdurttu.

Himmler Gestapo'yu selamlarken 751x477

        1942'de Himmler'in sağ kolu Reinhard Heydrich Prag'da özel Çek kuvvetleri tarafından öldürüldü. Himmler öfkesini, Lidice köyündeki bütün erkek nüfusu katlederek gösterdi.

Bundan bir yıl sonra Himmler resmi olarak Almanya İçişleri Bakanı oldu. Himmler'in rakip siyasetçilere ve kendisini "kıskananlar" olarak tanımladığı liderlere karşı aldığı bu zaferden sonra Himmler güçleri tamamen eline almak için direk olarak parti içinde operasyonlara başladı. Fakat bu operasyonlar Hitler'in genel sekreteri ve parti başkanı Martin Bormann tarafından erken fark edilerek engellendi. Ayrıca bu atak Adolf Hitler'in kendisi tarafından da pek hoş karşılanmadı. Himmler kafasına göre düzen kurmaya devam ediyordu. İçişleri Bakanı olduktan sonra "Ersatzheer" (Yedek Ordu) başına getirilen Himmler'in tavırları daha da kötüye gitti. Bütün asker ve polis meselelerinde ve bunların birlikleri üzerinde yetkisini sınırsızca kullanmaya çalıştı. Bununla da kalmayıp bazı polisleri Waffen-SS birliğine transfer etti. Himmler resmen kendi idamını hazırlarken, Bormann bir anlamda ipi Himmler'e uzatmadı ve bütün bu çılgınlıkları görmezden geldi. Halbuki yazacağı bir raporla Himmler'in kariyerini ve rütbesini bir hamlede bitirebilirdi. Ancak Bormann'ın sessizliği bile Himmler'in tavırlarını değiştirmedi. Etraftaki fısıltılar, bağırışmalara, bağırışmalar da protestolara dönüştü. Parti'deki üyeler ve diğer liderler bu olaylardan sonra Himmler'i benimsemedi. Parti artık Martin Bormann'ı koruyucusu olarak görüyordu.

        20 Temmuz 1944'te Hitler'in ve diğer liderlerin fikir ayrılığı yüzünden Abwehr'de (Almanya ordu istihbaratı) bir kargaşa patlak verdi. Amiral Wilhelm Canaris, Hitler'i, Abwehr'i tamamen kapatıp, 3. Reich'in istihbaratını tamamen SD birliğine vermesi için teşvik etti. Bu da Himmler'in batan gemisinin tekrar su yüzüne çıkması demekti. Fakat birbiri ardına gelen olaylar etraftaki uyanık insanlarda hemen bir komplo teorisinin oluşmasına neden oldu. Heinrich Himmler, Yedek Ordu'nun başına General Friedrich Fromm'un yerine gelmişti. Himmler ordunun düzenini bilerek bozup, yedek ordu üzerindeki yetkisini bilerek kötüye kullanmıştı çünkü gücün tamamen kendi liderliğini yaptığı SD birliğine geçmesini istiyordu. Yani ortada ne batan bir Himmler vardı, ne de aklını yitirip kendi rütbesini kafasına göre kullanan bir komutan...

        Komplo teorisini çözen liderler hemen bir soruşturma başlattı.  Daha sonra Himmler ile birlikte birçok SS subayının ve  hatta bu subayların liderlerinin de komplonun içinde olduğu ortaya çıktı. Daha da önemlisi birkaç SS subayı, SS lideri Himmler'e komplo kurmaya başladı çünkü Himmler'in, Martin Bormann'a karşı verdiği mücadeleyi kaybedeceğine inanıyorlardı. Bu inananlar arasında Heydrich'in öldürülmesinden sonra Reichssicherheitshauptamt başına getirilen Ernst Haltenbrunner ve Gestapo şefi Gruppenführer Heinrich Müller de vardı.

        1944'ün kış aylarında Himmler'in Waffen-SS birliği tam 910.000 (dokuzyüzon bin) ve Allgemeine-SS ile birlikte sadece kağıt üzerinde toplam 2.000.000 (iki milyon) üyeye sahipti. Buna rağmen 1945 yılının ilkbaharında Himmler, özel doktoru ve masörü Felix Kersten ve SS subayı Walter Schellenberg ile yaptığı tartışmaların ardından hayatını adadığı Almanya'nın zaferinden kuşku duymaya başladı. Nazi rejiminin hayatta kalmasını İngiltere ve Birleşik Devletler ile yapacağı barış görüşmelerine bağladı. Sonuç olarak İsveç diplomatı Kont Folke Bernadotte ile Hollanda sınırında bulunan Lübeck'te temas kurup görüşmelere başladı. Himmler'in planı batıda barışı sağlamak, ardından Sovyet ve Birleşik Devletler'in, Wehrmacht'ın kalan güçleriyle savaşmasını izlemekti. Adolf Hitler bu olayları duyunca Himmler'i vatan haini olarak ilan etti intihar etmeden bir gün önce Himmler'in bütün yetkilerini ve rütbelerini aldı. Hitler'in ardından, kariyeri boyunca Himmler'le birçok kez karşı karşıya gelen Joseph Goebbels başkan oldu. Ayrıca Hermann Goering de Hitler tarafından vatan haini ilan edildi. Himmler bu olaylar yaşanırken, Reich Leader-SS (SS Lideri), Alman Polis Şefi, İçişleri Bakanıi, Volkssturm Komutanı (Nazi Almanyası'nın son aylarında savaşan birliklerden biri), Vatan Ordusu Komutanı  ve Almanya Hükümet Temsilcisi rütbelerine sahipti.

        Himmler'in, Kont Bernadotte ile yaptığı görüşmeler sonuç vermedi. Berlin'e de dönemeyeceği için Plön yakınlarında batı bölgesinin kuzeyinde savaşan ve o zaman bütün Alman kuvvetlerinin komutanı olan Amiral Kar Dönitz'e katıldı. Fakat Dönitz, Himmler'i derhan uzaklaştırdı ve kendisine Alman hükümetinde yer olmadığını söyledi.

        Himmler hayatta kalma çabalarını sürdürmeye devam ediyordu. Son çare olarak Amerika'ya iltica etmeye kalktı. General Dwight Eisenhower'ın karargahıyla temasa geçti ve Nazi lideri olarak mahkemeye çıkarılmaması halinde bütün Almanya'yı müttefiklere teslim edeceğini söyledi. Himmler'in akli dengesinin durumu Eisenhower'a yaptığı başvuruda savaş öncesi Almanya'da polis şefi olmak istediğini ve Eisenhower'a nazi selamı mı vermesi gerektiğini yoksa elini mi sıkması gerektiğini sormasıyla anlaşıldı. Eisenhower, savaş suçlusu olarak ilan edilen Himmler ile herhangi bir şekilde muattab olmayı reddetti.

        Himmler'in intiharının ardından birkaç iddialar ortaya sürüldü. Lüneburg'da intihar edenin Himmler olmadığı fakat ona çok benzeyen birinin Himmler için intihar ettiği iddia edildi. Daha sonra ODESSA (Organisation der ehemaligen SS-Angehörigen) (Eski SS Üyeleri Derneği) tarafından daha değişik ifadeler ortaya atıldı ve iddialar ilginç bir boyuta ulaştı. ODESSA'ya göre Himmler, Waldviertel yakınlarındaki ufak bir köy olan Strones'a kaçmıştı. Burası Alois Hitler'in doğum yeri olan Avusturya'da Viyana'nın kuzeyinde kalan bir yerdi. Buraya yerleştikten sonra sürgün edilen ve tekrar doğan bir SS birliğini yönettiği idda edildi.

        Himmler'in değil de bir ikizinin intihar ettiği iddiası Hugh Thomas tarafından 2001'de piyasaya sürülen SS-1: The Unlikely Death of Heinrich Himmler ( SS-1 Heinrich Himmler'in Şüpheli Ölümü) kitabında da yer buldu. Ayrıca kanıtlı bir şekilde. Thomas, Himmler'in otopsi kayıtlarının detaylı bir şekilde eksiksiz raporuna ulaştı. Bu raporda cesedin kulaklarındaki kıla kadar detaylar yazılmıştı da Himmler'in çocukluğunda eskrim yaparken yaralandığı sol yanağının altındaki belirgin yara izinden bahsedilmemişti bile.

        Aynı zamanlarda piyasaya sürülen ve Amerikalı Nazi yazarı Joseph Bellinger'ın kaleme aldığı "Himmler's Death" (Himmler'in Ölümü) kitabı, bu iddialara başka bir boyut kazandırdı. Teoriye göre Himmler, İngiliz ordusu tarafından 1945 yılının Mayıs ayında süikaste uğradı.

        Martin Allen'in kitabı "Himmler's Secret War" (Himmler'in Gizli Savaşı) da İngiliz arşivlerinden yola çıkarak buna benzer iddialarda bulundu. 

        David Irving de Himmler'in İngiliz soruşturmacılar tarafından dövülerek öldürüldüğünü ve ayrıca dövüldükten sonra burnunun da kırıldığını iddia etti.