Im Alter von ein paar Monaten wurde das Heimatdorf Barzan von den Hamidiye-Reitern, eine aus kurdischen Stammeskriegern und kurdischen Kommandeuren bestehende Armee der Osmanen, überfallen und er mit seiner Familie nach Diyarbakir deportiert, wo er lange im Gefängnis blieb. Mit 12 Jahren sah er, wie sein älterer Bruder Abdulselaam in Mosul gehängt wurde. 1919 beteiligte er sich als Junge am Aufstand von Scheich Mahmud Berzenci gegen die Briten. Als Gesandter seines Bruders Scheich Ahmed Barzani hatte er Kontakt zu Scheich Said. Zwischen 1932 und 1943 lebte er oft im Exil.

Seine politische Laufbahn begann 1939, als er in Kontakt mit der kurdisch-nationalen Hiwa-Partei trat, die ihrerseits Interesse an einer Zusammenarbeit mit Barzani hatte, um Einfluss auf das traditionelle Stammesmilieu zu gewinnen. 1943 erhob sich Barzani, der jetzt offizieller Führer seines Aşirets war, gegen die irakische Zentralregierung. Bei der Gründung der KDP 1946 wurde er zum Präsidenten der Partei gewählt.