Agrimensor, Lübke aderiu ao Partido Democrata-Cristão (CDU) em 1945 e, dois anos depois, foi nomeado ministro do Abastecimento e Agricultura do estado da Renânia do Norte-Vestefália (até 1952). Por muitos anos, foi membro do parlamento, e de 1953 a 1959, foi ministro federal do Abastecimento, Agricultura e Exploração Florestal. Em 1959, Konrad Adenauer desistiu da candidatura à presidência, e Lübke foi eleito chefe de Estado em substituição a Theodor Heuss. Cinco anos mais tarde, foi confirmado no cargo apoiado pelo Partido Social-Democrata (SPD). Buscou soluções para os problemas econômicos do Terceiro Mundo. Na política interna, a partir de 1961, defendeu a formação da coligação CDU/SPD, realizada em 1966. Seu sucessor foi Gustav Heinemann.