Zuse começou a trabalhar numa calculadora por ele mesmo inventada enquanto estudava Engenharia. Ao Z1, um instrumento de cálculo completado em 1938, seguiu-se a primeira calculadora programável de base eletrônica (Z3). O aparelho trabalhava apoiado num sistema binário, tinha 192 bytes e podia realizar as quatro operações básicas e raízes quadradas. Durante a Segunda Guerra Mundial, a máquina foi atingida por uma bomba, com o que Zuse caiu no esquecimento. Durante muito tempo, a invenção do computador foi atribuída ao americano Howard Aiken pelo seu Mark I. Em 1949, Zuse fundou em Neukirchen a Zuse Kg, empresa dedicada ao fabrico de calculadoras eletrônicas. Apesar de estar na origem de mais de 50 patentes e de ser responsável pelo desenvolvimento da primeira calculadora (1955), Zuse não teve sorte na vertente comercial e desligou-se da empresa em 1964. Três anos mais tarde, a empresa seria adquirida pela Siemens. Em 1970, Zuse escreveu uma autobiografia, O Computador: a Obra da Minha Vida (1970).