Nace en Berlin el 29 de enero de 1953. En 1971 es incluído en la formación de Tangerine Dream como batería, sustituyendo a Klaus Schulze, junto a Edgar Froese y Christopher Franke. Posteriormente aprendió a tocar los sintetizadores y a componer dentro del grupo.
El caso de Baumann es llamativo. Constituye la historia de cómo un teclista hippy de berlín, casi anónimo en sus inicios, se convierte en un magnate de los negocios discográficos en Estados Unidos, fundando la todopoderosa Private...