Engineers se formó en Londres en 2003. El sonido de la banda es a menudo descrito como una mezcla de psicodelia, shoegaze, post-rock e indie, aunque ellos mismos afirman que sus influencias van desde Cocteau Twins a Curtis Mayfield.

Firmaron con el sello discográfico Echo, con la que la banda grabó y editó Folly en septiembre de 2004 donde se incluían los singles "Come in Out of the Rain" y "Forgiveness" (que la banda volvería a grabar para su álbum debut), así como una versión de Tim...