Stolen Babies se formó a partir de un grupo universitario de interpretación musical, llamado "The Fratellis", compuesto por más de 12 integrantes. El nombre del grupo tiene su origen en uno de los sketches realizados por el grupo durante esta época (escrito por Dominique Persi, quien realizó la estética teatral del grupo. Stolen Babies lanzaron su primer Demo en 2002, a través de su propia distribuidora, No Comment Records.

Entre las múltiples influencias del grupo (pese a que ellos odian este...