La banda fue formada en 2009 por Tyler Joseph, Nick Thomas y Chris Salih.
En el 2011 Josh fue a un show de Twenty One Pilots . El estaba impresionado con su presentacion, mas tarde conoce al vocalista Tyler Joseph e inician una amistad.
A mediados del 2011, Thomas y Salih abandonaron la banda debido a su apretada agenda y Joseph se unió con Dun. Ambos publicaron su despedida en la página oficial de la banda.
Josh dejó su trabajo para tocar en un show con Tyler. Tocó una cancion antes de que la policía cancele el show. Ese día se convirtió en un miembro oficial de Twenty One Pilots
