Entrevistas com membros do Guns N' Roses sugerem que entre 1994 e 1996, a banda começou a escrever esporadicamente e gravar novo material. Na época, a banda tinha a intenção de lançar um único álbum com 10 ou 12 canções.
Em dezembro de 1994, o Guns N' Roses lançou uma gravação cover dos Rolling Stones, "Sympathy for the devil".
A canção apareceu na trilha sonora do filme Entrevista com o Vampiro e também foi lançada separadamente como um single. É o final do Guns N' Roses com Slash na guitarra, Duff McKagan no baixo e Matt Sorum na bateria. Ele também incluiu Paul Huge na guitarra rítmica.
Em 1995, Slash sentou com Rose e os outros integrantes da banda para apresentar gravações e demos de músicas e riffs de guitarra compostos por ele. O estilo das gravações era semelhante ao estilo do Appetite For Destruction. Axl rejeitou o projeto de Slash, alegando que as gravações não eram fortes o suficiente para serem lançadas em um álbum e não se encaixava em seus planos para a banda. Duff McKagan também não aprovou as músicas. Slash estava organizando a sua banda, o Slash's Snakepit. Pouco tempo depois, Axl chama Slash para conversar e diz que mudou de ideia a respeito das gravações de decide gravar as músicas para lançar em um álbum, porém Slash já havia lançado as músicas com o Slash's Snakepit. O álbum foi batizado de "It's Five O' Clock Somewhere", o episódio teria deixado Rose bastante irritado.
A
gravação de "Sympathy for the Devil", bem como a tensão entre ele e Rose, levou Slash a deixar a banda oficialmente em Outubro de 1996. Ele foi substituído pelo guitarrista de turnê do Nine Inch Nails, Robin Fink em janeiro de 1997, que assinou um contrato de dois anos com a banda em agosto de 1997 tornando-o um membro oficial. Matt Sorum foi demitido em abril de 1997 e, em seguida, o baixista Duff McKagan se demitiu em agosto de 1997. Como tal, todos os membros que participaram na gravação de Appetite for Destruction (com exceção de Rose) saíram da banda.
Várias exibições foram apresentadas nas saídas por vários membros da banda (atuais e antigos). Em 1994, Rose realizou uma conferência de imprensa com o seu novo elenco. Em 1994, ele fez um dueto com o cantor e guitarrista conterrâneo Bruce Springsteen em um cover da música dos Beatles, "Come Together"
McKagan foi o último da linha deAppetite a sair, renunciando como baixista em agosto de 1997, sendo substituído mais tarde em 1998 por Tommy Stinson (ex-The Replacements).
Sorum foi substituído por Chris Vrenna por um tempo curto em abril-maio de 1997, seguido brevemente pelo Pod, e finalmente por Josh Freese , no verão de 1997.
Até o final de 1998, uma nova versão do Guns N' Roses surgiu: muitos músicos vieram e se foram da banda nova, mas o grupo central incluiu Rose, Stinson, o tecladista Dizzy Reed e o multi-instrumentista Chris Pitman.
