Cerita hantu Fisher muncul dari peristiwa bersejarah yang pernah terjadi di Campbelltown, pada abad ke-19. Sekarang menjadi sebuah pusat penduduk kota besar di pinggiran baratdaya Sydney. Tapi pada waktu itu, tempat tersebut adalah sebuah pos pedesaan terpencil.
Dimulai pada tahun 1829, seorang petani Campbelltown bernama Fred Fisher tiba-tiba menghilang. Teman dan tetangganya, George Worrall mengklaim bahwa Fisher telah kembali ke Inggris, dan sebelum pergi ia memberikan Worrall wasiat terhadap properti dan barang-barangnya. Kemudian, Worrall mengklaim bahwa Fisher telah memberikannya catatan bahwa ia takkan kembali ke Australia, dan memberikan pertaniannya kepada Worrall.
Empat bulan setelah kehilangan Fisher, seorang warga lokal bernama John Farley, berlari ke dalam hotel setempat dalam keadaan sangat gelisah. Ia berkata pada penjaga yang terkejut bahwa ia telah melihat hantu Fred Fisher duduk di rel jembatan terdekat. Farley mengatakan bahwa hantu itu tidak bicara sepatah kata pun, tapi mengarahkan jarinya ke pedok di belakang sungai, sebelum tiba-tiba menghilang.
Awalnya cerita Farley ditanggapi biasa oleh masyarakat disana, tapi peristiwa yang mengelilingi kehilangan Fisher memunculkan dugaan sehingga pencarian polisi di tempat yang ditunjuk hantu tersebut dijalankan. Setelah pencarian dilakukan, mayat Fisher yang dibunuh ditemukan terkubur di tepi sungai. George Worrall pun ditahan atas kejahatannya, mengaku, dan dihukum gantung. Fred Fisher kemudian dikuburkan di pemakaman di St. Peter's Anglican Church di Campbelltown.
Dianggap bagi sejumlah orang bahwa cerita hantu ini hanyalah sebuah karangan yang dibuat oleh Farley sebagai jalan untuk menyembunyikan sumber spekulasi lain yang menyatakan sebenarnya Farley mengetahui di mana keberadaan mayat Fisher, tapi hal tersebut tak bisa dibuktikan. Catatan polisi dan pengadilan memang tidak menyebutkan cerita hantu. Tapi mereka juga menutup mulut tentang bagaimana pihak berwenang berhasil mengetahui di mana keberadaan mayat Fisher.
Legenda hantu Fisher sejak itu menjadi cerita rakyat terkenal, dan dirayakan pada Fisher's Ghost Festival tahunan di Campbelltown yang dilaksanakan awal hingga pertengahan November. Sungai di samping tempat penemuan mayat Fisher dikenal sebagai Fisher's Ghost Creek. Sekarang sudah diubah fungsi menjadi tempat penampungan air hujan.