Kanuni Sultan Süleyman Han, İran Seferine giderken, Harşit Çayı kenarında mola verdi. Buradaki tabiî güzelliğe hayran kaldı. Bu bölgede “gümüş” mâdeni de bulunduğunu öğrenince buraya bir şehir kurulsun ve ismi “Gümüşhâne” olsun dedi. Sultan’ın emri üzerine burada bir câmi (Süleymâniye Câmii) ve etrâfında 50 ev inşâ edilerek Gümüşhâne’nin temeli atıldı. Gümüşhâne’nin kurucusu Kânûnî Sultan Süleyman'dır.