Das Städtische Archiv befand sich bis 1617 im Rathaus und anschließend im Kanzleigebäude. Als 1740 ein neues Rathaus gebaut wurde, wurde dort auch das Archiv untergebracht. Nach dem Ende der Reichsstadt 1803 musste die Verwaltung und mit ihr das Archiv in den Neuen Bau umziehen. Dabei gerieten die Archivbestände sehr durcheinander.
Der Archiv-Ordnungs-Commissär Johann Georg Eben ordnete im Jahr 1830 das Archiv neu und erschloss die Bestände durch ein dreibändiges Repertorium. Dabei wurden allerdings auch wichtige Akten ausgeschieden und vernichtet.
1971 wurde das Archiv noch einmal neu geordnet. Es wurde ein eigener Urkundenbestand gebildet. Der Aktenbestand nach 1810 sowie die Amtsbücher wurden durch ein modernes Repertorium erschlossen.
Ab 1845 war das Archiv wieder im Rathaus untergebracht. Im Frühjahr 2002 bezog das Stadtarchiv ein eigenes Gebäude in der Leutkircher Altstadt.
Nach jahrelanger ehrenamtlicher Betreuung ist das Stadtarchiv seit April 1993 gemeinsam mit dem Stadtarchiv Isny hauptamtlich mit einer Diplom-Archivarin (FH) besetzt.