Jako pierwsza słowa "Pecare" użył biskup krakowski Paweł z Przemankowa. Z dokumentu datowanego na 1277 rok wynika, że duchowny chciał utworzyć na tych terenach parafię z siedzibą w Kamieniu. Kolejne wspomnienia pochodzą z dokumentów datowanych na koniec XV wieku. Słowo "Piekary" zostało użyte zbiorze średniowiecznych dokumentów „Codex Diplomaticus Silesiae”
Przełomowy wiek XIV
Na terenie Piekar w XIV wieku rozpoczęto wydobywanie rud żelaza. Dzięki rozwojowi przemysłu miejscowość stawała się coraz bardziej rozpoznawalna, a w 1420 roku nazywano ją "Grosse Bäckern", czyli Wielkie Piekary. Od tego roku przez prawie 70 lat miejscowość często zmieniała właścicieli, należała do m.in. Macieja Korwina oraz Jana z Zierotyna. 13 grudnia 1498 roku miasto przejął Jan II Dobry. Dzięki niemu powstała komora celna, a miasto przeżyło potężny rozwój górnictwa. W roku 1623 decyzją Ferdynanda II Habsburga Piekary wraz z ziemią bytomską przekazane zostały bogatemu kupcowi ze Spisza Łazarzowi Henckelowi von Donnersmarckowi.
Wraz z przejęciem ziem przez Donnersmarcków w Piekarach zaczął rozwijać się kult maryjny. Ważnym wydarzeniem dla tego kultu był wybuch zarazy w Tarnowskich Górach w 1676 roku. Wówczas lokalni pielgrzymi modlili się przed obrazem Matki Bożej, a po powrocie do swojej miejscowości zaraza ustępowała. W 1680 roku miała miejsce podobna sytuacja, jednak tym razem w Pradze. Wówczas cesarz austriacki Leopold I Habsburg zwrócił się z prośbą o przywiezienie obrazu do jego kraju. Tym razem także po modlitwach pandemia ustała. Tym razem po cudownym uzdrowieniu arcybiskup praski Jan Fryderyk Waldstein urzędowo zatwierdził cudowność obrazu.
W 1702 roku z powodu walk religijnych obraz Matki Bożej wywieziony do kościoła w Opolu, gdzie mieści się do dziś. W Piekarach kult utrzymał się pomimo tylko obecnej tam repliki obrazu. Jedną z przyczyn była szeroka skala górnictwa na terenie Piekar.
Jedna z pierwszych akcji profilaktycznych
W budowie Kalwarii Piekarskiej ks. Fickowi przeszkodziła śmierć. Jednak w swoim testamencie prosił o jej kontynuację. Słowa byłego proboszcza wypełnił ks. Bernard Purkop. Jednak dopiero kolejnego proboszcza ks. Leopolda Nerlicha można uznać za "budowniczego" kalwarii. Symboliczny kamień węgielny pod budowę podłożono w 1887 roku. 21 czerwca 1896 kard. Georg Kopp dokonał uroczystej konsekracji Kalwarii Piekarskiej i Kościoła Kalwaryjskiego pw. Przemienienia Pańskiego. W taki właśnie sposób zakończył się proces formowania głównego ośrodka religijnego na Górnym Śląsku.
Pierwsza drukarnia na Górnym Śląsku
W I połowie XIX w., Teodor Heneczek wraz z Fickiem założył pierwszą na Górnym Śląsku drukarnię wydającą w języku polskim książki, modlitewniki i śpiewniki. Niemałym wkładem były starania proboszcza, by każdy pielgrzym mógł zabrać modlitewnik ze sobą do domu. Pierwsza oficyna była czynna w domu przy ul. Bytomskiej 145. W większości wydawane były treści o charakterze religijnym np. „Dziennik Górnośląski”oraz „Tygodnik Katolicki”. Działalność edytorską w drukarni prowadzili m.in.: Józef Lompa, Karol Miarka i Stanisław Czerniejewski.
Wojna i plebiscyt
Po nieudanym II Powstaniu Śląskim na terenie Piekar przeprowadzono plebiscyt. 86,58 proc. osób zapowiedziało się za pozostaniem w granicach państwa polskiego. Osobne głosowanie zorganizowano dla Szarleja, gdzie za pozostaniem w granicach opowiedziało się 66,6 proc. W 1922 utworzono województwo śląskie z pierwszym wojewodą Józefem Rymerem, "Wielkie Piekary" znalazły się w granicach powiatu świętochłowickiego.
Najazd na miasto nastąpił 1 września 1939 roku. Wojsko niemieckie skierowało się w kierunku dworca szarlejskiego i kopalni „Nowa Helena, powstańcom jednak udało się ich powstrzymać. Zarządzono wówczas ewakuację ludności cywilnej. Mieszkańcy uciekali w kierunku Łagiszy. Piątego dnia wojny grupa powstańców licząca ok 200 osób została rozbita przez Wehrmacht pod Miechowem.
Na mocy ustawy Sejmu Śląskiego z 10 lipca 1939 Piekary otrzymały ustrój miejski z dniem 1 stycznia 1940.Ustawa ta jednak nie została wprowadzona w życie z powodu okupacji niemieckiej. Ostatecznie 13 lutego 1947 roku miasto mogło ponownie powołać organy miasta - z mocą wsteczną od 1 stycznia 1947. Pierwszym burmistrzem został Jan Kolenda.