FK Željezničar 1921ean sortu zuten trenbideetako langileek, Željezničar izenak "trenbidetako langileak" esan nahi du hain zuzen ere. Ez zuen ordea emaitza aipagarrik izan harik eta 1971ean Jugoslaviako ligan bigarren egin eta hurrengo urtean Liga txapeldun bihurtu zen arte. 1981ean Kopako finalera ere iritsi zen baina FK Velež Mostarrek 3-2 irabazi zion. Bolada onai jarraiki 1984ean UEFA Kopako final erdiak jokatu zituen. Oraingoan Videoton FC hungariarrak utzi zuen finaletik kanpo.
Bosniako gerra amaitu ondoren 1998an liga berria sortu zen, momentuz ez ofiziala izan zena eta Željezničarrek irabazi zuen. 2000-01 denboraldian abiatu zen Bosnia-Herzegovinako futbol liga ofiziala eta Željezničar izan zen lehen bi ekitaldietako txapelduna. Azken urteetan beste hiru liga irabazi ditu eta txapelketa gehien irabazi dituen taldea da, azken titulua ordea 2013koa du. 2016-17 denboraldian bigarren egin du, txapeldunarengandik puntu bakarrera gelditu da.
Bosnia-Herzegovinan: 15
aldatu
- Liga (6): 1998, 2001, 2002, 2010, 2012, 2013.
- Kopa (6): 2000, 2001, 2003, 2011, 2012, 2018.
- Superkopa (3): 1998, 2000, 2001.