Hierdie artikel bevat nie ’n bronnelys nie, wat beteken dat die inhoud nie geverifieer kan word nie. Enige bevraagtekende inligting mag dus ook mettertyd verwyder word. Help Wikipedia deur betroubare bronne tot die artikel by te voeg.
Werknemers van die optiese fabriek Carl Zeiss het in 1903 die klub gestig as Fußball-Club der Firma Carl Zeiss. In 1911 is die naam verander na Fußball-Club Carl Zeiss Jena e.V. en in 1917 na 1. Sportverein Jena e.V.
Teen die einde van die Tweede Wêreldoorlog is alle Duitse sportverenigings deur die Geallieerdes ontbind, maar in 1946 is die klub heropgerig as SG Ernst Abbe Jena. Hierna het die klub, soos soveel Oos-Duitse sokkerklubs, verskeie naamsveranderings ondergaan totdat die huidige naam in 1966 aangeneem is. Hierna het die klub groot sukses op die sokkerveld behaal.
Na die Duitse eenwording het Jena in die 2. Bundesliga begin en gesamentlik 2de geëindig met 1. FC Saarbrücken, maar in die eindronde van die uitspeelwedstryde om promosie was hulle onsuksesvol.