Aarhus Gymnastikforening, cunoscut și sub numele de AGF Aarhus, a fost fondat în 1880 , în timp ce secțiunea de fotbal a fost adăugată în 1902 . Acesta participă la campionatul danez, ajungând la finala națională de trei ori în anii '20 , dar fiind învins aici de AB , Frem și KB .
AGF obține primele succese în anii cincizeci : condusă de ungurulGéza Toldi, echipa câștigă primul titlu în sezonul 1954-1955 și se repetă în sezonul următor ; în primul sezon primește o dublă . În virtutea victoriilor din campionat, el participă la două ediții ale Cupei Campionilor , dar fără a depăși niciodată prima rundă. Al treilea titlu danez a venit în sezonul 1956-1957 , sub îndrumarea lui Peter Vesterbak , care a câștigat a doua dublă. În runda preliminară a Cupei Europene 1957-1958 , AGF reușește să-i elimine pe nord-irlandezii din Glenavon , dar trebuie să-și întrerupă călătoria în runda a doua a evenimentului, după ce a întâlnit Sevilla .
Anii șaizeci s-au deschis cu al patrulea titlu și cu al treilea dublu, întotdeauna sub îndrumarea lui Toldi între timp revenit pe banca clubului; AGF participă la Cupa Europeană 1960-1961 și, după eliminarea Legia Varșovia și Fredrikstad, este eliminată în sferturile de finală de viitorii câștigători Benfica . În restul deceniului echipa a câștigat încă două cupe naționale în 1961 și 1965 , dar a retrogradat la sfârșitul campionatului din 1968 .
Anii șaptezeci nu sunt o perioadă bună pentru AGF: echipa le petrece între prima și a doua divizie. Un singur acut în campionatul din 1978 , când AGF este clasat pe locul trei și poate participa pentru prima dată la Cupa UEFA ; Bayern München elimină însă danezii în optimi.
Anii optzeci s-au deschis cu alegerea lui Lars Bastrup cafotbalist danez al anului în 1980 ; în rest AGF a cucerit câteva locuri bune în campionat, până în 1986 când, antrenat de Jürgen Wähling , a câștigat al cincilea titlu . Danezii ajung în optimi în următoarea Cupă Europeană , dar sunt eliminați din nou de Benfica. Înainte de sfârșitul deceniului, AGF a câștigat încă două cupe naționale în 1987 și 1988 . Datorită acestui ultim succes, el participă la Cupa Cupelor 1988-1989 și ajunge în sferturile de finală; aici este eliminat de viitorii câștigători ai trofeului, spaniolii din Barcelona .
Clubul a câștigat două cupe naționale în anii nouăzeci în 1992 și 1996 , devenind cea mai de succes echipă a evenimentului cu nouă trofee în total; în sezonul 1995-1996 clubul a obținut, de asemenea, un bun loc secund în Superliga.