De allerførste olympiske lege blev holdt tilbage i 776 f. Kr. i Olympia. Ifølge legenden optrådte atleterne foran Zeus selv. Konkurrencer varede indtil 394 f. Kr., indtil de blev forbudt af kejser Theodosius I. Den nye olympiske bevægelse - den, som alle kender i dag - begyndte i 1896 i Athen.
I det 18. århundrede, under arkæologiske udgravninger i Olympia, opdagede forskere gamle sportsfaciliteter. Men arkæologer ophørte snart med at studere dem. Og kun 100 år senere sluttede tyskerne sig til undersøgelsen af de opdagede genstande. På samme tid begyndte de for første gang at tale om muligheden for at genoplive den olympiske bevægelse.
Den vigtigste inspirator for genoplivningen af den olympiske bevægelse var den franske baron Pierre de Coubertin, der hjalp tyske forskere med at studere de opdagede monumenter. Han havde også sin egen interesse i udviklingen af dette projekt, da han mente, at det var den svage fysiske træning af de franske soldater, der forårsagede deres nederlag i den fransk-preussiske krig. Derudover ønskede baronen at skabe en bevægelse, der ville forene unge mennesker og hjælpe med at etablere venskabelige forbindelser mellem forskellige lande. I 1894 gav han udtryk for sine forslag på den internationale kongres, hvor det blev besluttet at afholde de første olympiske lege i deres hjemland, Athen.
De første spil blev en reel opdagelse for hele verden og blev afholdt med stor succes. I alt 241 atleter fra 14 lande deltog i dem. Succesen med denne begivenhed inspirerede grækerne så meget, at de foreslog, at Athen var stedet for OL permanent. Imidlertid afviste den første internationale olympiske komité, der blev grundlagt to år før starten på de første lege, denne idé og besluttede, at det var nødvendigt at etablere rotation mellem stater for retten til at være vært for hvert fjerde år.
De Internationale Olympiske Lege blev afholdt fra 6. til 15. april 1896. Kun mænd deltog i konkurrencen. 10 sportsgrene blev lagt til grund. Disse er klassisk brydning, cykling, gymnastik, atletik, svømning, skydning, tennis, vægtløftning, hegn. I alle disse discipliner blev der spillet 43 sæt medaljer. De græske olympier blev lederne, amerikanerne var på andenpladsen, tyskerne modtog bronzen.
Arrangørerne af de første spil ønskede at gøre dem til en amatørkonkurrence, hvor professionelle ikke kunne deltage. Ifølge medlemmerne af IOC-udvalget har de atleter, der har en væsentlig interesse, i første omgang en fordel i forhold til amatører. Og dette er ikke retfærdigt.