Pravi izvori o nastanku starovjekovnih Olimpijskih igara su izgubljeni u vihorima vijekova, ali kruže mnoge legende i predaje o njihovom nastanku. Jedna legenda govori da je Igre ustanovio sam Zeus kao proslavu svoje pobjede, u bici za vlašću, nad ocem Kronom. Druga kaže da je Heraklo, rimski: Herkules, jednom pobijedio na nekoj trci u Olimpiji pa je odlučio da se na taj spomen svake 4 godine održavaju takve trke.
Međutim, osim Igara u Olimpiji održavale su se i druge “konkurentne”, slične Igre. To su bile Pitijske, Nemejske i Istmijske Igre, ali su Olimpijske igre, spletom političkih okolnosti, nadvladale 572. godine prije Hrista. Sve te priče u svezi sa starovjekovnim Igrama dovode nas u vezu sa starogrčkim pojmom Olimpijskog primirja, kada su, prema legendama, grčke državice prekidale međusobna neprijateljstva za vrijeme trajanja Igara (kamo sreće da je tako i danas). A prvi vjerodostojan zapis o održavanju Igara u Olimpiji datira iz 776. godine prije Hrista, premda nije sigurno da su to bile i prve Igre u staroj Grčkoj. Neki istoričari su skloni zaključiti da su se slična takmičenja sporadično održavala čak i od XIII vijeka prije Hrista! Isprva su Igre bile uglavnom događaj lokalnog značaja, a do XV starovjekovnih Olimpijskih igara održavala se samo jedna disciplina – trka na 1 stadijum (nešto manje od 185 m). Onda je dodana trka na 2 stadijum, a prva dugoprugaška trka, na 24 stadijuma (cca 4420 m), održana je 720. prije Hrista. Baš uz te Igre vezana je i jedna zanimljivost. Isprva su se sportisti takmičili obučeni u laganu sportsku opremu, kao danas. A onda su, na tim Igrama, tokom trke, jednom trkaču – spale hlačice i nastavio je trčati gol. To je od ostalih atleta ubrzo objeručke prihvaćeno pa su se takmičari od tada takmičili goli. Ubrzo se počeo povećavati i broj sportova: 748. godine uveden je pankraton (kombinacija boksa i hrvanja), 708. klasično hrvanje i petoboj, 688. šakanje (kao današnji boks), 680. godine trke kočija, itd, itd. Bilo kako bilo, (Olimpijske) Igre postaju sve važniji momenat u istoriji stare Grčke, dostižući svoj vrhunac tokom 6-og i 5-og vijeka prije Hrista.
Olimpijske su igre takođe imale velik vjerski značaj, održavane su u slavu vrhovnog boga Zeusa kojem je podignut veličanstveni kip u Olimpiji. Broj disciplina ubrzo je narastao do dvadesetak, a same su se Igre održavale nekoliko dana. Olimpijski su pobjednici uskoro postali osobe sveopšteg poštovanja, prilikom povratka u rodni grad, ako je trebalo, rušili su se i dijelovi gradskih bedem da bi s pratnjom mogli ući, te bi bili ovjekovječeni kroz pjesme, predaje i podizali bi im se kipovi, a njihovi uspjesi bili su i materijalno nagrađivani (raznorazne beneficije, oslobođenje od poreza, itd). Ustalio se ritam održavanja Igara – svake četiri godine, a vrijeme između prošlih i budućih Igara prozvan je Olimpijadom. Stari su Grci te periode – Olimpijade koristili i kao jednu od metoda brojanja godina.
Igre su polako gubile važnost tokom Rimske vladavine nad Grčkom iako su i tada imale veliki ugled i značaj. Priča se čak da je sam Rimski car Tiberije maštao o naslovu i časti Olimpijskog pobjednika, a i car Neron je rado posjećivao olimpijska borilišta. Međutim s jačanjem hrišćanstva, a pogotovo kad je ono postalo državnom religijom (391. godine) Olimpijske igre su sve više smatrane slavljenjem paganskih božanstava i ostacima paganskih rituala, pa je konačno 393. godine Rimski car Teodosije ukinuo Olimpijske igre, zaključujući tako gotovo 12-viječnu istoriju ovog veličanstvenog sportskog događanja.