Η εμφάνιση αθλητικών αγώνων ως θεσμού στην Ολυμπία τον 8° αι. π.Χ. αποτελεί την αναγέννηση πολλών Μυκηναϊκών εθίμων και συνηθειών μέσα στη νέα εποχή που ήλθε μετά την πτώση του Μυκηναϊκού κόσμου.
Οι αγώνες έχουν στοιχεία της μυκηναϊκής λατρείας των ηρώων, καθώς και των επιτάφιων άθλων που διοργάνωσε ο Αχιλλέας, όπως αναφέρει ο Όμηρος, προς τιμήν του νεκρού φίλου του Πατρόκλου.
Πάνω από όλα, όμως, η Ολυμπιάδα ήταν μια θρησκευτική γιορτή και όχι απλώς μια σειρά αθλητικών εκδηλώσεων, όπως συμβαίνει σήμερα.
Η παλαιότερη και ισχυρότερη αρχαία παράδοση για την ίδρυση των Ολυμπιακών Αγώνων αναφέρεται σε κάποιο ποιητικό έργο του 7ου ή 6°oυ αι. π.Χ (μάλλον του Ησιόδου). «Ηοίαι» ή «Γυναικών κατάλογοι» και θεωρεί ως ιδρυτή των αγώνων τον Φρύγα πρίγκιπα Πέλοπα, ο οποίος νίκησε σε αρματοδρομία τον βασιλιά της Πίσας Οινόμαο, πήρε την κόρη του Ιπποδάμεια ως σύζυγο και έγινε βασιλιάς μιας μεγάλης περιοχής δίνοντας το όνομα του σε όλη την Πελοπόννησο.
Μια άλλη παράδοση λέει ότι ιδρυτής των Ολυμπιακών Αγώνων ήταν ο Ιδαίος Ηρακλής. Καταγόταν από την Κρήτη και είχε 4 αδελφούς, τους Δακτύλους ή Κουρήτες, οι οποίοι αναφέρονται ως οι εφευρέτες της σιδηρουργίας, με καταπληκτικές τεχνικές ικανότητες. Σε αυτούς είχε αναθέσει η Ρέα τη φύλαξη του νεογέννητου Δία στο βουνό Ίδη της Κρήτης, ώστε να τον προστατέψουν από τον πατέρα του Κρόνο, ο οποίος έτρωγε όλα του τα παιδιά. Ο μύθος αναφέρει ότι ο Ιδαίος Ηρακλής επισκέφτηκε με τους αδελφούς του την Ολυμπία. Το γεγονός αυτό δείχνει τις εμπορικές σχέσεις τις οποίες διατηρούσαν οι δύο πόλεις και εξηγεί γιατί οι αγώνες αυτοί ήταν αφιερωμένοι στο θεό Δία. Για να διασκεδάσει με τους αδελφούς του, μέτρησε μία απόσταση με τα βήματά του και την ονόμασε στάδιο. Τα αδέλφια του έτρεξαν στο στάδιο. Αυτός που τερμάτισε πρώτος ανακηρύχτηκε νικητής. Το βραβείο, το οποίο έδωσε ο Ιδαίος Ηρακλής στον νικητή, ήταν ένα στεφάνι αγριελιάς και σύμφωνα με αυτό το μύθο θεωρείται και ο πρώτος διοργανωτής των «Ολυμπίων».Η μεν πρώτη άποψη για τον Πέλοπα αποδίδεται στους Πισάτες, τους παλαιότερους μυκηναίους κατοίκους της περιοχής, η δε δεύτερη για τον Ηρακλή, στα νέα δωρικά φύλα που κατέκτησαν την Ήλιδα και εγκατέστησαν στην Ολυμπία το δικό τους θεό, τον Δία, που έγινε ο μεγάλος θεός του ιερού και των αγώνων.