El Museo se encuentra sobre el lugar donde nacieron los Juegos Olímpicos y donde se celebraron durante más de 1000 años. Cada 4 años se enciende aquí la llama olímpica y es llevada a cada nueva ciudad de albergar los juegos.
El Museo tiene restos de los frontones del templo de Zeus, que albergaba una de las 7 maravillas del mundo, la estatua de Zeus, que estaba esculpida en marfil y los detalles de oro eran de oro macizo. Tenía una altura de 12 metros y desapareció totalmente en el siglo V d.d.C.
La antigua ciudad de Olimpia está en ruinas, aunque están marcados los lugares que ocupaban los templos, altares y tesoros. También se puede ver el lugar que ocupaba el antiguo Estadio Olímpico