Prema legendi, Efes su osnovale Amazonke i dobio je ime po kraljici tog plemena. Kaže se da su Karijanci i Lelegijanci bili prvi stanovnici grada. Druga legenda tvrdi da je nakon pada grada Androkl, sin kodrusa Atinskog, ponovo osnovao grad na mestu koje su mu pokazali riba i vepar.
U 7. veku p. n. e. oblast je razorila invazija Kimerijaca. Poraz lidijskog kralja Kreza od Kira, kralja Persije, omogućio je Persiji da napreduje ka Efesu. Jonijski gradovi su se pobunili protiv Persije, ali se Efes brzo odvojio od ostalih i stoga izbegao uništenje.
U 3. veku p. n. e. Aleksandar Veliki je pokušao da protera Persijance iz Male Azije. Aleksandrova vladavina donela je pedeset godina mira. Kada je umro, Lizimah, koji je bio jedan od dvanaest generala koji su postali vladari države, odlučio je da razvije grad. Izgradio je novu luku, podigao odbrambene zidove i pomerio ceo grad nekoliko milja jugozapadno od prvobitne lokacije. Kada Efežani nisu hteli da odu, Lizimah je blokirao kanalizaciju kako bi se tokom oluje izlila voda i učinila kuće nenastanjivim. Godine 281. p. n. e. grad je ponovo osnovan i postao jedna od najvažnijih trgovačkih luka na Sredozemlju.
Godine 129. p. n. e. Rimljani su iskoristili odredbe testamenta pergamskog kralja, kojim je provincija Azija ostavljena da bude pod vlašću Rimskog carstva. U to vreme Efes je imao preko 200.000 stanovnika i bio je jedan od najvećih gradova na svetu.
U 1. veku p. n. e., visoki porezi iz Rima naveli su Mitridata da započne pobunu protiv rimske vlasti. Tri godine kasnije Sula je predvodio masakr u gradu i vratio ga pod rimsku vlast.
Od vladavine Avgusta nadalje izgrađena je većina građevina kojima se danas divimo. Zemljotres u 1. veku n. e. doveo je do velike obnove. Efes je ponovo postao veoma važno središte trgovine i razmene i vodeći politički i intelektualni centar.
Od 1. veka n. e. nadalje, Efes su posećivali hrišćanski učenici koji su pokušavali da šire hrišćansko verovanje. Efes je bio važno mesto koje je pomagalo da se povežu mnogi ljudi između Istoka i Zapada. Takođe je imao izuzetno prijatnu klimu i grad je bio središte kulta Artemide. Grad, sa svojim visoko razvijenim načinom života, visokim životnim standardom, raznovrsnom demografijom i politeističkom kulturom, bio je idealno mesto za hrišćane da rade na obraćenju.
I Sveti Jovan i Sveti Pavle došli su u Efes tokom svojih putovanja. Sveti Pavle se sukobio s lokalnim srebrarima tokom svoje treće posete gradu. Zanatlije su dovele hiljade Efežana u pozorište, gde je Pavle propovedao, da izvižde i kamenuju Apostola. Pavle je bio suđen i zatvoren pre nego što je primoran da napusti grad.
Legenda kaže da je Sveti Jovan Bogoslov takođe došao u Efes sa Devicom Marijom pod svojom brigom. Tokom boravka tamo izgradio joj je kuću i neki veruju da je tu napisao svoje Jevanđelje. Godine 269. n. e. Efes su opustošili Goti. Artemidin hram je uništen. Hram je trajno zatvoren po naredbi cara Teodosija.
Zaštićena luka usred egejskih trgovačkih puteva, u kombinaciji sa kopnenim položajem na zapadnom rubu velikih kopnenih trgovačkih puteva, pomogla je gradu da napreduje. Međutim, luka koja je prvobitno donela gradu takav uspeh bila je i veliki deo njegovog preseljenja i konačnog napuštanja. Do srednjeg veka luka je pokazivala znake zapuštenosti. Zbog velike količine nanosa u vodi grad je bio izolovan od trgovine koja mu je pomogla da procveta. To je takođe donelo malariju. Do vizantijskog doba luka bi bila neprohodna.
Novo širenje hrišćanstva dovelo je do napuštanja svih građevina sa politeističkim vezama. Dva vaseljenska sabora održana su u gradu i od 6. veka nadalje Crkva Svetog Jovana bila je važno mesto hodočašća. Ubrzo potom, Crkva Device Marije i druga bogoslužna mesta uništeni su u arapskim napadima.
U 7. veku grad se preselio u područje koje danas zauzima grad Selčuk. Tokom vizantijskog perioda Efes je postepeno rastao oko vrha planine Ayasuluð. Tokom srednjeg veka grad je prestao da funkcioniše kao luka. Napušten je i na kraju zatrpan prirodnim pejzažom.
Početkom 1900-ih arheolozi koji su tragali za Artemidinim hramom počeli su da otkopavaju grad. Nekoliko značajnih skulptura i umetničkih dela preneto je u Londonski muzej ili u Austrijski arheološki institut. Iskopavanja se nastavljaju do danas, a artefakti se odnose u Muzej Efesa nedaleko od lokaliteta.
Dakle, istorija Efesa nije kratka istorija.