Segundo a lenda, Éfeso foi fundada pelas Amazonas e recebeu o nome da rainha da tribo. Diz-se que os carianos e lelegianos foram os primeiros habitantes da cidade. Uma segunda lenda afirma que, após a queda da cidade, Androclo, filho de Codro de Atenas, a restabeleceu em um local que lhe foi mostrado por um peixe e um javali.
No século VII a.C., a região foi devastada pela invasão ciméria. A derrota do rei lídio Creso por Ciro, o rei da Pérsia, permitiu que a Pérsia avançasse sobre Éfeso. As cidades jônicas se rebelaram contra a Pérsia, mas Éfeso rapidamente se dissociou das demais e, portanto, escapou da destruição.
No século III a.C., Alexandre, o Grande, tentou expulsar os persas da Ásia Menor. O governo de Alexandre inaugurou cinquenta anos de paz. Quando ele morreu, Lisímaco, que havia sido um dos doze generais a tornar-se governante de um estado, decidiu desenvolver a cidade. Ele construiu um novo porto, ergueu muralhas de defesa e deslocou toda a cidade alguns quilômetros para sudoeste de sua localização original. Quando os efésios não quiseram partir, Lisímaco mandou bloquear o sistema de esgoto para que ele inundasse durante uma tempestade e tornasse as casas inabitáveis. Em 281 a.C., a cidade foi refundada (novamente) e tornou-se um dos portos comerciais mais importantes do Mediterrâneo.
Em 129 a.C., os romanos aproveitaram os termos do testamento do rei de Pérgamo, que deixava a província da Ásia sob o domínio do Império Romano. Nessa época, Éfeso tinha mais de 200.000 habitantes e era uma das maiores cidades do mundo.
No século I a.C., os altos impostos de Roma levaram Mitrídates a iniciar um motim contra a autoridade romana. Três anos depois, Sula liderou um massacre na cidade e a recolocou sob o domínio romano.
Foi a partir do reinado de Augusto que a maioria dos edifícios que admiramos hoje foi construída. Um terremoto no século I d.C. levou a uma grande reconstrução. Éfeso voltou a se tornar um centro muito importante de comércio e também um importante centro político e intelectual.
A partir do século I d.C., Éfeso foi visitada por discípulos cristãos que tentavam espalhar a fé cristã. Éfeso era um ponto importante que ajudava a conectar muitas pessoas entre o Oriente e o Ocidente. Também tinha um clima excepcionalmente agradável, e a cidade era o centro do culto de Ártemis. A cidade, com seu modo de vida altamente avançado, seu alto padrão de vida, sua população variada e sua cultura politeísta, teria sido um lugar ideal para os cristãos trabalharem na conversão.
Tanto São João quanto São Paulo vieram a Éfeso durante suas viagens. São Paulo entrou em conflito com os ourives locais em sua terceira visita à cidade. Os artesãos levaram milhares de efésios ao teatro, onde Paulo pregava, para vaiar e apedrejar o Apóstolo. Paulo foi julgado e preso antes de ser expulso da cidade.
Diz a lenda que São João Evangelista também veio a Éfeso com a Virgem Maria sob seus cuidados. Durante o tempo em que esteve ali, ele lhe construiu uma casa e alguns acreditam que foi ali que escreveu seu Evangelho. Em 269 d.C., Éfeso foi saqueada pelos godos. O templo de Ártemis foi destruído. O templo foi fechado permanentemente por ordem do imperador Teodósio.
O porto abrigado no meio das rotas comerciais do Egeu, combinado com a localização terrestre na borda ocidental de grandes rotas comerciais terrestres, ajudou a cidade a prosperar. No entanto, o porto que inicialmente trouxe tanto sucesso à cidade também foi uma parte importante de sua mudança e, por fim, de seu abandono. Na Idade Média, o porto apresentava sinais de abandono. A água fortemente assoreada causou isolamento do comércio que havia ajudado a cidade a florescer. Também trouxe a doença da malária. Na época bizantina, o porto teria se tornado intransitável.
A nova expansão do cristianismo levou ao abandono de todos os edifícios com ligações politeístas. Dois Concílios Ecumênicos ocorreram na cidade e, a partir do século VI, a Igreja de São João foi um importante local de peregrinação. Pouco depois, a Igreja da Virgem e outros locais de culto foram destruídos em ataques árabes.
No século VII, a cidade mudou-se para a área agora ocupada pela cidade de Selçuk. Durante a era bizantina, Éfeso cresceu gradualmente ao redor do topo do monte Ayasuluð. Durante a Idade Média, a cidade deixou de funcionar como porto. Foi abandonada e, por fim, sepultada pela paisagem natural.
No início dos anos 1900, arqueólogos em busca do Templo de Ártemis começaram a escavar a cidade. Várias esculturas importantes e peças de arte foram levadas ao Museu de Londres ou ao Instituto Arqueológico Austríaco. As escavações continuam até hoje, com artefatos sendo levados ao Museu de Éfeso, não muito longe do local.
Portanto, a história de Éfeso não é uma história curta.