Σύμφωνα με τον θρύλο, η Έφεσος ιδρύθηκε από τις Αμαζόνες και πήρε το όνομά της από τη βασίλισσα της φυλής. Λέγεται ότι οι Κάρες και οι Λελέγες ήταν οι πρώτοι κάτοικοι της πόλης. Ένας δεύτερος θρύλος υποστηρίζει ότι, αφού η πόλη έπεσε, ο Ανδροκλής, γιος του Κόδρου από την Αθήνα, την επανίδρυσε σε μια τοποθεσία που του υποδείχθηκε από ένα ψάρι και ένα αγριογούρουνο.
Τον 7ο αιώνα π.Χ. η περιοχή καταστράφηκε από την εισβολή των Κιμμερίων. Η ήττα του Λυδού βασιλιά Κροίσου από τον Κύρο, βασιλιά της Περσίας, επέτρεψε στην Περσία να προχωρήσει προς την Έφεσο. Οι ιωνικές πόλεις επαναστάτησαν εναντίον της Περσίας, αλλά η Έφεσος γρήγορα αποστασιοποιήθηκε από τις άλλες και έτσι ξέφυγε από την καταστροφή.
Τον 3ο αιώνα π.Χ. ο Μέγας Αλέξανδρος προσπάθησε να εκδιώξει τους Πέρσες από τη Μικρά Ασία. Η κυριαρχία του Αλεξάνδρου εγκαινίασε πενήντα χρόνια ειρήνης. Όταν πέθανε, ο Λυσίμαχος, ο οποίος είχε γίνει ένας από τους δώδεκα στρατηγούς που έγιναν ηγεμόνες ενός κράτους, αποφάσισε να αναπτύξει την πόλη. Κατασκεύασε ένα νέο λιμάνι, έχτισε αμυντικά τείχη και μετακίνησε ολόκληρη την πόλη λίγα μίλια νοτιοδυτικά της αρχικής της θέσης. Όταν οι Εφέσιοι δεν ήθελαν να φύγουν, ο Λυσίμαχος φράκαρε το αποχετευτικό σύστημα ώστε να πλημμυρίσει κατά τη διάρκεια μιας καταιγίδας και να κάνει τα σπίτια ακατοίκητα. Το 281 π.Χ. η πόλη επανιδρύθηκε (ξανά) και έγινε ένα από τα σημαντικότερα εμπορικά λιμάνια της Μεσογείου.
Το 129 π.Χ. οι Ρωμαίοι εκμεταλλεύτηκαν τους όρους της διαθήκης του βασιλιά της Περγάμου, η οποία άφηνε την επαρχία της Ασίας να κυβερνάται από τη Ρωμαϊκή Αυτοκρατορία. Εκείνη την εποχή η Έφεσος είχε πάνω από 200.000 πολίτες και ήταν μία από τις μεγαλύτερες πόλεις του κόσμου.
Τον 1ο αιώνα π.Χ., οι βαριοί φόροι από τη Ρώμη οδήγησαν τον Μιθριδάτη να ξεκινήσει ανταρσία κατά της ρωμαϊκής εξουσίας. Τρία χρόνια αργότερα ο Σύλλας οδήγησε σε σφαγή της πόλης και την επανέφερε στη ρωμαϊκή κυριαρχία.
Από τη βασιλεία του Αυγούστου και έπειτα χτίστηκαν τα περισσότερα από τα κτίρια που θαυμάζουμε σήμερα. Ένας σεισμός τον 1ο αιώνα μ.Χ. οδήγησε σε μεγάλη ανοικοδόμηση. Η Έφεσος έγινε ξανά ένα πολύ σημαντικό κέντρο εμπορίου και συναλλαγών και ένα κορυφαίο πολιτικό και πνευματικό κέντρο.
Από τον 1ο αιώνα μ.Χ. και έπειτα, η Έφεσος επισκεπτόταν από χριστιανούς μαθητές που προσπαθούσαν να διαδώσουν τη χριστιανική πίστη. Η Έφεσος ήταν ένα σημαντικό σημείο που βοηθούσε στη σύνδεση πολλών ανθρώπων ανάμεσα στην Ανατολή και τη Δύση. Είχε επίσης εξαιρετικά καλό κλίμα και η πόλη ήταν το κέντρο της λατρείας της Αρτέμιδος. Η πόλη, με τον ιδιαίτερα προχωρημένο τρόπο ζωής της, το υψηλό βιοτικό της επίπεδο, τον ποικίλο πληθυσμό της και την πολυθεϊστική της κουλτούρα, θα ήταν ιδανικό μέρος για να εργαστούν οι Χριστιανοί στον προσηλυτισμό.
Τόσο ο Άγιος Ιωάννης όσο και ο Άγιος Παύλος ήρθαν στην Έφεσο κατά τις ταξιδιωτικές τους διαδρομές. Ο Άγιος Παύλος συγκρούστηκε με τους ντόπιους ασημουργούς κατά την τρίτη επίσκεψή του στην πόλη. Οι τεχνίτες έφεραν χιλιάδες Εφέσιους στο θέατρο, όπου ο Παύλος κήρυττε, για να τον αποδοκιμάσουν και να λιθοβολήσουν τον Απόστολο. Ο Παύλος δικάστηκε και φυλακίστηκε πριν αναγκαστεί να φύγει από την πόλη.
Ο θρύλος λέει ότι και ο Άγιος Ιωάννης ο Ευαγγελιστής ήρθε στην Έφεσο μαζί με την Παναγία υπό την προστασία του. Κατά τη διάρκεια της παραμονής του εκεί, της έχτισε ένα σπίτι και κάποιοι πιστεύουν ότι εκεί έγραψε το Ευαγγέλιό του. Το 269 μ.Χ. η Έφεσος λεηλατήθηκε από τους Γότθους. Ο ναός της Αρτέμιδος καταστράφηκε. Ο ναός έκλεισε οριστικά με διαταγή του αυτοκράτορα Θεοδοσίου.
Το προστατευμένο λιμάνι στο μέσο των αιγαιακών εμπορικών δρόμων, σε συνδυασμό με τη χερσαία θέση στο δυτικό άκρο ενός μεγάλου χερσαίου εμπορικού δικτύου, βοήθησαν την πόλη να ευημερήσει. Ωστόσο, το λιμάνι που αρχικά έφερε στην πόλη τόσο μεγάλη επιτυχία ήταν επίσης σημαντικό μέρος της μετακίνησής της και τελικά της εγκατάλειψής της. Στον Μεσαίωνα το λιμάνι έδειχνε σημάδια παραμέλησης. Τα νερά με τη μεγάλη προσχώση προκάλεσαν απομόνωση από το εμπόριο που είχε βοηθήσει την πόλη να ακμάσει. Έφερε επίσης ελονοσιακή ασθένεια. Μέχρι την εποχή της βυζαντινής περιόδου το λιμάνι θα ήταν απροσπέλαστο.
Η νέα εξάπλωση του Χριστιανισμού οδήγησε στην εγκατάλειψη όλων των κτιρίων με πολυθεϊστικές συνδέσεις. Δύο Οικουμενικές Σύνοδοι πραγματοποιήθηκαν στην πόλη και από τον 6ο αιώνα και έπειτα η Εκκλησία του Αγίου Ιωάννη ήταν σημαντικός τόπος προσκυνήματος. Λίγο αργότερα, η Εκκλησία της Παναγίας και άλλοι χώροι λατρείας καταστράφηκαν σε αραβικές επιδρομές.
Τον 7ο αιώνα η πόλη μετακινήθηκε στην περιοχή που σήμερα καταλαμβάνει η κωμόπολη Σελτσούκ. Κατά τη βυζαντινή περίοδο η Έφεσος αναπτύχθηκε σταδιακά γύρω από την κορυφή του όρους Αϊασουλούκ. Κατά τον Μεσαίωνα η πόλη έπαψε να λειτουργεί ως λιμάνι. Εγκαταλείφθηκε και τελικά θάφτηκε από το φυσικό τοπίο.
Στις αρχές του 1900 οι αρχαιολόγοι που έψαχναν για τον Ναό της Αρτέμιδος άρχισαν να ανασκάπτουν την πόλη. Αρκετά σημαντικά γλυπτά και έργα τέχνης μεταφέρθηκαν στο Μουσείο του Λονδίνου ή στο Αυστριακό Αρχαιολογικό Ινστιτούτο. Οι ανασκαφές συνεχίζονται μέχρι σήμερα, με ευρήματα να μεταφέρονται στο Μουσείο της Εφέσου όχι πολύ μακριά από τον χώρο.
Έτσι η ιστορία της εφέσου δεν είναι σύντομη ιστορία.