طبق افسانه، افسوس بهدست آمازونها بنیانگذاری شد و نامش را از ملکه آن قبیله گرفت. گفته میشود کاریها و لِلِگیها نخستین ساکنان شهر بودند. افسانهای دیگر ادعا میکند که پس از سقوط شهر، آندروکلوس، پسر کدرُسِ آتن، آن را در مکانی که ماهی و گرازی به او نشان دادند، دوباره بنا کرد.
در قرن هفتم پیش از میلاد، این منطقه بر اثر حملهٔ کیمریها ویران شد. شکست کرزوس، پادشاه لیدیه، از کوروش، پادشاه ایران، به ایران اجازه داد بهسوی افسوس پیشروی کند. شهرهای ایونیه علیه ایران شورش کردند، اما افسوس بهسرعت خود را از دیگران جدا کرد و بنابراین از ویرانی گریخت.
در قرن سوم پیش از میلاد، اسکندر کبیر تلاش کرد ایرانیان را از آسیای صغیر بیرون براند. حکومت او پنجاه سال صلح را به ارمغان آورد. پس از مرگ او، لوسیماخوس، که یکی از دوازده سرداری بود که فرمانروای یک دولت شدند، تصمیم گرفت شهر را توسعه دهد. او بندری جدید ساخت، دیوارهای دفاعی بنا کرد و تمام شهر را چند مایل جنوبغربیتر از مکان اصلی آن منتقل کرد. وقتی افسوسیان حاضر به ترک شهر نشدند، لوسیماخوس دستور داد سامانهٔ فاضلاب مسدود شود تا هنگام طوفان شهر را آب بگیرد و خانهها غیرقابل سکونت شوند. در سال ۲۸۱ پیش از میلاد، شهر دوباره تأسیس شد و به یکی از مهمترین بندرهای تجاری مدیترانه تبدیل گردید.
در سال ۱۲۹ پیش از میلاد، رومیان از مفاد وصیتنامهٔ پادشاه پرگامون، که به موجب آن استان آسیا تحت فرمانروایی امپراتوری روم قرار میگرفت، بهره بردند. در آن زمان افسوس بیش از ۲۰۰٬۰۰۰ شهروند داشت و یکی از بزرگترین شهرهای جهان بود.
در قرن اول پیش از میلاد، مالیاتهای سنگین روم باعث شد میتریداتس علیه اقتدار روم شورش کند. سه سال بعد، سولا کشتاری در شهر به راه انداخت و آن را دوباره تحت حکومت روم درآورد.
از دوران حکومت آگوستوس به بعد، بیشتر ساختمانهایی که امروزه تحسین میکنیم ساخته شدند. زمینلرزهای در قرن اول میلادی به بازسازی گستردهای انجامید. افسوس بار دیگر به مرکز بسیار مهم تجارت و بازرگانی و نیز مرکزی برجسته برای سیاست و اندیشه تبدیل شد.
از قرن اول میلادی به بعد، شاگردان مسیحی که میکوشیدند باور مسیحی را گسترش دهند، از افسوس دیدن کردند. افسوس نقطهای مهم بود که به ارتباط میان مردم شرق و غرب کمک میکرد. همچنین آبوهوایی استثنایی داشت و شهر مرکز آیین آرتمیس بود. این شهر، با شیوهٔ زندگی بسیار پیشرفته، سطح بالای زندگی، جمعیت متنوع و فرهنگ چندخدایی خود، مکانی ایدهآل برای فعالیت مسیحیان در زمینهٔ تغییر دین مردم بود.
هم سنت یوحنا و هم سنت پولس در جریان سفرهای خود به افسوس آمدند. سنت پولس در سومین دیدارش از شهر با نقرهکاران محلی درگیر شد. صنعتگران هزاران نفر از افسوسیان را به تئاتری آوردند که پولس در آن موعظه میکرد تا با هو کردن و سنگباران، آن رسول را برانند. پولس محاکمه و زندانی شد و سپس مجبورش کردند شهر را ترک کند.
افسانه میگوید سنت یوحنای بشارتدهنده نیز همراه با مریم مقدس، که سرپرستی او را بر عهده داشت، به افسوس آمد. او در مدت اقامتش در آنجا خانهای برای مریم ساخت و برخی باور دارند که انجیل خود را در همانجا نوشت. در سال ۲۶۹ میلادی، گوتها افسوس را غارت کردند. معبد آرتمیس ویران شد. معبد به دستور امپراتور تئودوسیوس برای همیشه تعطیل شد.
بندرگاه امنی که در میان مسیرهای تجاری دریای اژه قرار داشت، همراه با موقعیت زمینی شهر در لبهٔ غربی یکی از مسیرهای بزرگ تجاری خشکی، به رونق شهر کمک کرد. بااینحال، همان بندری که در ابتدا چنین موفقیتی برای شهر به ارمغان آورده بود، بعدها عامل اصلی جابهجایی شهر و سرانجام متروک شدن آن نیز شد. در قرون وسطی، بندر نشانههایی از بیتوجهی را نشان میداد. آبهای بهشدت گلولایگرفته باعث انزوای شهر از تجارتی شد که به شکوفایی آن کمک کرده بود. این وضعیت همچنین بیماری مالاریا را به همراه آورد. تا زمان دورهٔ بیزانس، بندر دیگر غیرقابل عبور شده بود.
گسترش تازهٔ مسیحیت به ترک همهٔ ساختمانهایی انجامید که با باورهای چندخدایی ارتباط داشتند. دو شورای جهانی کلیسا در این شهر برگزار شد و از قرن ششم به بعد، کلیسای سنت یوحنا مکانی مهم برای زیارت بود. اندکی بعد، کلیسای مریم مقدس و دیگر عبادتگاهها در یورشهای اعراب ویران شدند.
در قرن هفتم، شهر به منطقهای منتقل شد که امروزه شهر سلجوک در آن قرار دارد. در دورهٔ بیزانس، افسوس بهتدریج در اطراف قلهٔ کوه آیاسولوغ گسترش یافت. در قرون وسطی، شهر دیگر بهعنوان بندر فعالیت نمیکرد. این شهر متروک شد و سرانجام در چشمانداز طبیعی مدفون گردید.
در اوایل دههٔ ۱۹۰۰، باستانشناسانی که در جستوجوی معبد آرتمیس بودند، شروع به حفاری شهر کردند. چندین مجسمه و اثر هنری مهم به موزهٔ لندن یا مؤسسهٔ باستانشناسی اتریش منتقل شدند. کاوشها تا امروز ادامه دارد و آثار کشفشده به موزهٔ افسوس، که چندان از محوطه دور نیست، منتقل میشوند.
بنابراین تاریخ افسوس، تاریخ کوتاهی نیست.