Первый каменный Успенский собор простоял почти три столетия, но 8 июня 1501 года рухнул в страшном пожаре, охватившем центральную часть города: "Божиим попущением загореся Малый град Ярославль, и велицыи колоколи разлияшася аки вода у Пресвятой Богородицы, а иный больший колокол неприязнь снесе в реку Волгу и покровы церковные оловянные разлияшася аки вода, и церковь по Божию строению каменная разсыпашеся по самый порог церковный и кресты и дцки златые с верхов объимаше".
  Новый соборный храм начали возводить сразу после пожара. При расчистке фундамента от развалин произошло знаменательное событие: были обнаружены "в помосте церковном" два совершенно целых и невредимых гроба князей Василия (умер в 1249 году) и Константина (погиб 3 июля 1257 года в битве с ханскими отрядами на Туговой горе) Всеволодовичей. Когда захоронения открыли, то увидели - князья "аки вчера во гроб положены, ризы их аки же в сей час облочены, нетленны и невредимы, телеса их аки живы и до сего дни, толиками бо многими леты целы явишася".
  По вознесении хвалы князьям жители города намерились захоронить их в землю, но началась сильная буря: "молния велия и гром страшны блещающееся, и облацы дождевнии двигнушася, и дождь идяше непрестанно день и нощь две недели". Буйство стихии было воспринято горожанами как предупреждение свыше, поэтому мощи князей поставили на волжском берегу, и "бысть в той час тишина велика, и дожди пересташа, и громы и молнии утишишася". По повелению архиепископа Ростовского Тихона обретённые мощи временно перенесли в стоявшую поблизости от собора деревянную церковь Бориса и Глеба.
  После пожара 1501 года новый храм возводили "искусные" мастера, присланные по рспоряжению великого князя Ивана III из Москвы. Точная дата завершения строительства второго собора неизвестна, но осенью 1504 года Иван III приезжал в Ярославль и, по преданию, молился перед мощами святых князей, уже перенесёнными в новый собор "для общего благоговейного поклонения".
  К сороковым годам XVII века второй Успенский собор, "простояв сто сорок лет, по тесноте своих размеров" перестал удовлетворять потребностям динамично развивавшегося города.