Основание церкви Михаила Архангела относится ко времени начала Ярославского княжества. Первое упоминание о храме содержится в житии ярославских князей Василия и Константина, составленном иноком Пахомием около 1530
года: "Князь Великий Константин Всеволодович в меньшем своём граде Ярославле, на своём дворе, церковь построи каменную Успения Пресвятые Богородицы, в лето 6723 (1215), и того ж де лета заложи церковь иную в большом граде, у врат,
брусяную, собор Архистратига Михаила, и соверши её того ж де лета".
В храме хранилась рукопись конца XVII века, в которой сообщались сходные сведения: "Церковь святого Архистратига Михаила первоначально сооружена была на сем месте брусчатая близ ворот, потом от церкви наименованных
Архангельскими, великим князем Константином Всеволодовичем, в бытность его княжения в Ярославле, в лето от Рождества Христова 1213, освящена в 1216 году и стояла та церковь 79 лет".
Если придерживаться этой версии, то деревянный храм был воздвигнут еще до сооружения первого каменного Успенского собора в Рубленом городе.
В 1295 году, по той же рукописи, на месте первого храма "святого благоверного, великого князя Фёдора Ростиславича вторая его супруга, дочь ордынского царя Ногая (по некоторым сведениям дочь хана Менгу-Тимура), княгиня Анна,
созда новую Архистратига Михаила церковь и в ней честную Богоматери икону постави и украси её златом и серебром, и камением другим... наименовав оную церковь Соборною".