Послепожарный ампирный особняк с мезонином, построенный в 1820-х годах, стал третьим владением Ивана Алексеевича Яковлева в районе Арбата и Пречистенки. Дом был куплен им в 1839 году у генерала Сергея Алексеевича Тучкова специально для своего сына Александра Герцена. В старом доме, названном «Тучковским», писатель жил с семьей с сентября 1843 до отъезда за границу в январе 1847 года. В разное время владельцами этого дома были: актриса Императорских московских театров Аграфена Тимофеевна Сабурова (в 1826 — начале 1830-х гг.); генерал и стихотворец Сергей Алексеевич Тучков (в 1835 — 1839 гг.); Егор Иванович Герцен, сводный брат писателя (в 1849 — 1863); последняя владелица Т. А. Лопухина (в 1870 −1912 гг.). Дом сохраняется в неприкосновенном виде со времен его перестройки в 1892 году, утратив видимые черты ампира. В октябре 1968 года Исполкомом Моссовета принято решение об организации Музея А. И. Герцена на правах филиала Государственного Литературного музея в доме на Сивцевом Вражке, № 27.