Переход к мирной жизни после окончания гражданской войны потребовал глобальной перестройки работы и всей системы органов судебного управления. Настало время опираться не на принцип революционной целесообразности, а на принцип законности. В 1921 г. три системы революционных трибуналов (гражданские, военные и транспортные) были объединены.

28 мая 1922 г. была создана Государственная Прокуратура РСФСР, в губерниях прокурорский надзор вводился с 1 августа 1922 г. На конец октября того же года Смоленский СовНарСуд представлял собой большой и сложный механизм, состоявший из 67 судебных и 45 следственных участков. Руководил его деятельностью председатель И. А. Сякин.

Дальнейшие преобразования в работе судебной системы Смоленской губернии связаны с претворением в жизнь судебной реформы 1922 г., установившей так называемую трехчленную систему суда, состоявшую из народных судов, губернского суда и Верховного суда республики. Она преследовала цель ликвидировать раздвоение советской юстиции и повысить роль народного суда. В соответствии с «Положением о судоустройстве РСФСР», принятым в ноябре 1922 г. и вводившимся в действие с 1 января 1923 г., были ликвидированы Смоленский губюст, СовНарСуд, Губревтрибунал и особые Сессии нарсудов в уездах губернии.

К этому времени в стране существовала довольно громоздкая судебная система, состоявшая из более десятка звеньев. Было очевидно, что она нуждается в реформировании. Кроме того, деятельность губернских органов юстиции и суда была ограничена и контролировалась другими советскими организациями, широко использовались методы внесудебных репрессий и администрирование. Назрела острая потребность в создании новой судебной системы.

Смоленский губернский суд начал свою работу 2 января 1923 г. Его председателем был назначен Ф. Ф. Гайшпуйт. На 1 октября 1923 г. в губсуде числилось 136 судебных работников, 66 народных судей и 42 народных следователя. Структура губсуда была следующей: пленум, уголовный отдел ссудебным и кассационным отделениями, канцелярия, информационно-статистическая часть, хозяйственная часть, следственная часть, бухгалтерия. 4 января 1923 г. в составе гражданского отдела было образовано нотариальное отделение, которое стало выполнять обязанности государственной нотариальной конторы г. Смоленска. Перед отделением, кроме того, ставилась задача создания сети государственных нотариальных контор в губернии. К 1 октября 1923 г. в Смоленской губернии уже насчитывалось 11 государственных нотариальных контор. Уголовный и гражданский отделы возглавляли заместители председателя суда. Пленум включал всех членов губсуда и рассматривал сложные дела, возникавшие из-за неясности применения законов по тем или иным делам. Смолгубсуд занимался разъяснением сложных вопросов законодательства в связи с поступавшими от уездно-следственных органов вопросами, рассматривал уголовные и гражданские дела и кассации по ним, участвовал в работе земельных комиссий, комиссий по делам несовершеннолетних и другими вопросами. Большое внимание он уделял совершенствованию судебного аппарата в губернии, повышению квалификации работников, расстановке кадров, контролю за работой народных судов, следователей, судебных исполнителей.