При приближении советских войск к Софии Нжде отказался покинуть Болгарию; свой поступок он мотивировал тем, что не желал подставлять под удар свою организацию и к тому же надеялся на то, что СССР вскоре объявит войну Турции, и Нжде сможет принять в этой войне непосредственное участие. После вступления советских войск он написал письмо с этим предложением главнокомандующему советскими войсками в Болгарии генералу Фёдору Толбухину.
Сотрудничество Нжде с нацистами привело к его аресту советской военной контрразведкой в Болгарии. Гарегин Нжде был выявлен и арестован контрразведчиками как часть агентурного дела абвергруппы-114 («Дромедар»). Арест Нжде предваряло задержание болгарской полицией, основанием для которого являлось обвинение о связях с немецкой разведкой. Сотрудниками СМЕРШ были задержаны 17 из 30 подготовленных им диверсантов, что предотвратило совершение диверсионно-террористических актов. Остальные были объявлены в розыск.
12 октября был арестован СМЕРШ и направлен в Москву, во внутреннюю тюрьму МГБ на Лубянке, откуда в 1946 году был переведён в Ереванскую тюрьму. Нжде был обвинён в контрреволюционной деятельности, прежде всего в участии в «антисоветском» восстании в Зангезуре и массовых убийствах коммунистов во время этого восстания (это обвинение его крайне возмущало, так как ещё в 1921 году зангезурским повстанцам была объявлена амнистия). К нему применяли пытки бессонницей, но не физическое воздействие. Главным пунктом обвинения был «расстрел в Татеве», ставший уже важной частью советской антидашнакской пропаганды — утверждалось, что после занятия Гориса Нжде расстрелял, а частью живыми сбросил с Татевской скалы до 400 пленных коммунистов и красноармейцев. Сам Нжде отрицал обвинения в убийствах коммунистов, утверждая, что расстреляны были пленные турки из отряда Завал-паши, переодетые в красноармейскую форму, при том без его ведома, по инициативе местного населения.
Поскольку в 1947 году в СССР была отменена смертная казнь, 24 апреля 1948 года Нжде был приговорён к максимальному наказанию — 25 годам тюремного заключения. Был направлен во Владимирскую тюрьму.
В марте 1952 года Гарегина Нжде второй раз привезли в Ереван. Летом 1953 года, перед тем как перевести Нжде во Владимирскую тюрьму, по распоряжению министра госбезопасности Армянской ССР Гарегина Нжде повезли на автомашине показывать Ереван, возведённые постройки, различные достопримечательности.
В разные периоды Нжде был заключён в московские тюрьмы: Бутырку, Лефортово, Красную Пресню; при переводе из Еревана во Владимирскую тюрьму на короткое время оставался в тюрьмах Баку, Саратова, Куйбышева, Ростова, до смерти Нжде продержали в течение года в тюрьме и больнице в Ташкенте (лето 1953 — сентябрь 1955).
От множества болезней (туберкулёз, гипертония) в 1954 году здоровье Гарегина Нжде ухудшилось до такой степени, что руководство тюремной больницы приняло решение о его досрочном освобождении из тюрьмы, но Нжде не был освобождён.
В сентябре 1955 года его вновь отправили во Владимирскую тюрьму, где он умер 21 декабря того же года.