Последняя предвоенная реорганизация внутренних войск была осуществлена в начале 1941 г. Указом Президиума Верховного Совета СССР от 3 февраля 1941 г. НКВД СССР был разделен на Наркомат внутренних дел и Наркомат государственной безопасности. В связи с этим произошли изменения в структуре войсковых главков. Главные управления войск НКВД по охране железнодорожных сооружений и по охране особо важных предприятий промышленности слились в одно Главное управление. Советское правительство, укрепляя оборону страны, приняло необходимые меры по ограждению страны от происков врага. 4 марта 1941 г. в составе войск НКВД было сформировано самостоятельное управление оперативных войск под руководством генерал-лейтенанта П.А. Артемьева численностью 41986 чел. Выделение оперативных войск из общей системы НКВД позволило значительно поднять качество служебно-оперативной деятельности по борьбе со шпионами и диверсантами противника. Таким образом, история создания, развития и служебно-боевой деятельности внутренних войск в 1922-1941 гг. неразрывно связана со становлением и упрочением Советского государства, укреплением его Вооруженных Сил и правоохранительных органов. Внутренняя и внешняя политика руководства страны в этот период отразилась на формах и методах строительства внутренних войск, определила их организационную структуру и нормативную базу, задачи и содержание служебно-боевой деятельности.
Одной из важных задач внутренних войск в рассматриваемый период была борьба с бандитизмом. С 27 января 1921 г. руководящим центром этого ответственного направления стала Центральная межведомственная комиссия по борьбе с бандитизмом. В целях скорейшего искоренения бандитских налетов и вооруженных ограблений, Государственному политическому управлению декретом ВЦИК от 16 октября 1922 г. предоставлялось право внесудебной расправы вплоть до расстрела бандитов, взятых с поличным на месте преступления. Проблема бандитизма в стране неоднократно обсуждалась в высших партийных и государственных органах. Приказом РВСР и ГПУ от апреля 1923 г. борьба с мелкими бандгруппами возлагалась на милицию, органы и войска Государственного политуправления, а с крупными бандформированиями - на армейские части в районах их дислокации, как это имело место в Таджикистане и Туркмении. Очаги бандитизма отмечались на Северном Кавказе, Дальнем Востоке и в Средней Азии. Для наведения революционного порядка применялись различные методы, вплоть до объявления отдельных местностей неблагополучными в криминальном отношении с вытекающими из этого действиями военных и гражданских властей.
В борьбе с бандитизмом в Сибири, Забайкалье и на Дальнем Востоке успешно действовали 80 Якутский дивизион и 9 Сибирский полк. Отвагу и самоотверженность в борьбе с бандгруппами проявили воины 2 Дальневосточного кавполка. Павшие смертью храбрых командир взвода В. Реут, красноармейцы Н. Иваненков и А. Потанин были зачислены навечно в списки указанного полка приказом ОГПУ от 4 марта 1929 г., что положило начало этой памятной традиции во внутренних войсках. Широкомасштабные операции по борьбе с бандитизмом проводились на Кавказе. Только в Азербайджане в 1930 г. было уничтожено 207 банд. В Чеченской автономной области в 1925 г. было изъято 25 тыс. винтовок, задержано 300 бандитов. Упорную борьбу с басмачеством в Средней Азии вели внутренние войска и части Красной Армии. В середине 20-х годов там было ликвидировано 123 банды. Решительный удар по басмачеству в Таджикистане был нанесен весной 1931 г. в ходе боев подразделении 10 полка ОГПУ и красноармейских частей, разгромивших трехтысячный отряд басмачей во главе с Ибрагим-беком. Ликвидация очагов бандитизма в стране способствовала снижению криминальной обстановки и упрочению советской власти на местах.
Охрана промышленных предприятий и железнодорожного транспорта была предметом особой заботы Советского государства. Декретом ВЦИК и СНК СССР от 10 июня 1920 г. выполнение этих задач возлагалось на милицию НКВД РСФСР за исключением охраны стратегически важных железных дорог, охрана которых осуществлялась войсковыми подразделениями. Кроме того, наркому внутренних дел разрешалось создавать вооруженные сторожевые команды для охраны учреждений и складов, однако эта мера властей оказалась малоэффективной и не нашла широкого применения. Вместо них за счет предприятий и ведомств, в 1924 г. начали создаваться специализированные отряды милиции (ведомственная милиция), которые выполняли охранные функции на предприятиях вплоть до 1927 г. Внутренние войска до указанного периода к охране объектов привлекались в исключительных случаях.
Для усиления борьбы с диверсиями, предотвращения террористических актов на военно-стратегических объектах постановлением СНК СССР от 15 апреля 1927 г. был определен порядок их охраны. Двумя другими постановлениями от 12 мая 1927 г. создавалась военизированная охрана (ВОХР), предназначенная для охраны предприятий и сооружений, в том числе и военных заводов. При этом необходимо отметить, что важнейшие предприятия и сооружения страны подразделялись на две категории, в зависимости от которых им выделялась войсковая или военизированная охрана. Выполнение этих ответственных задач потребовало увеличения численности внутренних войск на 10520 чел. В их состав были переданы части Красной Армии, охранявшие объекты Военпрома и Азнефти. Правительство страны постепенно вырабатывало наиболее приемлемые принципы: функционирования ОГПУ. Это сокращение численности личного состава за счет оснащенности охраняемых объектов специальными средствами и улучшение качества несения караульной службы военнослужащими. В декабре 1928 г. в составе войск ОГПУ находилось 8920 бойцов, военизированная охрана насчитывала 15950 чел. В последующие три года их численный состав претерпел незначительные изменения.