Несмотря на неплохие огневые характеристики пистолета-пулемета системы Шмайссера обр. 1928 г. (MP 28), в 1930-х гг. стало очевидно, что он безнадежно устарел. Вскоре войска Вермахта полностью отказались от его использования, и уже к 1933 г. он сохранился лишь на вооружении полицейских формирований. Новый интерес к пистолетам-пулеметам у военных возник в ходе войны между Боливией и Парагваем в 1932–1934 гг. Это оружие отлично показало себя в скоротечных перестрелках на коротких дистанциях и в условиях уличных боев.
В условиях начавшегося ажиотажа проблему вооружения своих военизированных подразделений пистолетами-пулеметами практически каждое ведомство Германии пыталось решить по-своему. В результате, к 1939 г. наземные части Люфтваффе оказались вооруженными пистолетами-пулеметами MP 34, захваченными во время оккупации Австрии. Вермахт, проведя небольшую модернизацию, вернул на вооружение пистолет-пулемет системы Шмайссера обр. 1928 г., а войска СС и подчиненная им полиция обратили внимание на пистолеты-пулеметы системы Бергмана.
В качестве прототипа при создании своего нового пистолета-пулемета известный немецкий конструктор и промышленник Т. Бергман выбрал хорошо зарекомендовавший себя MP 28. В результате небольшой модернизации были выпущены две модели обр. 1934 г. (короткоствольный) и обр. 1935 г. (длинноствольный). Последний и был принят на вооружение частей СС и полицейских формирований под обозначением «Пистолет-пулемет системы Бергмана MP 35». Во время гражданской войны в Испании оружие Бергмана уже широко применялось как немцами, так и итальянцами.
Оружие, разработанное совместно Теодором Бергманом и Мюллером, было оснащено уникальной для своего класса деталью — рукояткой взведения, позаимствованной от карабина «Mauser» 98k. Перед первым выстрелом оружие следовало взвести, как и карабин. Во время стрельбы зарядная рукоятка оставалась неподвижной, механизм оружия был полностью закрыт, а каждая подвижная часть защищена от загрязнения.
Фирма-разработчик «Bergmann» по причине недостаточных производственных мощностей никогда не вела серийного выпуска своего пистолета-пулемета. Первую лицензию на серийное производство оружия получила датская фирма «Schultz & Larsen» — известный производитель спортивно-охотничьего оружия. Вооруженные силы Дании были в числе первых заказчиков пистолетов-пулеметов MP 35. Значительное количество этого оружия поставлялось в южноафриканские государства, а также в Эфиопию и Китай. К этому времени производство оружия этого типа давно было освоено в Германии на фирмах «Carl Walther» из Целла-Мелис (с 1934 г.) и «Junker und Ruh AG» из Карлсруэ (с 1935 г.).
Стрельба из MP 35, поставлявшихся на вооружение войск СС, велась стандартными патронами калибра 9 мм (9×19 «Parabellum»). На экспорт пистолеты-пулеметы системы Бергмана вы-пускались с возможностью использования 9 мм патронов «Bergmann-Bayard» и «Mauser», 7,63 мм патронов «Mauser», 7,65 мм «Parabellum» и даже американских .45 АСР.
Эти пистолеты-пулеметы с конструктивной точки зрения являются очень интересным оружием. Точность стрельбы из оружия Бергмана и надежность действия получили весьма высокую оценку. В то же время MP 35 унаследовал и большинство недостатков пистолета-пулемета системы Шмайссера обр. 1928 г. Ему не удалось избавиться от излишней громоздкости, большой массы и несбалансированности конструкции, усугубляемой расположением магазина слева. К тому же пистолеты-пулеметы «Bergmann» имели и ряд собственных недостатков, главным из которых являлась сложность конструкции, а также большие затраты времени и средств на производство.
В связи с начавшимся в 1938 г. массовым переходом всех вооруженных сил Германии на использование пистолета-пулемета системы Фольмера MP 38 выпуск MP 35 был прекращен. Всего за период с 1935 по 1938 г. было произведено около 40 000 единиц этого оружия.
Еще одним типом пистолета-пулемета, принятого на вооружение в Германии до появления самых массовых образцов MP 38 и MP 40, стал пистолет-пулемет ЕМР (ERMA Maschinen pistole). Эта модель была разработана задолго до постановки на вооружение — еще в середине 20-х гг. XX в. — на основе конструкции инженера Генриха Фольмера и запатентована в 1927 г. В конструкции этого оружия была использована предложенная Фольмером схема размещения возвратно-боевой пружины внутри телескопической системы трубок. Таким образом, обеспечивалась защита пружины от загрязнения и существенно повышалась надежность пистолета-пулемета в целом. Свое обозначение это оружие получило от названия фирмы-изготовителя ERMA (Erfurter Maschinenfabrik B. Geipel GmbH), основанной в октябре 1924 г. Директором предприятия был Бертольд Гейпель, который возглавлял закрытую после Первой мировой войны Королевскую винтовочную фабрику в Эрфурте.
Первое оружие Фольмера, представлявшее модификацию пистолета-пулемета Бергмана МР 18, производилось небольшими партиями на небольшой машиностроительной фабрике Фольмера в Биберахе. Рейхсвер официально отказался от этого оружия из-за версальских ограничений, а мелкие партии (общим объемом до 500 экземпляров) пистолета-пулемета Фольмера, проданные за границу, не удовлетворяли конструктора. После начала сотрудничества с Гейпелем ситуация изменилась, чему, впрочем, поспособствовал не только авторитет ERMA, но и возросшая заинтересованность германских военных в пистолетах-пулеметах. Вскоре было начато массовое производство пистолета-пулемета Фольмера, вначале под обозначением «Folmer-ERMA», а затем в модифицированном варианте как ERMA EMP. Именно последнее оружие послужило основой для разработки других моделей — МР 38 и МР 40, которые в больших количествах выпускались до конца Второй мировой войны.
Пистолет-пулемет Фольмера в 1925–1938 гг. выпускался в нескольких вариантах (включая выпущенные в Биберахе) — с различными предохранителями, формами ложа, с кожухом вокруг ствола или без него (вариант для танкистов), и несмотря на широкую рекламную кампанию лишь в ограниченном количестве состоял на вооружении немецкой полиции. Гораздо больший успех это оружие имело за границей. Так, пистолеты-пулеметы Фольмера в больших количествах закупались Францией, Югославией и странами Латинской Америки. В 1936–1939 гг. большие партии этих пистолетов-пулеметов были отправлены в Испанию для вооружения итальянских войск и частей германского легиона «Кондор». С 1940 г. в Испании было налажено лицензионное производство этого оружия.
В годы Второй мировой войны пистолет-пулемет ЕМР использовался также войсками СС для вооружения разведывательных подразделений. С началом Второй мировой войны войскам СС удалось пополнить свой арсенал за счет пистолетов-пулеметов EMP, захваченных в качестве трофеев у французской армии. Под обозначением MP 740 (f) эти трофейные пистолеты-пулеметы использовались и частями Вермахта. Пистолет-пулемет Фольмера изготавливался из материалов высокого качества, что неизбежно сказалось на его себестоимости. Его также отличали большая масса и не самый удачный прицел, не позволяющий вести прицельный огонь на дальние дистанции.