Самолет сразу начали изготавливать серийно на двух заводах, минуя испытания и довсцку, что первоначально сказалось на надежности бомбардировщика. В организации серийного производства активно участвовали директор завода В.А. Окулов, главный инженер завода А.А. Кобзарев, П.В. Дементьев. В это время В.М. Петляков был освобожден из-под стражи.
При испытаниях самолет достигал скорость 510 км/ч и успешно выполнял тестовые боевые задачи. Однако при посадке возникали трудности, связанные с управлением, что объяснялось не совсем удачным профилем крыльев самолета, с поверхности которого происходил несимметричный срыв потока, в результате чего машина «проваливалась». Следовало менять крыло, однако серию останавливать было нельзя и были приняты другие конструктивные решения, в связи с чем «строгость» в управлении при посадке осталась.
В начале 1941 г. коллектив создателей самолета Пе-2 получил денежную премию, а его руководитель – Сталинскую премию I степени.
Первые боевые полеты Пе-2 выявили необходимость разработки оборонительного вооружения (бронирование для стрелка-радиста) и переделки патронного ящика нижней стрелковой установки. В.М. Петляков в кратчайшие сроки выполнил эти доработки и, организовав на серийном заводе опытный цех, приступил к работе над модификацией самолета Пе-2, первой из которых была Пе-2М с поднятым крылом, что позволяло подвешивать под уширенным внизу фюзеляжем мощные бомбы по 500 кг и даже по 1000 кг. Второй модификацией явилась Пе-2ВБ в варианте высотного бомбардировщика. Всего за период войны авиационными заводами было выпущено 11427 самолетов марки Пе-2.
Существовала и выпущенная малой серией еще перед началом войны модификация Пе-3, которая в основном повторяла «сотку» и имела кроме стрелково-пушечного вооружения бомбовое вооружение и крупнокалиберные реактивные снаряды. Кроме того, самолет имел фотооборудование для воздушной разведки.
Два полка 6-го авиакорпуса ПВО, вооруженные истребителями Пе-3, воевали под Москвой, проводя успешные штурмовые действия против вражеских войск. Два других полка Пе-3 особой морской авиационной группы под командованием генерал-майора А.Г. Петрухина воевали на морских театрах военных действий против кораблей а портовых сооружений врага.
Наши бомбардировочные полки, вооруженные самолетами Пе-2, успешно выполняли боевые задачи. Немецкие истребители несли естественные потери. Так, 5 октября 1941 г, экипаж Пе-2 под командованием комиссара авиаэскадрильи старшего лейтенанта Б.К. Горслихина принял неравный бой с девятью фашистскими истребителями Me-109, в ходе которого сбил три вражеских самолета. Боевые действия на Пе-2 тесно связаны с именем известного летчика Героя Советского Союза генерал-майора авиации И.С Полбина.
Бесстрашные удары по врагу прославили нашу бомбардировочную авиацию. Так, в дни Сталинградской битвы активные боевые действия вели экипажи 150-го бомбардировочного полка под командованием И.С. Полбина. Советские пикировщики Пе-2 прорвались днем к немецкому бензохранилищу а районе хутора Морозовский. Несмотря на то что бензохранилище было тщательно замаскировано и усиленно охранялось зенитной артиллерией, на втором заходе бомбардировщики зажгли резервуары с горючим, оставив немецкие танки без топлива. В битве на Кубани и под Курском самолеты Петлякова громили артиллерию, склады боеприпасов, танки и бронемашины врага, уничтожали эшелоны с воинскими грузами.
Пикирующие бомбардировщики Пе-2 воевали от начала до конца войны. В конце апреля 1945 г. группа этих самолетов под командованием М.Воронкова и А. Якобсона провели точечную бомбардировку взлетно-посадочной полосы в центре Берлина, предназначенную для бегства руководителей третьего рейха, и полностью вывели ее из строя.
На самолетах Пе-2 воевали летчицы 125-го гвардейского авиационного полка имени М. Расковой, которые начали свой боевой путь на Волге, а окончили в Восточной Пруссии.
Самолет Пе-2 выполнял и неожиданные задачи, например, Герой Советского Союза А. Смирнов вывез на нем из окружения пять летчиков-истребителей, оставшихся без самолетов, разместив по двое в кабинах пилота и стрелка-радиста и одного в бомболюке.