Макаров считал, что Россия должна иметь три флота: на Балтике, на Черном море и на Дальнем Востоке. Адмирал предупреждал о войне с Японией, к которой нужно серьезно подготовиться. Руководители царского правительства проигнорировали его слова. Русский флот оказался плохо подготовлен к войне.
Когда положение Тихоокеанского флота стало тяжелым, 1 февраля 1904 года Макарова назначили его командующим, давно настаивавшего, что его место — на Востоке. Менее чем за два месяца вице-адмирал поднял дух личного состава и подготовил флот к боевым действиям, организовал регулярную разведку, усилил оборону крепости с моря. Он лично руководил отражением атак японских миноносцев, выходами эскадры навстречу противнику и не допускал безнаказанного обстрела флота и крепости. Степан Осипович конфликтовал с высшим начальством, потому не раз поднимал вопрос о своей отставке с должности командующего флотом. Например, он требовал срочной посылки в Порт-Артур миноносцев, но ему отказали «по техническим причинам».
31 марта 1904 Макаров погиб на подорвавшемся на мине броненосце «Петропавловск». Некоторые военные историки говорят об оплошности самого Макарова, принявшего ночью расставляющие мины вражеские корабли за свои. Потрясение от его гибели было столь сильным, что даже в столице враждующей Японии прошла траурная демонстрация. Популярный поэт Исикава Такубоку посвятил Макарову стихи, назвав его доблестным противником. А вот Николай II, узнав о трагедии, спокойно отправился на охоту.
Спустя год после гибели «Петропавловска» японские водолазы обнаружили носовую часть судна на глубине 36 м и останки шести русских моряков. Среди находок была и шинель Макарова. Погибших похоронили с почестями на военном кладбище Порт-Артура 24 июня 1913 года.