Основная часть съёмок прошла в Чечено-Ингушетии под Грозным. Снимать картину в Чечне Никите Михалкову посоветовал танцор Махмуд Эсамбаев, друг семьи Михалковых и один из известнейших уроженцев тех мест. Он утверждал, что такой красивой натуры, как у него на родине, нет больше нигде. Кроме того, отец режиссёра, поэт Сергей Михалков, был народным депутатом от Чечено-Ингушской АССР.

Сцена расстрела предателя в ЧК взята из кинопроб. Актёр сначала в одной рубашке, через минуту в другой, сначала без бороды, потом с бородой.

Эпизод, в котором Каюм пытается сбросить Шилова с обрыва в реку, но в итоге сам оказывается в воде, снимался на реке Аргун. Константину Райкину надо было упасть с 12-метровой скалы в бурный водоворот. Перед съёмкой сцены долго не могли измерить глубину реки — шест сносило сильным течением. Тогда вместо шеста опустили стальной рельс. Показалось достаточно глубоко, но как выяснилось, рельс тоже снесло, и на самом деле глубина в том месте была около 2 метров. Температура воды в реке Аргун — 3 градуса. К счастью, съёмка эпизода обошлась без травм, сняли с первого дубля.

Константин Райкин вспоминает о сцене сплава Шилова с Каюмом на плоту по горной реке:

Во время съёмок мы тонули по-настоящему, прямо во время дубля. На Аргуне страшное течение: 12 метров в секунду, 40 с лишним километров в час! Попадаешь до колена в воду ногой, тебя тут же сбивает, словно дали подсечку, и уносит в водоворот. А вода — ледяная! С Аму-Дарьи был вызван специалист по плотам. Когда он соорудил нечто, все принялись нас тут же хоронить — по Аргуну плоты никогда не ходили. После съёмок в чеченской водичке у меня начался страшный фурункулёз.

Никита Михалков вспоминает о сцене ограбления поезда:

В обеденный перерыв группа каскадёров обсуждала сцену ограбления поезда: как надо прыгать на поезд, с какой скоростью он должен идти, как лошади должны скакать. И всё это долго, обстоятельно. А моя «банда» состояла вся из местных. Там был молодой такой красавец с пышными усами. Услышал он разговор, вскочил на коня, догнал поезд, который шёл в депо «на обед». Прыгнул с седла на поезд, потом обратно прыгнул в седло и, усмехаясь, вернулся на место. Каскадёров это подкосило абсолютно.

У меня много местных снималось. Отчаянные ребята. Приходят спрашивают: «Оружие вы будете давать, или нам своё принести?»

Построили мы массовку, рассчитали на первый-второй. Сказали: первые — пассажиры ограбленного поезда, вторые — разбойники. Чеченцы все из первых ушли в разбойники. Сказали: «Меня грабить? Вы что?» Для них это было оскорбительно.

На Никиту Михалкова едва не завели уголовное дело по обвинению во взяточничестве. Для съёмок в массовке были приглашены местные жители. Администратор объявил: «Нужно приходить с паспортом, конный — 10 рублей в день, пеший — 5». Разумеется, имелся в виду гонорар за съёмку, но актёры массовки, воспитанные в традициях местного менталитета, решили, что речь идёт о взятках за право на участие в съёмке. И вложили в свои паспорта — кто десятку, кто пятёрку. В результате режиссёр сумел отбиться от претензий ОБХСС только благодаря своему знаменитому отцу.

Когда эпизод с ограблением поезда был уже отснят, выяснилось, что практически вся отснятая плёнка с данной сценой оказалась бракованной. В начале ноября 1973 года в Чечне внезапно испортилась погода и выпал обильный снег. Снимать в таких условиях стало невозможно, и эпизод пришлось переснимать уже в Азербайджане в окрестностях Баку.

По сюжету Шилов должен был дать в ухо Лемке. Юрий Богатырёв категорически отказывался это делать, не желая причинять боль другому человеку. К уговорам режиссёра присоединился сам Александр Кайдановский, умоляя ударить его. В результате Никита Михалков не выдержал и закричал: «При чём тут ты? При чем тут Саша? Встречаются чекист и белогвардеец. Это единственное, что должно тебя интересовать!» Больше Богатырёв спорить не стал