Маленький Андрей Громов попал в кино, как и многие юные советские актеры, чисто случайно. Он учился во втором классе обычной московской школы, когда к ним в класс пришли помощники режиссера Ильи Фреза, который искал мальчика, сыгравшего бы главную детскую роль в задуманной им ленте «Приключения желтого чемоданчика». Они отобрали несколько человек. В том числе и Андрея. «Вместе с мамой в назначенный день мы приехали на киностудию имени Горького, — вспоминал впоследствии Андрей Громов. — Там все напомнило мне поликлинику. Огромная очередь, в которой сидят напуганные родители с детьми. Подошел мой черед, я зашел в кабинет. За столом два режиссера — главный и второй. Меня попросили что-нибудь почитать, но я так перепугался, что напрочь забыл все серьезные стихи и басни, которые знал тогда в великом множестве. На ум пришло лишь шуточное «Робин-бобин-барабек, скушал сорок человек…». Мальчик прочел стишок и собирался уходить, однако его остановили и попросили повторить: «Только так, чтобы нам стало страшно, а потом — так, чтобы было смешно».

Через месяц в квартире Громовых раздался телефонный звонок: звали на фотопробы. Еще через месяц — на кинопробы. Прошел еще месяц, когда со студии Горького позвонили родителям Андрея и сообщили: «художественный совет утвердил вашего сына на главную роль в фильме «Приключения желтого чемоданчика». Так началась кинокарьера Громова. В картине его партнерами были Татьяна Пельтцер и Евгений Лебедев. Взрослые всячески помогали юному дарованию, подбадривали и смешили его. Фильм еще не вышел в кинопрокат, а Андрея пригласили в следующую картину, на этот раз в Одессу, где снимали короткометражку «Валерка, Рэмка + …» о двух друзьях-первоклассниках, влюбившихся в одну девочку. Андрей быстро стал популярным среди своих одноклассников, которые гордились им и уважали.

Но всенародно известным 10-летний паренек стал после «Офицеров». На роль мальчика утвердили без проб. Владимир Роговой знал его по «Приключениям желтого чемоданчика» (на съемках этого фильма он был вторым режиссером). «Офицеры» снимались по заказу Министерства обороны, поэтому на режиссере и актерах лежала особая ответственность. Все должны были играть безукоризненно и достоверно. У зрителей не должно было возникнуть и тени сомнения в том, что из суворовца Вани Трофимова вырастет настоящий офицер. Алина Покровская, игравшая его бабушку, рассказала потом, что все указания режиссера мальчик выполнял точно и был очень дисциплинированным. «В конце фильма есть эпизод с зоопарком — я опаздываю в училище и иду смотреть на бегемота, — вспоминал Андрей Громов. — Так вот, этот эпизод снимали по отдельности. Сначала отсняли бегемота. А потом привезли тяжеленную чугунную решетку, около которой должны были стоять я и еще человек десять — пятнадцать массовки. Решетка ничем не была укреплена, ее держали своим весом посетители импровизированного зоопарка. Отсняли эпизод, выключили камеру, актеры отходят от решетки, и… Эта громадина начинает заваливаться на меня. Хорошо, я успел отскочить в последний момент, а иначе пришлось бы переписывать сценарий».