До ареста Олейников казался вполне вписанным в советскую конъюнктуру писателем: он практически не публиковал явно тянувших на обвинение в формализме взрослых стихов (за исключением раскритикованного цикла 1934 "Памяти Козьмы Пруткова"), зато издавал детские книги о гражданской войне и революции, писал в соавторстве с Евгением Шварцем сценарии, ему была заказана биография Ленина для школьников. 

Страшно жить на этом свете,
В нём отсутствует уют, —
Ветер воет на рассвете,
Волки зайчика грызут,

   Репрессирован он был не за литературу. Олейников попал под разработанное в восточном отделении контрразведывательного отдела НКВД групповое дело "троцкистской шпионско-террористической и вредительской группы", которое затронуло многих писателей и ученых, связанных рабочими и дружескими отношениями. Ключевыми были показания близкого друга Олейникова, протеже Николая Бухарина, филолога-япониста Дмитрия Жукова, из которого выбили признания, подведшие под расстрел и его самого, и Олейникова.

  Оба они были расстреляны в числе 50 "японских шпионов", вместе с писателями Сергеем Безбородовым, Абрамом Серебрянниковым, Вольфом Эрлихом в один день, 24 ноября 1937 года. Всего в тот день в Ленинграде расстреляли 719 человек. Их приговорили к высшей мере наказания по 5 протоколам особой тройки УНКВД ЛО (219 человек), 3 спискам "польских шпионов" (254 человека), 1 списку "немецких шпионов" (97 человек), 1 списку "эстонских шпионов" (99 человек), 1 списку "японских шпионов" (50 человек)   

   Вернулись мы <из Токио> только через два года. В одиннадцать вечера вдруг задребезжал звонок. <…> Пришел Коля Олейников <…>. Мы распиваем "пол-литра", и нам уже не так страшно, что мы в этом хмуром, голом, голодном, нашем Питере. С тех пор мы трое прилепились друг к другу, да так, что почти не разлучались до самого того последнего срока...

<…>

Олейников стал приходить к нам чуть ли не каждый день <…> они с Митей тихо пили и пели. Тогда Сталин изрек свое бессмертное: "Дело чести, дело славы, дело доблести и геройства". И вот они тянули эти слова под "Эй, ухнем!", протяжно, умильно <…>: один хмыкнет, другой ухмыльнется. "Герой-ства! Э-э-э-х". <…> После ареста Мити он вдруг позвонил: "Все остается как было. Как дружили, так и будем дружить". Струсить — он не мог себе этого позволить!

   Олейников знал меня с 1929 года и в достаточной мере был осведомлен о том, что в прошлом (с 1927) я примыкал к троцкистской оппозиции. В неоднократных разговорах по злободневным политическим вопросам мы оба высказывали резкое недовольство политикой партии по основным принципиальным вопросам.

"Никогда не забуду нашу последнюю встречу незадолго до его ареста. Он шел мне навстречу с каким-то человеком, тот отступил в сторону, а Олейников подошел ко мне и сказал: "Наступает ужасное время",— и очень скоро его арестовали".

Приезжает грязная машина. <…> Выходят два человека и спрашивают: "Олейников есть?" К Николаю Макаровичу всегда ходило много людей. Подумав, что это его знакомые, я ответила, что он в Ленинграде. Меня только удивило, что они как-то нелюбезно ко мне обратились, даже не поздоровались. Я предложила им еще — вы, мол, устали, далеко ехали, отдохните, пообедайте. Дура такая. <…> Вернулась в свою квартиру — она опечатана. Неживая от страха, прислонилась я к двери и так стою. <…> Мимо проходили люди; пробегали, едва здороваясь, стараясь не заметить, не узнать. <…> Дом наш был литераторский — все друг друга знали. Я простояла в коридоре под своей опечатанной дверью несколько часов. Никто, никто,— все пробегали мимо,— не остановился, не предложил зайти, никто даже не вынес стула.

  Ираклий Андроников ночевал эту ночь в надстройке. Приехал по делам из Москвы и рано вышел из дому. Смотрит, идет Олейников. Он крикнул: "Коля, куда ты так рано?" И только тут заметил, что Олейников не один, что по бокам его два типа с винтовками <…>. Николай Макарович оглянулся. Ухмыльнулся. И всё.

   Ко мне стал ходить энкаведист. Такой элегантный мужчина, очень хорошо одетый. Коричневый костюм и коричневые лакированные туфли. Пришел ко мне, спросил: как, что? Представился следователем Николая Макаровича и начал ходить, как нанятый. <…> Как окаянный ходил. Житков говорил: "Что ему надо? Я умираю от ужаса, когда он приходит". Мы даже условились с Житковым, что, когда этот человек придет, я буду оставлять на окне Сашкиного медведя. Чтобы понятно было. В те дни не очень много людей к нам заходило. Но никого нельзя даже вот настолечко обвинять. Потому что хватали всех. И никто не знал — кого возьмут и когда.

  Я почувствовал с безошибочной ясностью, что Николай Макарович хотел поговорить о чем-то другом, да язык не повернулся. О чем? О том, что уверен в своей гибели и, как все, не может двинуться с места, ждет? О том, что делать? О семье? О том, как вести себя т а м? Никогда не узнать. Подошел поезд, и мы расстались навсегда. Увидел я в последний раз в окне вагона человека, так много значившего в моей жизни, столько мне давшего и столько отравившего. Через два-три дня узнал я, что Николай Макарович арестован. К этому времени воцарилась во всей стране чума. Как еще назвать бедствие, поразившее нас. <…> На первом же заседании правления меня потребовали к ответу. Я должен был ответить за свои связи с врагом народа. Единственно, что я сказал: "Олейников был человеком скрытным. То, что он оказался врагом народа, для меня полная неожиданность". <…> Я стоял у тощеньких колонн гостиной рококо, испытывая отвращение и ужас, но чувствуя, что не могу выступить против Олейникова

   Самая соленая соль — дело Олейникова. Донской казак, здоровый мужчина во цвете лет, сдался на 18-й день… Чем же его добили? Конвейер, стойка? Похоронен он там же, где Митя <Бронштейн>, на Левашовском кладбище. И Сережа <Безбородов> — тоже сдавшийся богатырь, мощный полярник! И он там же… И оба они — по делу Жукова, хотя не имели к Жукову ни малейшего отношения <…>. Да, интересно, что на Маршака, которого он терпеть не мог, НМО <Николай Макарович Олейников> показаний не дал. Вот под каким предлогом: "Я с Маршаком в ссоре, не встречаюсь с ним и потому ничего о нем сказать не могу". Очень благородно.