Николай Леонидович Сверчков родился в семье офицера пограничной стражи Леонида Владимировича Сверчкова (1865-1902) и Александры Степановны, урождённой Гумилевой (1869-1952).
А.С.Сверчкова была дочкой морского врача Степана Яковлевича Гумилева (1836-1910) от первого брака.
После ранней смерти первой жены С.Я.Гумилёв женился на Анне Ивановне, урожденной Львовой (1854-1942). От этого брака родились Дмитрий (1884-1922) и Николай (1886-1921) Гумилёвы. После смерти Л.В.Сверчкова Александра Степановна с сыном Колей и дочкой Марусей (1896-1918) переехала из Москвы в Царское Село к отцу, возвратившемуся туда из Тифлиса в 1903 году.
С тех пор в семье Гумилёвых жили два Николая: «Коля большой» и «Коля маленький». «Коля маленький», так звали Николая Сверчкова в семье, в отличие от Коли Гумилёва, сильно привязался к своему дяде «Коле большому» и относился к нему, скорее как к старшему брату, ведь он был моложе дяди всего на 8 лет.
Как и «Коля большой», «Коля маленький» учился в Царскосельской Николаевской гимназии, которую окончил в 1912 году. Также, как и его дядя, успехами в учёбе он, очевидно, не отличался, так как «ходил в Царскосельскую гимназию, как в университет, — когда вздумается». Хотя по воспоминаниям Черновой Коля Сверчков был «вне литературы», он верил в поэтический дар Н.Гумилева и поддерживал его литературные начинания.
В 1909 году он исполнял обязанности секретаря редакции литературного журнала «Остров», издававшегося Н.Гумилевым и А.Толстым.
Тот факт, что А.Толстой, запомнил «Колю маленького», как брата, а не племянника Н.Гумилева, говорит о том, что между ними были, действительно, дружеские, братские отношения.
Комната Николая Гумилёва была украшена вещами, привезёнными им из Абиссинии (Эфиопии). Слушая рассказы об удивительных африканских странах, любимый племянник не мог не заразиться страстью к путешествиям. И когда в 1913 году Н.Гумилёв организовал новую африканскую экспедицию , в качестве спутника он выбрал Колю Сверчкова, ставшего к тому времени студентом.
Подробности этого путешествия известны нам по двум сохранившимся дневникам Н.Гумилева.
7 апреля 1913 года путешественники выехали из Петербурга в Одессу. Отсюда Гумилев послал письмо Анне Ахматовой, где писал о своем спутнике: "Маленький до сих пор был прекрасным спутником; верю, что так будет и дальше."
Из Одессы на корабле Добровольного Флота "Тамбов" путешественники отправились к берегам Африки и вскоре высадились в г. Джибути, лежащем на африканском берегу Аденского залива. Путешествие длилось около пяти месяцев, за время которых два Коли преодолели около 1500 километров на территории современных государств Джибути (фр. Сомали) и Эфиопии, из них не менее 900 километров на мулах и пешком по малоисследованным районам Абиссиниии (Эфиопии).
Руководитель экспедиции "Коля большой" собирал этнографическую коллекцию, а "Коля маленький" занимался сбором зоологической коллекции, был фотографом экспедиции. Во время путешествия Коля Сверчков болел малярией, однажды, при переправе через реку Уаби, чуть не попал в пасть крокодила.