В биографии Ганнибала до сих пор ещё много невыясненного. Сын владетельного князька, Ганнибал родился, вероятно, в 1696 в Эфиопии(по другой версии из Чада). На восьмом году жизни он был похищен и привезён в Константинополь, откуда в 1705 или 1706 Савва Рагузинский привёз его в подарок Петру I, любившему всякие редкости и курьёзы, державшему и прежде «арапов».

Получил прозвище в память славного карфагенянина Ганнибала. В виленской церкви Параскевы Пятницы принял православие (по всей вероятности, во второй половине июля 1705 года); восприемниками его были царь Пётр (давший ему и отчество) и королева польская Христина-Эбергардина, жена короля Августа II. Об этом напоминает одна из мемориальных таблиц на нынешнем здании церкви. Текст гласит:

В сей церкви Император Петр Великий в 1705 году слушал благодарственное молебствие за одержанную победу над войсками Карла XII подарил ей знамя отнятое в той победе у шведов и крестил в ней Африканца Ганнибала деда знаменитого поэта нашего А. С. Пушкина.

С тех пор Ганнибал «неотлучно» находился подле царя, спал в его комнате, сопровождал во всех походах. В 1716 поехал с государем за границу. Быть может, он занимал при царе должность денщика, хотя в документах он трижды упоминается наряду с шутом Лакостой. В это время Ганнибал получал жалованья 100 рублей в год. Во Франции Ганнибал остался учиться; пробыв 1,5 года в инженерной школе, поступил во французское войско, участвовал в испанской войне (которая произошла раньше 1716-го года), был ранен в голову и дослужился до чина капитана. Вернувшись в Россию в 1723, определён в Преображенский полк инженер-поручиком бомбардирской роты, капитаном которой был сам царь.

После смерти Петра Ганнибал пристал к партии недовольных возвышением Александра Меншикова, за что был отправлен в Сибирь (1727). В 1729 велено было отобрать у Ганнибала бумаги и содержать под арестом в Томске, выдавая ему ежемесячно по 10 руб. В январе 1730 состоялось назначение Ганнибала майором в Тобольский гарнизон, а в сентябре — перевод капитаном в Инженерный корпус, где Ганнибал числился до увольнения в отставку в 1733.

В начале 1731 Ганнибал женился в Петербурге на гречанке Евдокии Андреевне Диопер и вскоре был командирован в Пернов учить кондукторов математике и черчению. Вышедшая замуж против воли, Евдокия Андреевна изменила мужу, что вызвало преследования и истязания со стороны обманутого. По другой версии, Ганнибал, увидев белого ребенка (что вполне согласуется с законами Менделя), обвинил жену в измене. Дело дошло до суда; её арестовали и держали в заключении 11 лет при ужасных условиях. Между тем Ганнибал сошёлся в Пернове с Христиной Шеберг, прижил с ней детей и женился на ней в 1736 при живой жене, тяжба с которой окончилась лишь в 1753; супругов развели, жену сослали в Староладожский монастырь, а на Ганнибала наложили епитимью и денежный штраф, признав, однако, второй брак законным.

Поступив в 1740 году снова на службу, Ганнибал пошёл в гору с воцарением Елизаветы. В 1742 он был назначен ревельским комендантом и награждён имениями; числился «действительным камергером». В том же году Елизавета пожаловала ему дворцовые земли в Воронецком уезде Псковской провинции, где Ганнибалом была основана усадьба, позднее названная Петровское. Переведённый в 1752 году снова в Инженерный корпус, Ганнибал был назначен заведовать делами по разграничению земель со Швецией. Дослужившись до чина генерал-аншефа и александровской ленты, Ганнибал вышел в отставку (1762) и умер в 1781 году.

Известен вклад Ганнибала в развитие картофелеводства в России. Первая грядка с картофелем появилась в России ещё при Петре Великом. Первый русский император выращивал картофель в Стрельне, надеясь использовать как лекарственное растение. В 1760-х годах Екатерина II решила, что «земляное яблоко» можно попробовать использовать в голодные годы, и поручила Абраму Ганнибалу, который был знаком с этой культурой, заняться у себя в усадьбе разведением картошки.

Таким образом, усадьба Ганнибалов «Суйда» стала первым местом в России, где появились сначала небольшие, а потом и обширные картофельные поля, которые вскоре переместились и на территории соседних поместий.

Крестьяне сначала очень насторожённо отнеслись к «земляному яблоку», но в некоторые годы картошка спасала от голода, и недоверие к ней постепенно пропало.

Ганнибал обладал природным умом и выказал недюжинные способности как инженер. Вёл мемуары на французском языке, но уничтожил их. По преданию, возможностью избрать военную карьеру Суворов был обязан Ганнибалу, убедившему отца его уступить наклонностям сына.

Детей у Ганнибала в 1749 году было шестеро; из них Иван участвовал в морской экспедиции, взял Наварин, отличился под Чесмой, основал Херсон (1779), умер генерал-аншефом в 1801 году. Дочь другого сына Ганнибала, Осипа, была матерью Александра Пушкина, упоминающего о своём происхождении от Ганнибала в стихотворениях: «К Юрьеву», «К Языкову» и «Моя родословная».