Поэт родился 30 сентября 1931 года в деревне Слобода Логойского района Минской области в крестьянской семье.
Вся жизнь Гилевича была связана со словом: долгое время он преподавал на кафедре белорусской литературы БГУ, занимал должность литературного консультанта в газете "Звязда", возглавлял ТБМ имени Франциска Скорины. Помимо литературной и образовательной деятельности, занимался Гилевич еще наукой и политикой: изучал белорусские фольклор и культуру, был членом Президиума Верховного Совета Белорусской ССР.
Звания Народного поэта Гилевич был удостоен в 1991 году, до этого он неоднократно становился лауреатом различных премий. Так, в 2015 году он был удостоен премии имени Василя Быкова, которая присуждается за общественную и творческую деятельность.
"Богатырь Беларуси": памятник Нилу Гилевичу появился на могиле поэта