Автор слов песни Николай Букин во время Великой Отечественной войны служил на полуострове Рыбачий. Он сначала был артиллеристом, а потом стал работать в дивизионной газете «Североморец» - корректором, затем корреспондентом и, наконец, редактором. Его первые стихотворения были опубликованы в 1941 году. Букин писал стихи о пехотинцах, его называли «артиллерийским поэтом», но больше всего его вдохновляла морская романтика - он любил встречаться с моряками-катерниками. В 1942 году (по другим данным - в 1943 году) после одной из таких встреч у него и родились строки стихотворения «Не жить мне без моря», которые впоследствии стали словами песни «Прощайте, скалистые горы», сообщает «Мурманский вестник».

Стихи привлекли внимание нескольких композиторов, в том числе и Евгения Жарковского, написавшего на них музыку в 1944 году. Тогда же состоялось и первое исполнение песни Букина – Жарковского: она прозвучала 30 апреля 1944 года в программе ансамбля ДВМФ Северного флота, и пели ее солисты ансамбля Чернобильский и Федоров.

Жарковский характеризовал эту песню как «самую популярную и живучую» из написанных им во время командировки на Северный флот. Всенародную известность песня приобрела после того, как она была передана по Всесоюзному радио в исполнении Владимира Бунчикова и Петра Киричека.

Иногда песню «Прощайте, скалистые горы» называют неофициальным гимном Мурманской области. Её мелодия регулярно звучит у ряда памятных мест - монумента в честь моряков-североморцев (полуостров Рыбачий), памятника защитникам Советского Заполярья (Североморск) и памятника морякам торгового флота, погибшим в годы войны на Севере (Мурманск).