Grand Funk Railroad образовались в 1969 году, когда поющий гитарист Марк Фарнер и ударник Дон Брюер пригласили в свой новый проект Мела Шачера (бас-гитариста из ? & the Mysterians). Бывший вокалист группы The Pack Терри Найт, к тому времени работавший в Capitol, согласился стать их менеджером: именно он предложил назвать ансамбль в честь известной в Мичигане железной дороги, известной как Grand Trunk Western Railroad. Получив первое признание на поп-фестивале в Атланте 4 июля 1969 года, трио подписало контракт с Capitol, где некоторое время его рассматривали как «американский ответ Cream». GFR выработали собственный сверхмощный стиль звучания, тут же сделавший их популярнейшей концертной группой США 1970—1971 годов.
Альбом On Time (1969) поднялся до 27 места в списках «Биллборда», Grand Funk (1970) — до 11-го. Взлет группы многие объясняли агрессивной тактикой их менеджера. В 1970 году Найт затратил 100 тысяч долларов на гигантский постер в Нью-Йорке, рекламировавший альбом Closer To Home. Последний тут же поднялся до 6-го места в Billboard 200.
В 1971 году Grand Funk Railroad побили рекорд The Beatles по скорости реализации билетов на свои концерты. Всё это время музыкальная критика отзывалась о GFR пренебрежительно, а радиостанции за небольшим исключением отказывали им во внимании.
После выхода альбома E Pluribus Funk (выпущенного в оригинальном конверте-круге) GFR решили уволить менеджера: на его место пришли — сначала Энди Кавальере, затем Джон Истман (отец Линды Маккартни). Следующие несколько лет группа провела в судебных тяжбах с Найтом, которому выплатила в конечном итоге гигантскую компенсацию. Сохранив права на название, она тем не менее сократила его до Grand Funk, после чего стала квартетом: к составу присоединился клавишник Крейг Фрост (экс-Fabulous Pack). (Рассматривавшийся в качестве альтернативы Питер Фрэмптон после подписания большого сольного контракта вынужден был отклонить приглашение.) С приходом Фроста звучание группы смягчилось, стало более ритм-энд-блюзовым, что вызвало неудовольствие значительной части фанатов. В новом составе группа записывает альбом Phoenix.
Альбом We're An American Band, записанный с продюсером Тоддом Рандгреном, поднялся на первое место в списках «Биллборда», как и одноимённый сингл из него — своего рода гимн «концертной жизни», которую за эти годы так полюбила группа. Вторым синглом-чарттоппером Grand Funk стал «The Loco-Motion» (1974): так впервые в истории кавер-версия повторила успех оригинала Литтл Ивы.
В 1974 году группа вернулась к полному варианту названия и подписала контракт с продюсером Джимми Айнером. Выпустив альбомы All the Girls in the World Beware!!! (1974), Caught in the Act (двойной концертный, 1975) и Born to Die (1976), Grand Funk Railroad перешли на лейбл MCA Records, выпустив (с продюсером Фрэнком Заппой) Good Singin', Good Playin. Альбом, который музыкальными критиками оценивается как сильнейший в их дискографии, не попал в Top 50. Фарнер покинул состав и занялся сольной карьерой (которая ограничилась выпуском двух альбомов), а Брюер, Шачер и Фрост пригласили гитариста Билли Этуорти. Новый состав, названный Flint, выпустил один альбом, но коммерческого успеха с ним не имел.
В 1981 году Фарнер и Брюер с бас-гитаристом Деннисом Биллингером реформировали Grand Funk Railroad и на лейбле Full Moon выпустили альбомы Grand Funk Lives и What’s Funk?, после чего, расстроенные отсутствием должной реакции, вновь разошлись в 1983 году.
После окончательного распада Фарнер гастролировал по США с Adrenalin, исполняя песни Grand Funk. Будучи не в состоянии обеспечить контракт на выпуск альбома, Фарнер покинул Adrenalin и создал проект Mark Farner’s Common Ground, с которым выступал до осени 1990 года. Марк Фарнер записал три альбома христианской тематики. Брюер и Фрост присоединились к Бобу Сигеру в Bob Seger's Silver Bullet Band.
В 1995 году Марку Фарнеру было предложено войти в состав Ringo Starr’s All Starr Band, после чего с Доном и Мелом он организовал реюнион, ознаменовавшийся гастролями, участие в которых принял гитарист и клавишник Ховард Эдди-младший (англ. Howard Eddy Jr.). 1996—1998 годы группа провела в турне, дав большой благотворительный концерт в пользу сирот Боснии и попав в список Pollstar’s Top 100 Shows.
В 2000 году Grand Funk Railroad реформировались: в новый состав вошли, наряду с Брюером и Шачером, вокалист Макс Карл (38 Special), гитарист Брюс Кулик (12 лет проведший в Kiss) и клавишник Тим Кэшион (игравший до этого с Бобом Сигером и Робертом Палмером).
30 октября 2012 года Фарнеру сделали операцию по вживлению кардиостимулятора.
