В 1993 году гитарист Оскар Дроньяк и бас-гитарист Еспер Стрёмблад покинули группу Ceremonial Oath. Стрёмблад занялся подбором коллектива для своего сайд-проекта In Flames, а Дроньяк организовал HammerFall. Они помогали друг другу — Стрёмблад занял место за ударными HammerFall, а Дроньяк исполнял бэк-вокальные партии на ряде песен In Flames. К этому времени Дроньяк уже сочинил песню «Steel Meets Steel», которая позже вошла в их дебютный альбом. Вскоре к ним присоединились гитарист Никлас Сундин, басист Йоханн Ларсон и вокалист Микаэль Станне (из группы Dark Tranquillity).
На следующий год Сундина и Ларссона сменили Глен Люнгстрём (из группы In Flames) и Фредрик Ларссон (басист распавшийся шведской дэт-метал-группы Dispatched). Таким образом, состав группы был в основном набран из бывших и даже действующих музыкантов In Flames, и музыкальные обозреватели изначально рассматривали HammerFall как их сайд-проект.
В 1996 году группа приняла участие в конкурсе Rockslaget с песней Judas Priest «Breaking the Law». После четвертьфинала Станне не смог продолжить выступление и в полуфинале его сменил Йоаким Канс, за что группа и была дисквалифицирована, но Йоаким был приглашен в основной состав группы, став одним из лидеров и основных композиторов HammerFall.
В 1997 году на лейбле Nuclear Blast вышел дебютный альбом группы, Glory to the Brave, который имел значительный успех в Скандинавии и был назван «альбомом месяца» сразу тремя музыкальными изданиями. HammerFall приняли участие в фестивале Wacken вместе с Gamma Ray и Lake of Tears. Участие в Hammerfall начинает отнимать у музыкантов много времени, и Стрёмблад и Люнгстрём делают выбор в пользу In Flames, а Ларссон же решает уйти в трэш-метал группу None. На их места приходят бас-гитарист Магнус Розен, гитарист Стефан Эльмгрен и барабанщик Патрик Рэфлинг. В конце года группа получила шведскую премию «Грэмми». После релиза в 1998 году альбома Legacy of Kings шведы отправились в мировой тур в его поддержку вместе со Stratovarius и Lordi. Часть песен на первых двух альбомах была написана Стрёмбладом, который, несмотря на то, что покинул состав, участвовал в записи для сохранения общего настроения релиза. К концу турне уходит из группы Патрик Рэфлинг, и его заменил друг Магнуса Андерс Юханссон, который уже в начале 1999-го стал официальным членом группы.
HammerFall записали ряд кавер-версий песен Helloween, собираясь выпустить трибьют-альбом. Однако лейбл Nuclear Blast отказался издавать подобный эксперимент, ограничившись синглом «I Want Out», записанным дуэтом с основателем Helloween и лидером Gamma Ray Каем Хансеном на его студии Hansen Studio. В качестве бэк-вокалиста в записи принял участие Удо Диркшнайдер.
Альбом 2000 года Renegade достиг первого места в рейтинге продаж в Швеции. В поддержку альбома группа провела ещё один тур и выпустила DVD The Templar Renegade Crusades, записанный в декорациях развалин замка. Следующий релиз, Crimson Thunder, выпущенный в 2002, стал шагом к переменам: группа от быстрого и мелодичного пауэр-метала стала постепенно склоняться к классическому средне-темповому хеви-металу с «галоповым» риффом. Тур в поддержку альбома был сорван в результате происшествия с Кансом. Йоакима, сидевшего со своей подругой в баре, некий хулиган ударил в лицо стеклянной кружкой. Как позже выяснилось, это был фанатик блэк-метала, ненавидевший HammerFall за «неправильную» музыку. Врачи с трудом спасли вокалисту глаз, проведя пластическую операцию. Как только стало возможным, Йоаким присоединился к группе и принял участие в совместном туре с Дио. Тур был успешным, однако менеджер группы скрылся, похитив значительную часть выручки.
В 2005 году группа выпустила альбом Chapter V: Unbent, Unbowed, Unbroken, где присутствовал дуэт с гроулинг-вокалистом группы Venom. Песня «Blood Bound» и видеоклип на неё имели большой успех в европейских хит-парадах. За ним был выпущен альбом Threshold, на котором группа ещё больше склонилась в сторону хеви-метала. Перед записью альбома Йоаким, испытывавший проблемы с голосом, перенёс операцию на связках. По его словам, она вернула ему целую октаву голосового диапазона.
Группа часто выступала в поддержку олимпийской сборной Швеции, в частности по кёрлингу (ставшей победителем Олимпийских игр-2006), и сняла два клипа с участием известных спортсменов. Также песня «Hearts on Fire» является гимном олимпийской сборной Швеции.
В конце 2006 года, после успеха их друзей и частых партнёров по турам Lordi на конкурсе песни «Евровидение», в прессе и на музыкальных интернет-сайтах распространялась информация, что жюри конкурса пригласило HammerFall и Europe к отбору на Евровидение-2007 от Швеции. Однако Йоаким Канс в интервью публично заявил, что HammerFall не заинтересованы участием в конкурсе.
В 2007 году группа рассталась с басистом Магнусом Розеном. Официальный сайт расплывчато объяснил это «недостаточной верностью группе». Однако сам Розен утверждает что причиной его ухода была невозможность вносить свой материал, а также желание сконцентрироваться на своих других проектах. Концертная деятельность группы была временно приостановлена в связи с поисками нового бас-гитариста. Эту позицию занял вернувшийся в группу Фредерик Ларссон. Годом позже Стефан Эльмгрен приостановил участие в группе, так как начал карьеру лётчика. Его место занял Понтус Норгрен. Новый состав выпустил трибьют-альбом Masterpieces, состоящий из кавер-версий песен известных хеви- и пауэр-метал-групп.
В 2009 году группа выпустила альбом No Sacrifice, No Victory. Весной 2011 года вышел альбом Infected. Группа отправилась в тур в поддержку нового альбома, завершив его в августе 2012 года выступлением на шведском рок-фестивале Helgeåfestivalen. Далее группа объявила о творческой паузе, с намерением выпустить следующий альбом в 2014 году. Альбом под названием (r)Evolution вышел 27 августа в Швеции, 29 августа в Европе, 1 сентября в Великобритании и 2 сентября в США. 4 сентября альбом занял первую строчку в шведском чарте.
В октябре 2014 года, после 15 лет совместной работы, группу покинул барабанщик Андерс Йоханссон. Его заменил Давид Валлин из PAIN, однако уже через два года он также покинул группу. Место барабанщика на текущий момент занимает Йохан Кольберг, играющий также в Therion.
