Группа была основана бас-гитаристом и композитором Лейфом Эдлингом в 1984 году после распада его предыдущей группы Nemesis. В первый состав вошли также вокалист Йохан Лангквист, гитаристы Матс Бйоркман и Клаас Бергваль, ударник Матс Экстрём. Первый же альбом коллектива, Epicus Doomicus Metallicus (1986), завоевал группе широкую известность среди поклонников метала. Музыка представляла собой совершенно новое на тот момент направление в рок музыке: медленный, «вязкий», мрачный стиль, напоминающий хард-рок ранних альбомов Black Sabbath, но с уклоном в сторону утяжеления. Candlemass были не первыми, кто стал играть дум-метал (до них уже существовали, в частности, Pentagram и Saint Vitus), но благодаря им он стал широко известен, обрёл название и признание как самостоятельный стиль. По названию альбома Epicus Doomicus Metallicus (стилизация под латынь), жанр стали называть эпик-дум-метал.
В 1987 году состав группы почти полностью поменялся: вокалистом стал Мессия Марколин, гитаристом — Ларс Йоханссон, а ударником — Ян Линд. В таком составе Candlemass записали три своих самых известных альбома: Nightfall (1987), Ancient Dreams (1988) и Tales of Creation (1989). Новый состав продемонстрировал некоторый уклон в прогрессивный метал. Сильный, чистый и глубокий вокал Марколина и его необычный сценический образ — своего рода воинственный монах в рясе — стал визитной карточкой группы.
Однако новый Candlemass просуществовал недолго: в 1991 году Мессия Марколин покинул группу. В 1992 году с Томасом Викстрёмом на вокале группа записала очередной альбом Chapter VI, но работа не имела большого успеха. У группы начались финансовые проблемы и в 1994 году она была распущена.
Лейф Эдлинг несколько лет занимался сайд-проектом Abstrakt Algebra, но вскоре попытался реанимировать Candlemass. В 1998-99 году полностью новый состав с вокалистом Бйорном Флодквистом, состоящий практически из группы Abstrakt Algebra, записал альбомы Dactylis Glomerata и From the 13th Sun. Тем временем Мессия Марколин пел в собственной группе Memento Mori. Однако, несмотря на «фирменный» вокал, проект не имел того же успеха, который в своё время снискал Candlemass.
В 2002 году было объявлено о полном воссоединении Candlemass с участием Мессии Марколина, Бйоркмана, Йоханссона и Линда. В честь воссоединения группа дала тур по Европе, и в том же году первые четыре альбома Candlemass были переизданы лейблом GMR с бонус-дисками, годом позже эти переиздания были выпущены в России.
В 2005 году группа выпустила альбом Candlemass, который вышел в Европе на Nuclear Blast, в России — на лейбле «Irond». В том же году состоялся первый и единственный концерт Candlemass в России, группа выступила в СДК «МАИ».
В 2006 году из-за разногласий Марколина и Эдлингом должность вокалиста группы снова стала вакантной, и её занял американец Роберт Лоу, который, вместе с тем, продолжил петь в Solitude Aeturnus.
В 2009 году гитарист Матс Бйоркман попал под суд за присвоение чужой собственности. Заведуя складом торговой сети ENS, он нелегально продал на сторону диски на сумму $490,000. Несмотря на угрозу тюрьмы, он все ещё продолжает выступать с Candlemass.
В июне 2012 года группа выпустила 11-й полноформатник Psalms For The Dead, который должен стать последним в её дискографии. В то же самое время из группы уходит вокалист Роберт Лоу. Для концертных выступлений в рамках прощального тура приглашен Матс Левен (Therion, Abstrakt Algebra, группа Ингви Мальмстина, At Vance, Krux, Fatal Force).