Становление группы Toxic Holocaust проходило под влиянием панк-рок и хэви-метал групп 1980-х, таких как Slayer, Megadeth, Exodus, Black Flag, Discharge, Motörhead, Kreator, Celtic Frost, Venom, Possessed и Death. Основана она была в 1999 году Джоэлом Гриндом в городе По́ртленд, штат Орегон.
После выпуска двух демо-альбомов, "Radiation Sickness" (1999) и "Critical Mass" (2002), Джоэл Гринд записал свой первый полноформатный релиз, "Evil Never Dies" (2003). Два года спустя после небольшого количества туров с нанятой группой он выпустил второй "ядовитый" альбом - "Hell on Earth" (2005). Как и прошлый альбом, Джоэл Гринд записал его один. Обложка альбома особенно красива так как сделана Эдом Репкой, он известен тем, что создавал культовые обложки для альбомов Megadeth, Death и для других групп.
Джоэл - исполняет партии всех инструментов, а также вокальные партии. Кроме того, все студийные записи он делает сам, для проведения турне он привлекает сессионных музыкантов - Colon Rupture, Hell Vomit, Grave Mistake и др., а сам он на концертах играет на гитаре и поет. Это далеко не полный список музыкантов.
С Toxic Holocaust в различных турах на бас-гитаре и барабанах играли музыканты Zeke, Bludwulf, Rammer, Barbatos, а сам Джоэл играл в нескольких азиатских турах японских групп Abigail и Barbatos на гитаре. Убойные туры следовали наряду с контрактом со звукозаписывающей студией Relapse Records. И в 2008 году свет увидел новый культовый альбом, "An Overdose of Death".
19 июля 2011 года вышел их четвёртый альбом "Conjure and Command".
Джоэл вместе с Toxic Holocaust объездил уже достаточно много стран, был тур по Японии, по Европе и даже на Барбадосе. Джоэл Гринд в своём творчестве использует гитары: Gibson Flying V 1968 белого цвета, Explorer чёрного цвета. Уселители Marshall JCM800. Педаль эффектов (distortion) boss metal zone mt-2.
