Grubun en önemli ismi aynı zamanda 1984 yılında Indiana'da Purgatory ismiyle kurucusu olan ritim gitarist ve söz yazarı Jon Schaffer'dir. Grup Florida'ya taşındıktan ve adını Iced Earth olarak değiştirdikten sonra Enter the Realm isimli demoları, Century Media Records etiketi taşıyan ilk LP'lerini çıkarttıracak kadar popülerdi. Grup kurulduğu tarihten bu tarafa çok sayıda eleman değişkliği yapmıştır. Dante'nin Infernosunu temel alan Burnt Offerings için gruba vokalist olarak Matt Barlow katılmıştı (Night of the Stormride'ı takip eden 3 yıllık bir boşluktan sonra). Barlow'un vokali oldukça popüler oldu ve uzun yıllar grup ile birlikte çalıştı ama 2003 yılında United States Department of Homeland Security (Birleşik Devletler Anavatan Güvenlik Bakanlığı)'da yeni bir kariyer takip etmek amacıyla gruptan dostça ayrıldı. Tim 'Ripper' Owens Judas Priest grubundan ayrılarak Iced Earth'in yeni vokalisti oldu. Grup ile bearaber çıkardığı ilk albüm The Glorious Burden modern dünyayı şekillendiren askeri figürlerin ve savaşın pek çok açıdan bir incelemesidir. Şarkıların konu aralığı Özgürlüğün İlanından 9 Eylül'e , Napoleon Bonaparte kadar uzanmakla birlikte 3 şarkıda Gettysburg muharebesi ile ilgilidir. Gettysburg üçlemesinin ikinci bir diske, Waterloo ve When the Eagle Cries şarkısının unplugged versiyonunun birinci diske eklendiği sınırlı bir sürüm vardır. Schaffer'in Kanadalı heavy metal dergisi Brave Words & Bloody Knuckles'a verdiği bir röportajdan sonra albümün teması bir tartışmanın odak noktası haline geldi. Röportajın yayınlanmasından sonra Schaffer dergiyi, sözlerini saptırdığı ve kendisini anti- Amerikan eğilimli gösterdiği gerekçesiyle suçladı ve bunu takiben grubun dergiyi gelecekte boykot edeceğini açıkladı.
Blind Guardian'ın eski basçısı ve lider vokalisti Hansi Kürsch ile birlikte Schaffer, Demons and Wizards isimli yan bir projede de bulumaktadır.
2005 yılında Tim 'Ripper' Owens ve birkaç arkadaşı Beyond Fear isimli yeni bir heavy metal grubu kurdular.
11 Aralık 2007'de Matt Barlow gruba sürpriz bir şekilde geri döndü. Tim 'Ripper' Owens ise ise bilinenin aksine yaptığı performanslardan değil Schaffer'ın ricası üzerine gruptan ayrılmıştır. Owens, grubu Framing Armageddon döneminde muhteşem bir başarıya ulaştırmıştır. Ancak Owens'ın bu şekilde gruptan ayrılmasını protesto eden basçı Dennis Hayes'te Schaffer'in hışmına uğrayarak gruptan atılmış ve Hayes'in ismi grubun bibliyografi ve diskografisinden de çıkarılmıştır..
Bütün bu gelişmelerden sonra grubun bass gitarist açığını kapatmak üzere arayışlara giren grup lideri Schaffer, menejerlik şirketleriyle yaptığı bağlantılarla pek bi sonuç alamadı... Çünkü geçmişte gruptan ayrılan herkes Schaffer hakkında pek iyi konuşmalar yapmamıştı. Bu sebeple grubun resmi sitesinde ilan verilerek bass gitarist aranmaya başlandı...
12 Mart 2008 tarihinde grubun resmi açıklaması ile Freddie Vidales grubun bass gitaristi oldu... Jon Schaffer yeni elemanı ile ilgili olarak; 'Kendisini seyretmeye gittiğimde müzisyenlik performansı ve sahne enerjisi olarak istediğimi gördüm ve arayışlara devam etmenin bir mantığı olmadığını düşünerek Freddie ile anlaştım' demektedir.
6 Mayıs 2013 tarihinde Iced Earth resmi sitesinden grubun bateristi Brent Smedley'in kişisel sebeplerden dolayı ayrıldığı duyuruldu. Gruba İtalyan kökenli Chaoswave'in bateristi Raphael Saini dahil olmuştur..
Ayrıca Iced Earth, 2013 yılının ekim ayında piyasaya sürülmesi planlanan Plagues of Babylon adlı albümün çalışmalarına başlamıştır.