本作は『マジンガーZ』の続編となっており、「マジンガー」シリーズの第2作にあたる。スーパーロボット・グレートマジンガーは『マジンガーZ』の最終回で初登場し、そのまま本作へと物語がつながっている。

　　天才・兜剣造博士は、実験中の事故で瀕死の重傷を負ったが、父・十蔵博士の手により、サイボーグとして蘇った。その後、きたるべきミケーネ帝国との戦いにそなえ、父十蔵の設計したマジンガーZをパワーアップさせたグレートマジンガーを製作。孤児の剣鉄也と炎ジュンを引き取り、パイロットとして育成しながら戦いの日に備えていた。
　　息子・甲児がマジンガーZでドクター・ヘルと戦っている間、兜剣造はその戦いを見守るのみであった。だがドクター・ヘルの敗北後、地底に潜んでいたミケーネ帝国が地上侵略へと乗り出す。彼らの兵器「戦闘獣」の前にマジンガーZはたちまち追いつめられてしまう。この時、ついに兜剣造はグレートマジンガーを出撃させた。剣鉄也のグレートマジンガーは初出撃で戦闘獣を一蹴してその力を示した。以後、マジンガーZに代わってグレートマジンガーが地上を防衛する任に就き、ミケーネとの新たな戦いが始まったのである。
　　なお、『マジンガーZ』の主人公・兜甲児はアメリカ（ワトソン研究所）へ留学したという設定で、本作中にはほとんど登場しなかった。ただし、終盤の数話にはマジンガーZと共に再登場してグレートマジンガーを助けて戦っている。また、本作の後番組である『UFOロボ グレンダイザー』では再びレギュラーとして登場した。