第二次世界大戰末期，大日本帝國陸軍面臨嚴重的士兵不足問題。因此，他們構思了製造不死之兵的「鐵人計劃」。鐵人計劃選定了當時被譽為天才科學家的金田博士，在南方的陸軍秘密研究所進行鐵人的開發，但該計劃進展非常困難。就在這個時候，金田博士的兒子正太郎被報導在東京大空襲中喪生。金田博士由於極度悲痛，在第28號機體上冠名為「正太郎」，並如同自己的孩子一樣精心製作。最終，具有足以扭轉大日本帝國劣勢的性能的人型頂尖武器，鐵人28號，得以完成。然而，美軍對秘密研究所進行了空襲，金田博士留給敷島的最後一句話是「這個世界上存在著不應該誕生的東西」，之後鐵人與他一同受到爆炸襲擊。戰敗後，敷島返回日本，卻驚訝地發現金田正太郎還活著。
10年後，身為敷島重工公司總裁並致力於日本的重建的敷島，被政府高官召見，得知來自南方的巨大砲彈已經發射向日本。與此同時，成長為一位少年偵探的正太郎正在追捕村雨家族的黑帮。儘管正太郎成功將村雨家族逼至建造中的東京塔，但不幸的是，一顆神秘的砲彈降落在那裡。正太郎暈倒了一段時間，醒來後發現大塚署長和敷島博士正在爭論，他走近了兩人。就在這時，巨大的砲彈破裂，從中走出了另一個巨大的自己，即「正太郎」，也就是鐵人28號，從這裡正太郎逐漸卷入戰爭的陰影，與那些被時代遺棄的人們展開了戰鬥。