在二戰時期，日本陸軍的編制是與其他國家不一樣的，其參照舊德國的編制構建出了分隊、小隊、中隊、大隊、聯隊、旅團、師團的編制體系，在火力和人數方面則是參照了一戰時的美國，總體上日軍的編制呈現出了明顯的不同。日軍的裝甲部隊隸屬於陸軍，編制從低到高依次是戰車小隊、戰車中隊、戰車聯隊、戰車旅團、戰車師團和戰車集群，日軍裝甲部隊的基幹部隊是戰車聯隊，相當於別國的團一級戰車部隊，即所謂的坦克團。
日本坦克部隊
諸兵種合成部隊的首次嘗試：戰車集群
對日軍裝甲部隊了解的軍迷知道，戰車集群在日文中的翻譯是「戰車團」，但是這個「戰車團」並不等同於上面提及的戰車聯隊的別稱。從實際的組織結構和規模來看，戰車集群更像是納粹德國在1944年設立的「戰鬥群」或「裝甲戰鬥群」這一編制，戰車集群的出現是為了在特定情形下更好的指揮戰車連隊，戰車集群並不是一個永久性的編制，而是依據戰爭情況而設立的臨時性編制。這種編制存在的時間長度取決於戰爭進展的情況，有的長則兩三年，有的短則幾個月。
戰車集群在一般情況下下轄3個戰車聯隊，擁有獨立的後勤支援部隊和維修支援部隊，有的戰車集群還配備了步兵、炮兵和工兵，從總體來看，這是一個以裝甲部隊為主力、諸兵種聯合作戰的戰鬥群，但是戰車集群也有缺點，那就是戰車集群缺乏一定的戰術指揮和控制能力。從規模上來看，戰車集群和戰車旅團類似，但是二者顯然不是同一種編制，戰車旅團是戰車師團的下屬部隊。從時間上來看，二者並不是同一時間的產物，戰車集群在1938年就設立了，而戰車旅團則是在1942年才出現。從1938年開始，日本先後設立了第1、第2 、第3 、第11和第14戰車集群，但是這些戰車集群均在1942年前後被解散或併入其他部隊。
日軍閃電戰思想的體現：戰車師團
1942年，日本陸軍高層認為戰車集群這種編制已經過時，於是著手建立了更加獨立、更為高效、諸兵種聯合作戰的戰車師團編制。起初，每個戰車師團下轄2個戰車旅團，每個戰車旅團下轄2個戰車聯隊，這種由4個戰車聯隊組成的戰車師團被美軍稱之為「方形」戰車師團。隨著戰爭的進行，不同時期的戰車師團下轄的戰車聯隊組織結構也出現了較大的差異。
1942年中期到1944年初期，日軍的戰車師團裝備編制是這樣的： 戰車師團指揮部：119人，2輛輕型坦克，10輛中型坦克，20輛小汽車；戰車聯隊：每個戰車聯隊1071人，78輛履帶車，21輛輪式車輛；機動步兵聯隊：3029人，222輛履帶車，87輛輪式車輛； 反坦克炮隊：444人，45輛履帶車，87輛輪式車輛； 搜索隊：694人，91輛履帶車，12輛輪式車輛；機動炮兵聯隊：1056人，89輛履帶車，73輛輪式車輛； 高射炮隊：1014人，105輛履帶車，63輛輪式車輛；工兵隊：1149人，122輛履帶車，50輛輪式車輛；整備隊：778人，15輛履帶車，152輛輪式車輛； 輜重隊：765人，106輛履帶車，216輛輪式車輛； 醫療隊、通信隊：285人，50輛輪式車輛
日本中型坦克
儘管戰車師團是最新設立的編制，但實際情況並不能滿足理想中的編制，在戰車師團中，輕型坦克基本上是95式輕型坦克，中型坦克是97改式中型坦克，一些本該裝備自行火炮的機動炮兵聯隊也是裝備著履帶車拖拽的火炮或者是由97改式中型坦克代替，半履帶運兵車也少的可憐，大部分是由卡車來完成任務，而且這些卡車基本上都是民用型號，甚至用客用轎車和吉普車來湊數。這些裝備無疑經不起激烈戰鬥的消耗，其作戰能力也會不斷降低。
日本坦克部隊
在1942年的時候，日軍在中國東北建立了第1、第2、第3戰車師團，用來應對可能發生的與蘇聯的戰爭。1944年時，日軍開始裁撤這3個戰車師團的編制，分別撤編出1個戰車旅團指揮部、1個戰車聯隊、高射炮隊和搜索隊，此時1個戰車師團只剩下3個戰車聯隊，被美軍稱之為「三角形」戰車師團。1944年7月，鑒於日軍在太平洋戰場的不利局面，為了準備「決戰本土」，日軍又成立了第4戰車師團，至此共4個戰車師團全部亮相完畢。
日軍牽引式炮兵部隊
基本戰役級作戰單位：戰車聯隊
戰車聯隊是日軍裝甲部隊的基本部隊編制，實際上其與戰車大隊的規模是相差無幾的。正常情況下，每個戰車聯隊包括800人左右，但有的包括1000多人，裝備著30到50輛坦克。戰車聯隊下轄戰車中隊（相當於坦克連），戰車中隊下轄戰車小隊（相當於戰車排），每個戰車聯隊擁有自己的維修、補給和醫療人員，這是比之前的戰車大隊先進的地方。戰車聯隊下轄的戰車中隊也是不相同的，有的下轄2個戰車中隊，有的下轄5個戰車中隊，大部分下轄著4個戰車中隊，包括3個中型戰車中隊和1個輕型戰車中隊或者是4個中型戰車車隊，每個中型戰車中隊分配1個戰車小隊。二戰前，每個戰車小隊有4-5輛坦克，二戰爆發後，每個戰車小隊只有3輛坦克。
從開始建立到戰爭結束，日軍裝甲部隊一共設立了46個戰車聯隊，這些戰車聯隊並不是都屬於某戰車師團的，而是存在獨立戰車聯隊。二戰後期，日本設立的戰車聯隊都是加強版的戰車聯隊，每個戰車聯隊達到了1400人，均配屬給第4戰車師團，但是戰爭後期的日本已經無力生產更多的武器裝備和招募新兵了，均由一些老舊裝備和傷殘士兵來填充。
日本坦克部隊正在渡河
基本戰術作戰單位：戰車中隊
每個戰車中隊下轄1個戰車中隊指揮部、3個戰車小隊和1個輜重隊，一般情況下，中型戰車中隊是112人，輕型戰車中隊是90人。每個戰車中隊裝備著28艇坦克裝載的97式7.7mm機槍、84支38式6.5mm步騎槍、4把手槍和107把刺刀，還有15輛卡車、2輛轎車和1輛摩托車。
除了戰車師團及其下轄的戰車部隊外，日軍還有隸屬於其他部隊的戰車部隊，以及其他的獨立戰車部隊，大致有獨立戰車旅團、步兵師團戰車隊、騎兵旅團戰車部隊、步兵師團搜索聯隊、獨立戰車中隊、獨立超輕型戰車中隊和日本海軍陸戰隊戰車部隊等。
日本裝甲部隊的樣板：德軍裝甲部隊
結語
日本裝甲部隊一直在試圖學習德國裝甲部隊的「閃擊戰」戰術，進行戰役級的機動作戰，實現速勝，這是符合日本這種資源短缺型國家的國情的。不過日本陸軍仍舊沒有脫離一戰那種步兵戰的作戰思想，在裝甲戰術上仍舊以支援步兵作戰為主，因此生產的坦克速度都非常緩慢，也沒有發展和坦克部隊配合作戰的機動步兵、機動炮兵等專業支援單位，這導致日本裝甲部隊不能獨立的遂行作戰，不能實施戰役級的機動。雖然日本也組建了裝甲師這樣的戰役級作戰單位，但是基本上還是分散為小型戰術單位和步兵實施協同作戰，在戰術水平上遠遠落後於同期的德國和蘇聯等傳統陸軍強國的裝甲部隊。