12月，山本中将升为海军航空本部部长后，更是为海军航空兵的发展倾注了大量的心血。

当年在日本海军中，大炮巨舰主义仍占据主流地位。持这种观点的人认为，排水量大、火炮威力强的战列舰仍是海战中的决胜武器。在日俄战争中，日本海军就是依靠战列舰的优势才大显神威的。

然而，山本五十六认为，航空母舰和海军航空兵的发展，已使得战列舰在未来海战中的作用大大降低。战列舰还来不及开火就会遭到自航空母舰起飞的成百架飞机的猛烈攻击，最终会成为毫无用处的一堆废钢铁。

正是出于对新兴的航空力量的透彻了解，山本五十六才一直对日本海军军令部制定的对美作战要领心存疑问。

1936年修订的《帝国用兵纲要》中规定：一旦日美开战，日本陆海军首先协同攻占菲律宾和关岛，迫使美舰队远渡重洋进至西太平洋实施进攻作战。日方则以控制下的南洋诸群岛为基地，先用潜艇和陆基飞机不断削弱美舰队的力量，然后再使用主力舰队进行最后的决战。

到1940年时，决战水域已定在马绍尔群岛以北和马里亚纳群岛以东的东经160度以西的水域。

山本认为，军令部的计划中含有很多一厢情愿的成分，美国舰队不一定会去援救菲律宾和关岛，并和日本主力舰队交锋，倒是有可能向日本本土进攻。即使双方海军进行决战，恐怕也是以航空力量的较量为主。

出于以上的考虑，山本就任联合舰队司令长官后把工作重点放在训练航空兵上。在山本日夜不停的督促下，联合舰队逐步完善了俯冲轰炸、高空轰炸、空中鱼雷攻击等技术。

1940年3月，为了检验海军航空兵的作战能力，山本安排了一次代号为“123号作业”的演习。在作为靶舰的长门号战列舰上，山本看到一队队机群在统一指挥下出色地进行鱼雷攻击的训练，情不自禁地对身旁的参谋长福留繁少将说：“参谋长，难道就不能用飞机进攻夏威夷吗？”