为了履行委员职责，嘉纳治五郎在1911年成立“大日本体育协会”（即今日本体育协会），但其英文名字却是 “Japan Amateur Athletic Association”（曲译为“日本业余竞技协会”），亦即做为监视日本业余运发动的协会，嘉纳治五郎以那个协会为根底，起头弘扬象征国际友谊的奥运精神。从1912年斯德哥尔摩奥运会起头，嘉纳治五郎做为领队率领运发动参与奥运会，固然田径运发动金栗四三因为欠缺体味而呈现脱水症状，不能不半途舍弃参与马拉松。此次不如意的履历也成为 《韦驮天》前半部门的次要剧情。
因为早期奥运会全数集中于欧洲，昂扬盘缠关于刚刚成立的大日本体育协会而言天然是浩荡承担。嘉纳治五郎本想申请国度补贴，但因为日本政府正在了偿日俄战争的战争告贷，天然关于业余体育没有任何兴致；嘉纳治五郎就策动所有人脉联络到闻名的三井、三菱两大财阀家，以至策动参赛地的日本人捐助，才牵强募集到足额资金。
步队逐步强大起来，日本代表团的功效也越来越好。1928年阿姆斯特丹奥运会，日本获得“〇的打破”，三级跳运发动织田干雄以15.21米的功效突破其时的奥运笔录，获得日本汗青上首枚奥运会金牌。但有趣的是，因为欧洲人从未想到日本人可以夺冠，主办方以至没有预备日本国旗，只能从现场的日本看寡手中借来国旗。那个桥段让织田干雄记忆犹新，他退役后也不断活泼于日本体育界，曲至成为1964年东京奥运会的日本田径总锻练。最末，日本代表团在阿姆斯特丹夺走2金2银1铜共5枚奖牌，极大振奋了日本体育界的自信心；其时刚刚呈现的收音机更是在日本各大城市的街头巷尾高声喧闹，让许多日本人第一次现实感触感染到现场气氛，促进奥运文化深进人心，为日本申办1940年东京奥运会打下根底。
1912 年7 月6 日，瑞典，斯德哥尔摩奥运会开幕式上，嘉纳治五郎（左）做为领队率领2 名日本运发动初次表态
鉴于1928年阿姆斯特丹奥运会的胜利，东京市长永田秀次郎起头根究主办奥运会事宜，并拜托日本学生竞技联盟会长山本忠兴在1930年率队前去德国参与角逐时停止查询拜访，询问能否把1940年奥运会主办权交给东京。事实根据日本“肇国于公元前660年”之说，1940年恰是“建国2600周年”纪念之年，假设能将如斯盛会招至东京，天然能成为鼓舞日本国民的绝好题材。
1931年10月28日，东京市议会全票通过“关于举办国际奥林匹克运动会的定见”，将主会场定于其时东京市荏原郡 （东京都世田谷区）的驹泽高尔夫球场一带，并方案将明治神宫外苑扩大开来，成为新的体育会场。1932年洛杉矶奥运会期间，日本代表团向国际奥委会正式提出申请，期看东京可以举办第十二届奥运会。
但申奥之路其实不平整，日本面对的次要费事，就来自于他们日后的轴心国盟友意大利。