1935年回国后，向最高当局提出了一份近十万字的《欧洲各国军事考察报告》。这份报告除各国首脑隆重接见外，还记载了各国军事工业和海陆空军基地、营房、政府机关、学校大量所见所闻，得出无论国家大小，政治结构如何，莫不以机械动力之多寡精细强弱以为标准的结论。并据此拟定了一份周密计划，提出了限期完成国防上最急迫的最有力而又最经济的工具，励行工业革命，增加机械动力的建设。最高当局蒋介石采纳了杨杰部分建议，如成立防空委员会(杨杰兼任主任)，组织了全国性防空机构，编练防空部队，规定全国性防空警报，开办鱼雷学校等。这一时期，杨杰为唤醒国民抗日的意识，普及国防知识，还撰写了《国防军事必读》、《国防的基本条件是什么》等早期军事理论著作。

1931年“九·一八”事变后，杨杰在12月下旬召开的国民党四届一中全会上被选为中央执行委员，并出任南京陆军大学的教务长、校长等职。他在积极为抗战培养中高级指挥官与参谋人才同时，以其在日本对军国主义的研究和了解，多次在有关会议上阐叙“抗战必胜”的战略判断，提出与亲日派投降妥协论调毅然相反的具有深刻的说服力论证，以达到抗战持久战的理论胜利。为了更全面的了解世界各国战略情况，以资借鉴，杨杰奉命担任欧洲军事考察团团长，1933年11月至1934年9月率团赴欧洲对意、奥、捷、土、苏、荷、比、法、英、丹麦、挪威、瑞士及巴尔干半岛等14国进行考察访问。

1937年底，杨杰派员携《中苏军援协议》回国面呈蒋介石。1938年8月，杨杰被任命为中国驻苏特命全权大使。从1937年秋至1940年杨杰出使苏联期间，苏联先后给中国数亿美元的贷款，并把中国抗战急需的飞机、大炮、坦克及其他大量武器军用物资、燃料等，以低价折为贷款，陆续运往中国。此外，苏联还先后派出2000多人的航空志愿队及军事顾问到中国参战，从道义上，物资上有力地支援中国抗日战争。作为驻苏军事代表和大使的杨杰将军，出色地完成了中国政府交给他的重大使命和重要任务，并增进了中苏两国人民的友谊和相互了解。

1936年12月发生“西安事变”，在中共斡旋下和平解决，蒋介石正式接受联共抗日的主张。1937年2月国民党召开五届三中全会，经过国民党民主派宋庆龄等对亲日派的激烈斗争，国民党在对内确定了停止内战、国共合作的原则，在对外团结一切抗日力量。同年七月卢沟桥事变发生，中国军队的奋力抵抗在国际上引起极大反响。苏联政府表示要以各种形式积极支援中国抗战。8月《中苏互不侵犯条约》签订，同月下旬，杨杰受命任特派军事考察团团长，率团赴苏谈判军事援助事宜，受到苏联党政领导盛大欢迎和斯大林的亲自接见，双方长谈五个小时。经过与苏联领导人多次会谈，9月下旬，中国获得了急需的第一批军援物资；10月苏方答应给中方两次各为5000万美元的贷款。10月25日，中国政府明令晋升杨杰为陆军上将。接着蒋介石通过杨杰致电斯大林等苏联领导人，对苏联的及时援助表示感谢。苏联又通过杨杰给蒋介石复电。