1959年4月，經山東省人民委員會批準成立山東省農業科學院農業機械化、電氣化研究所，由山東省農業科學院直接領導；
1959年8月，經中共山東省委農村工作部批準，我所更名為山東省農業機械研究所。
1960年1月，我所從山東省農業科學院分立出來，劃歸山東省農業機械廳領導，業務受山東省農業機械廳與山東省農業科學院雙重領導。
1963年2月，中國科學院山東分院機械動力研究所并入我所。
1965年5月，桑園路辦公樓啟用，辦公地址由黃臺路遷至桑園路19號，沿用至今。
1984年7月，我所被確定為首批科技體制改革試點單位。
1990年1月，經原國家機械委批準，我所成立了機電部農副產品加工機械產品質量監督檢測中心濟南分中心，該中心具有獨立開展業務的權力。
2007年6月，我所在章丘建立的中試基地通過驗收。
2013年5月，經山東省機構編制委員會辦公室批準，我所更名為山東省農業機械科學研究院。
2015年12月，經山東省人民政府辦公廳批準，我院劃歸山東省農業科學院管理。
2017年6月，我院作為首批納入法人治理結構建設的院所之一，成立了首屆理事會。
