国际与比较教育研究所为中国教育科学研究院下设二级机构。前身是中央教育科学研究所外国教育研究室，始建于20世纪五十年代，成立伊始主要以马恩列斯与毛泽东教育思想研究、建立教育理论基础，为解决教育教学上的实际问题提供服务为职责。

1960年，中央教育科学研究所外国教育研究室开始编译《国外教育简报》（不定期），报送党中央、国务院、中宣部、教育部，以及各省市自治区教育厅和各高校，是当时国内唯一一份介绍、评价外国教育的内部刊物，受到各方面的高度重视，对当时的中国教育发展与改革产生过重大影响，是新中国最早的、作为决策参考的外国教育内参资料，该刊物共编辑20余期，后因故停编。

1979年，中国教育学会外国教育研究会（1982年更名为比较教育研究会）正式成立，中央教育科学研究所为会长单位，张天恩（1979年为中央教科所临时负责人之一）担任副理事长，金世柏（中央教科所比较教育研究室研究人员）为秘书长，与王承绪、滕大春、顾明远等组成第一届理事会。同年12月28日，由教育部主管、中央教科所主办的《外国教育》双月刊创刊，是改革开放后最早的外国教育、比较教育研究的学术期刊，遗憾的是1989年因故停刊。

1981年，中央教科所负责人张天恩与比较教育研究室的部分人员参加在保定召开的第三次全国比较教育学术讨论会。张天恩当选为第二届理事长，金世柏当选为秘书长。

20世纪80年代初期，中央教科所比较教育研究室成为国内研究各国教育制度、教育理论和教育方法比较研究的重要机构，尤其是原比较教育研究室主任周南照研究员以自身在国际教育界的声望、以及在联合国教科文组织担任高级指导专家的特殊身份，充分发挥了协调联络和纽带作用，为中国教育科学研究走向世界打开了通道，奠定了基础。

1993年9月23日-10月18日，世界比较教育学会联合会（WCCES）会长W·米特教授和秘书长R·里巴教授应邀访问中央教科所。双方商定中央教科所和比较教育研究会主办第9届世界比较教育大会。后因台湾称谓问题，会议最终未能在我国召开。

1995年1月，中央教科所实施机构改革,“比较教育研究室”更名为“比较教育研究中心”。2003年7月，中央教科所实施大部制改革，“比较教育研究中心”并入教育理论研究部，名称继续保留可对外使用。

2008年7月，面临新的发展趋势，中央教育科学研究所重新调整了下设机构，原有的“研究部”建制取消，“比较教育研究中心”重新成为独立科研部门，并更名为“国际比较教育研究中心”。

2011年，中央教育科学研究所更名为“中国教育科学研究院”，国际比较教育研究中心全称相应更名为“中国教育科学研究院国际比较教育研究中心”。

2016年7月，在新的机构改革下，中国教育科学研究院国际比较教育研究中心更名为“中国教育科学研究院国际与比较教育研究所”。