IMO在中学里进行数学竞赛有着悠久的历史，一般认为始于1894年由匈牙利数学界为纪念数理学家厄特沃什──罗兰而组织的数学竞赛。而把数学竞赛与体育竞赛相提并论，与科学的发源地──古希腊联系在一起的是前苏联，她把数学竞赛称为数学奥林匹克。20世纪上半时，不同国家相继组织了各级各类的数学竞赛，先在学校，继之在地区，后来在全国进行，逐步形成了金字塔式的竞赛系统。从各国竞赛的进一步发展，自然为形成最高一层的国际竞赛创造了必要的条件。1956年罗马尼亚数学家罗曼教授提出了倡议，并于1959年7月在罗马尼亚举行了第一次国际奥林匹克数学（International Mathematical Olympiad，简称IMO），当时只有保加利亚、捷克斯洛伐克、匈牙利、波兰、罗马利亚和苏联参加。以后每年举行（中间只在1980年断过一次），能加的国家和地区逐渐增多，目前参加这项赛事的代表队有80余支。我国第一次参加国际数学奥林匹克是在1985年。