《西域同文志》将霍尔果斯写作“和尔郭斯”，其注释为“准语（蒙古语，引者注）谓牧地遗矢也，地容游牧，故名。旧时音为“和落霍斯”。霍尔果斯蒙古语意为“驼队经过的地方”，哈萨克语意为“积累财富的地方”。

2013年9月7日，中国共产党中央委员会总书记，中共中央军事委员会主席，中华人民共和国主席，中华人民共和国中央军事委员会主席习近平在哈萨克斯坦纳扎尔巴耶夫大学作演讲，提出共同建设“丝绸之路经济带”。随后，“一带一路”建设成为世界各国为之瞩目的共商、共建、共赢、共享的合作发展平台。在此大背景下，2014年9月26日，霍尔果斯市挂牌成立。霍尔果斯市因霍尔果斯河而得名，因霍尔果斯口岸而闻名。霍尔果斯市虽然年轻，但其地域历史悠久、文化底蕴深厚，素有“千年驿站，百年口岸”之美誉。

霍尔果斯口岸于1983年11月26日经国务院批准正式恢复开放后，由伊犁哈萨克自治州（以下简称伊犁州）外贸运输分公司负责监管。1985年5月伊犁州政府成立霍尔果斯口岸办公室，代表伊犁州人民政府对口岸实施协调管理。1987年2月根据国务院口岸领导小组文件，将霍尔果斯口岸办公室改为口岸管理委员会。1992年7月，伊犁州人民政府明确霍尔果斯口岸管理委员会为州政府派出机构，授予县级政府的行政管理权限和口岸管理职能。2006年国务院批准建设中哈霍尔果斯国际边境合作中心。2006年4月成立霍尔果斯口岸管理委员会，既是自治区人民政府的派出机构，又是伊犁州人民政府的派出机构，管理口岸发展建设。2011年12月设立霍尔果斯经济开发区管委会（党工委），为自治区党委、人民政府的派出机构，与霍尔果斯口岸管委会（党工委）一套班子。2014年6月26日，国务院批准设立霍尔果斯市，同年9月26日正式挂牌成立。实行“一套班子、四块牌子、统一领导，分别管理”的管理体制，其中伊车嘎善乡、莫乎尔牧场（含格干沟牧场）从霍城县析出归霍尔果斯市管辖。