公司前身为1980年水利部成立的水利部水利工程综合经营公司，该公司为事业编制，起初与水利部工程管理司合署办公，主要负责水利综合经营的行业管理工作；1985年9月，中国三峡经济开发公司并入后，水利电力部将水利部水利工程综合经营公司改组为中国水利实业开发总公司，实行企业化管理；1991年12月，中国水利实业开发总公司更名为中国江河水利水电开发公司，逐步与市场接轨，公司主营水利水电工程、城镇供水工程的开发、咨询、机械成套、总承包以及水利旅游、沙棘开发等。到1997年底，公司已建成和拥有水电、供水项目70多个，联营企业20多个，下辖独资子公司和境内外合资合作机构17家。

1997年12月，为适应国家投融资体制改革，水利部将中国江河水利水电开发公司更名改建为中国水利投资公司，原国务院副总理邹家华出席挂牌仪式并为公司题词：“深化投资体制改革，加快水利产业化进程”。

1998年11月，公司新划入了两家子公司后与水利部脱钩，移交中央企业工委管理，2003年4月以后纳入国资委管理。

2004年12月27日，经国家发改委、国资委、财政部、水利部四部委报请国务院同意，国家发改委印发了《国家发改委关于中国水利投资公司改革的意见的通知》（发改经体[2004]2993号），该意见指出要“继续保留并发展中水投，在对其进行科学定位的基础上，进一步充实其资本金”，并明确公司“作为中央水利资产的投资主体和运营主体之一”；同时该意见还对公司的经营范围、内部制度建设、公司改造工作的组织落实等重要问题提出了明确的意见和要求。

2004年12月28日，经报请国务院批准，国资委印发了《关于同意中国建筑材料集团公司等5户企业重组的通知》（国资改革[2004]1196号），同意中国水利电力对外公司并入公司成为全资子企业。

2006年8月30日，公司在国家工商行政管理总局注册成立国水投资集团（简称国水投集团）。2006年10月31日经国务院国资委同意，国家工商行政管理总局核准，公司更名为中国水利投资集团公司。

2008年10月15日，经报请国务院批准，国资委印发了《关于中国长江三峡工程开发总公司与中国水利投资集团公司重组的通知》（国资改革[2008]1151号），同意国水投集团并入中国三峡总公司成为其全资子企业。