1953年新中国成立之初，国民经济建设急需石油资源，石油工业发展急需专业人才。在这种形势下，以清华大学石油工程系为基础，汇聚北京大学、天津大学、大连工学院等著名高校的相关师资力量和办学条件，组建成立了新中国第一所石油高等学府——北京石油学院，隶属燃料工业部，是当时北京著名的八大学院之一。1960年10月，学校被确定为全国重点高校。

1969年，学校迁至胜利油田所在地——山东东营，更名为华东石油学院。1988年，学校更名为石油大学，逐步形成山东、北京两地办学的格局。1997年，石油大学正式进入国家“211工程”首批重点建设的高等学校行列。2000年，石油大学由中国石油天然气集团公司划归教育部管理。2000年6月，经教育部批准，学校成立研究生院。2003年10月，教育部与四大石油公司签署了共建石油大学的协议。2005年1月，学校更名为中国石油大学。2005年8月，教育部与山东省人民政府签署共建中国石油大学（华东）协议。2006年10月，学校以“优秀”成绩通过教育部本科教学工作水平评估。2010年，学校成为国家首批实施“卓越工程师教育培养计划”的61所试点高校之一 。2014年，教育部与中国石油天然气集团公司、中国石油化工集团公司、中国海洋石油总公司、神华集团有限责任公司、陕西延长石油（集团）有限责任公司等五大能源企业集团公司共建中国石油大学（包括中国石油大学（北京）、中国石油大学（华东））协议正式签署。

1953年建校以来，走出了何国钟、沙国河、汪燮卿、杨启业、王德民、时铭显、郑颖人、王铁冠、袁士义、高德利等25位两院院士。党政领导人吴仪、俞泽猷、王彦、朱家甄、张轰、杨兴富、尹克升、蒋金楚、李毅中、孙晓群、纪明波、吴耀文、卫留成、马富才、周原、孙崇仁、刘玉祥、匡兴华、许立全、李国梁、周海成、陈新发。国企高管陈炳骞、牟书令、刘海燕、曹云石、蒋龙生、郑虎、周吉平、肖国庆、曹耀峰、张喜文、王宜林、杨华、王志刚、袁光宇、吴孟飞、王永健、苟三权、王家祥、朱平、张瑞生、宋力航、蔺爱国、石林、黄立功、凌霄、孙龙德、孙波、王治卿、吴恩来、周勇、张召平、薄启亮、钱建华、张国珍、李丕龙、雷典武、王仲林、徐文荣、汪东进、赵平起、李飞龙、桑运超、田军、梁永智、孙焕泉、蒋庆哲、张来斌、山红红、仝兴华、罗维东。企业家石秦岭、黄鸣、罗慧来、唐万新、吴建发、谷玉洪、邱武、李建齐、于顺科、刘洪亮、郭希田、郭玉成、陈怀荣、宋国然