1980年11月，港督麥理浩委任了檢討香港專上及工業教育的委員會。該委員會在1981年6月建議，為了適應時代發展，香港應全面加強專上教育，立即展開「第二間理工學院」的籌劃工作。
1982年5月，大學及理工教育資助委員會在倫敦召開第一次會議，隨後提交《第二理工學院第一號報告書》，建議新理工學院命名為「香港城市理工學院」（City Polytechnic of Hong Kong），並認為新理工的校址應參考英國的做法，設於人口稠密、主要交通網絡可達到的地區，於是選擇在九龍仔（今日被視為九龍塘）的朱牯仔木屋區劃出約12公頃的土地，作建設永久校舍之用。委員會同時決定應盡早在1984–85年度於旺角臨時校舍開課，以待達之路永久校舍落成。
1982年6月，校董會成員獲委任為第二間理工學院的籌備委員會成員，並正式委任鍾士元爵士為籌備委員會的主席。招聘首任院長的工作於1983年初在全球展開，英國拉夫堡理工大學（Loughborough University of Technology）首席副校長莊賢智教授（Professor David Johns）獲委任為首任院長。
1983年11月23日，立法局通過《香港城市理工條例》。
1984年1月1日，香港城市理工學院正式成立，鍾士元爵士出任校董會主席。同年7月，約16,000人申請報讀新開設的七項課程；10月8日正式開課，共有480名全日制學生及680名兼讀制學生。開校時臨時校舍設於旺角工業貿易署大樓。
1986年1月，學生會正式成立，10月推出首兩個學士學位課程，分別為商業與公共及社會行政。同年11月舉行首屆畢業典禮。
1989年8月位於九龍塘的永久校舍落成，大學部分課程改於新校舍上課，但由於校園尚在進行機電裝置工程及裝修，大部分課程仍於旺角上課，直至校舍開幕為止。1990年1月，香港城市理工學院第一期校園的附屬設施啟用，由港督衛奕信爵士主持揭幕典禮，其他課程亦陸續遷入現址上課。同年10月設立商學院、人文及社會科學學院、科學及技術學院。同年11月1日設立高級專業學院。
