澳洲國立大學的創立是依據澳洲國會通過的專案法。該法案由當時的澳洲總理班·奇夫利以及二次世界大戰戰後重建委員會主任John Dedman所共同提出，並得到了反對黨領袖羅伯特·孟席斯的全力支持，順利於1946年8月1日獲得通過。創校宗旨，在於建立一所頂尖的研究型國立大學，以提升澳洲的整體學術研究實力。ANU也成了澳洲唯一由聯邦國會立法設立的國立大學，不同於其它澳洲公立大學皆是由各地州議會立法設立。
ANU成立後，大批傑出的澳洲學者們開始陸續加入ANU的創建行列，其中包括了在雷達開發與核物理領域中赫赫有名的馬克·奧利芬特爵士、青黴素的發現者霍華德·弗洛里，弗洛里男爵、歷史學界的大師Keith Hancock爵士和著名的經濟學者Herbert Cole Coombs爵士等等。
創校初期，ANU致力於尖端科技的研發，並且只招收研究生。直到1960年將當時隸屬於墨爾本大學的Canberra University College併入，才開始招收大學部學生。1979年創立ANU Enterprise ，負責事業單位的營運，例如：科研專案承接、精密科學儀器生產等等
