自1896年上海交通大学（原南洋公学）建校以来，物理教育就始终贯穿在学校的发展过程中。1900年，学校在中院“辟格致室”，内置理化仪器、博物标本供学生试验之用，1906年改称物理试验室，成为学校最早创建的试验室之一。学校成为最早将物理作为一门基础课程从西方引入的大学之一。100年前，中国第一位物理学博士李复几也是该校毕业生。

诺贝尔物理学奖得主李政道教授为物理系题词。上海交通大学物理系创办人裘维裕在1928年学校决定成立物理系，成为国内最早创办的物理系之一。1930年9月，学校将数、理、化三个系扩充成立科学学院（1938年后改名为理学院），裘维裕教授任首任院长兼物理系主任。1952年因院系调整停办物理系，仅留下物理教研室，为全校各院系学生上普通物理课及实验课。1978年重建应用物理系，2001年应用物理系改名为物理系。

百年来，交大物理学科名师荟萃、桃李满天下，汇聚和培养了裘维裕、周铭、赵富鑫、胡刚复、叶蕴理、周同庆、方俊鑫、吴有训、程守诛、蔡建华、雷啸霖、李家明、汪道涵、钱家骐、胡国定、钱皋韵、华中一、匡定波、吴杭生、龚昌德、方守贤、顾敏、郑杰、叶军、丁洪等杰出人才。