1963年,張首晟出生在上海。那時還沒開始文化大革命,但是1966年開始的文革也讓他的學上的有一搭沒一搭,張首晟在家中閣樓裏發現了他爺爺的大學畢業證書,還有許許多多稀奇古怪的書,從康得到黑格爾,從達芬奇到羅丹,從楊振寧到李政道,從藝術到科學。自此,他迷上了讀書。
1976年,他的父親給他買了一套高中自學教科書,數學物理化學等等一應俱全。就靠這套書,兩年後的1978年他居然通過了高考。那一年他才15歲。多維新聞網報道,後來張首晟說:「我的初中學校很差,如果按部就班再讀普通高中,也許結果就和今天不一樣了,人生的成就總是跟你一些十字路口上的選擇有關。」
那次高考,允許初中生參加,每個區只有10個名額。張首晟曾說:「伯父的大學畢業年冊對大學有著生動的描寫,我從小就非常盼望大學生活。雖然我是初中生,但當時的環境下,高中生也不比我擁有更多的知識,所以還是有些信心的。」但是如果通不過,那就沒機會上高中了。這是張首晟人生裏的第一次冒險。經過討論,他的爸媽同意了他。就這樣,高考後他進入了他爺爺曾經待過的地方——復旦大學。那年高考改變了很多人的命運,包括張首晟。
在復旦,他只上了一年學。因為他的高考成績非常優秀,一進學校就已經被內定成了赴德國留學的人選。
在柏林自由大學學習的時候,張首晟把大統一理論當成了自己的學術目標。因為這是愛因斯坦努力一生的事業,也是楊振寧的領域。但是當他真的成為楊振寧的弟子時,楊振寧卻不支持他的想法。在美國紐約州立大學石溪分校,楊振寧推薦張首晟去搞凝聚態物理。理由是這玩意方興未艾,發展特別快,很適合年輕人去搞一搞。而這並非楊振寧的領域。
雖然最初大惑不解,但是張首晟還是去做了。1987年,在孤身出國7年後他終於獲得了博士學位。畢業後他並沒有立刻去申請教職,而是到了IBM做高級研究員。此時他在半導體領域已經深耕多年,頗有建樹,也受到了當時為斯坦福大學物理系主任的朱棣文賞識。