温伯格1917年8月出生于加利福尼亚州旧金山,父亲是一名律师。温伯格从小接受家庭熏陶,对历史和政治兴趣浓厚,国会记事录是他儿时的课外读物。
在先后获得美国精英学府哈佛大学的文学士和法学士学位后,1941年,在日本偷袭珍珠港事件发生前几个月,温伯格应征入伍,以一名普通陆军士兵的身份被派往第二次世界大战太平洋战场作战。退役前,他是道格拉斯·麦克阿瑟将军麾下军事情报部门的一名上尉军官。
战争年代对温伯格人生的烙印颇深。他对英国二战时期的领袖温斯顿·丘吉尔非常景仰,他后来常常引之为榜样,后者对其人生道路发展有着重要影响。
二战结束后,温伯格从担任法官助理和律师起步,1952年竞选加利福尼亚州议员成功,并连任三届,从而正式踏入政治舞台。
1958年,温伯格竞选加州司法部长失败,但他依然继续活跃于共和党政治圈,并于1962年当选为加州共和党主席。1966年当选加州州长的罗纳德·里根把温伯格延揽于麾下,1967年任命温伯格为加州政府组织和经济委员会主席,第二年又任命他为州财政部长。他与里根的渊源即建立于此。
不久,他被理查德·尼克松看中,进入华盛顿高层政治圈,先后担任尼克松政府的联邦贸易委员会主席、白宫的行政管理和预算局副局长、局长。尼克松1972年获得连任,又提拔温伯格当了卫生、教育和福利部长。
尼克松因“水门事件”下台后,继任总统福特延用了温伯格。福特1976年败给民主党候选人吉米·卡特后,温伯格投身加州大军火商贝克特尔集团任副董事长兼法律顾问。而在里根1981年击败卡特入主白宫时,温伯格重回华盛顿,被他的老上司授予五角大楼第一把手的重权。
温伯格早年的从政经历与国防没什么太深的关系,但他在财政管理方面的才干却在华盛顿广受赞誉,特别善于大刀阔斧地“砍”掉政府开支预算,由此还获得了一个绰号——“快刀上尉”。