公元354年(皇始四年)，苻雄去世，苻堅襲父爵東海王。另亦獲授龍驤將軍，苻健更以苻洪曾經在后趙獲授此號勉勵苻堅，苻堅當時亦“揮劍捶馬”，被苻健的話所感動和激勵，士卒見此，亦心服苻堅。苻堅當時亦博學多才藝，更有經略大志，廣交豪杰。

公元355年(前秦皇始五年)，苻健病死，其子苻生繼承帝位。苻生是天下少有的暴君，視殺人如兒戲。每逢接見大臣，都讓侍從箭上弦，刀出鞘、鐵鉗、鋼鋸等擺放跟前。看誰不順眼，就隨即殺掉。如哪位大臣有所勸諫，就被視為誹謗，殺之;若有人說句奉承話，就被視為獻媚，亦殺之，因此，朝中人人自危。

公元357年(壽光三年)，姚襄謀圖關中，并聯結前秦境內的羌人，苻堅與苻黃眉、鄧羌等人率兵抵抗，終在鄧羌成功誘使姚襄出擊而由苻黃眉率主力將姚襄擊敗，并擒殺姚襄，逼令姚襄弟姚萇率其部眾歸降前秦。然而，當時前秦皇帝苻生賞罰失當，兇殘好殺，苻黃眉因立大功后未受褒賞，反受侮辱而謀反。雖然最終苻黃眉謀反失敗，但苻堅當時很有聲譽，姚襄舊將薛贊和權翼亦欣賞苻堅的才能，并私下對苻堅說：“如今主上殘忍暴虐，搞得全國人心離散。常言說得好，有德者昌，無德者亡。神器業重，不要讓政權落到他人手中，希望大王早作打算，行商湯、武王之事，以順應天意民心”，梁平老等人亦勸苻堅謀反。

苻堅感到實力不足，不敢輕易動手，而在暗中謀劃，或許苻生也聽到了風聲，在公元357年的一個夜晚對一位侍女說：“苻法和苻堅兄弟也不可信賴。明天就把他們除掉。”侍女等苻生熟睡后，秘密報告了苻堅。苻堅兄弟才不得不立即采取行動，召集親兵，分兩路沖進苻生的王宮，把睡懵懵的苻生拉到另外一個房間幽禁起來，廢為越王。廢苻生后，苻堅將帝位讓給庶兄苻法，但苻法自以庶出不敢受，苻堅在群臣的勸進下即位，并降號天王，稱“大秦天王”，改年號永興，實行大赦。后遣使殺了廢帝苻生，謚其曰厲。

苻堅即位時，前秦社會一派混亂，關中本來是各民族雜居的地區，民族仇殺此起彼伏，前秦在戰亂中建國，法律制度都不健全。苻生又實施殘暴統治，已有水旱災害發生，致使千里秦川豪強橫行、老百姓苦不堪言。

苻堅在做東海王時，就痛感時弊誤國害民，因而即位后決心開創清明的政治局面，整頓吏治，懲處不法豪強，平息內亂，實行與民休養生息的政策。他深知明政無大小，以得人為本的道理，所以廣招賢才，并首先從調整最高領導機構入手，果斷地處斬了幫助苻生作惡的佞臣董榮、趙韶等二十余人，提拔重用了一批精明廉潔的漢族士人參與朝政，其中最有影響的就是寒門出身的王猛。

又修整一些名實不符的官職，恢復已絕的宗祀，上禮神祇，鼓勵農業，設立學校，扶持鰥寡孤獨和年老無依者。另亦褒揚稱頌一些有特殊才行、孝友忠義、有德業的人。后苻堅下令各地方官員都上舉孝悌、廉直、文學、政事四項才德的人才，若真的是人才就得賞賜，否則就被降罪;另苻堅亦不優待宗室，即使是宗室中人，若無才干都會被棄用，于是當時國內官員都十分稱職。而通過開墾耕地，令前秦倉庫充實，人民溫飽而令盜賊也少了。

苻堅亦下令與民休息，在即位次年(公元358年)討平于并州叛變的張平后就下令偃甲息兵，直至公元365年出兵平定劉衛辰及曹轂的叛亂前都沒有大型的軍事行動。苻堅又應當時秋旱而下令減省膳食和暫停奏樂，將金玉錦繡等貴重物品散發給軍士，并命后宮省儉服飾，苻堅更開發山澤，且得出的資源不限于官府，連平民也可用。

至公元364年(甘露六年)，苻堅下令各公國自置中尉、大農及其他官屬，然而眾人卻以當時富商趙掇、丁妃等人車服盛如王侯，紛紛延攬這些富商為二卿。苻堅于是下令延攬富商為卿者降爵位到侯爵，并下令沒爵位或官職的人都不能在都城百里以內乘車馬;工商、奴隸及婦人亦不得穿戴金銀錦繡，違者處死。