然而仅仅7场比赛后，比尔·范布雷达考尔夫就失去了教职，因为他执教的技术被受到质疑。太阳队的总经理杰里·科朗格洛在剩下的比赛中兼任了球队的主教练。
这个赛季，太阳队从中西分区转到太平洋区，可是排名并没有任何改变。太阳队不尽人意的以38胜44负取得了太平洋分区的第3名，又一次和季后赛擦肩而过。
1973-74赛季，太阳队聘请了新教练约翰·麦克洛德。太阳队开始重建，把队中的球星康尼·霍金斯和洛杉矶湖人队的凯斯·埃里克森作了交易，换取了一个第2轮的选秀权。
但表现一直平庸的太阳队成绩继续下滑，以30胜52负的战绩，止步于季后赛。
1974-75赛季，教练约翰·麦克洛德在任教的第二年，继续实施对太阳队的执教计划，希望把太阳队改造成进攻耐心，防守积极的球队。
这一赛季太阳队的82场比赛中有17场比赛对阵双方的比分都在100分之下。太阳队的表现，让球迷开始以为这支队伍能够重归季后赛。
然而，迪克·范阿斯戴尔和凯斯·埃里克森的受伤让该队在3月连输了10场比赛，彻底断送了太阳队进入季后赛的希望。最后太阳以32胜50负取得了分区第4。
1975-76赛季，太阳队开局不错，在赛季开始的23场比赛中赢下了14场。在全明星赛结束后，太阳队的热力没有能够继续，全队进入了一个18胜27负的小低潮。
然而在比赛的后半程，当年的最佳新人阿尔万·亚当斯，以及另外两名新加盟的球员保罗·韦斯特法尔和加菲尔德·赫德的突出发挥帮助太阳队扭转了局势。
太阳队在后半程取得了24胜13负的好成绩，又一次进入了季后赛。在整个常规赛结束后，太阳队以42胜40负名列分赛区第3名。
在季后赛，太阳队以4-2战胜了西雅图超音速队，进入了西部总决赛。又以4-2的总比分击败卫冕冠军金州勇士队，第一次晋升NbA总决赛。但在总决赛中被波士顿凯尔特人队4-0横扫出局，无缘首座NbA总冠军。
1976-77赛季，由于1975-76赛季出人意料地进入了总决赛，太阳队有了更高的目标。然而伤病止住了太阳队前进的势头。
赫德和科蒂斯·佩里错过了几乎半个赛季的比赛。而阿尔万·亚当斯在赛季刚开始的第4场就受伤了，一直没有恢复。在这个赛季，太阳队最终的常规赛成绩为34胜48负，成绩垫底。
1977-78赛季，太阳队以第6位选秀得到了来自篮球名校北卡的沃尔特·戴维斯。戴维斯很快适应了NbA并表现出色，赢得了当年的年度最佳新人，还以每场平均得分24.2和队友保罗·韦斯特法尔（每场平均得分25.2）一起列入得分最高的前十人名单。
太阳队用里基·索伯斯从印第安步行者队换来了唐·布斯，加强了队伍的防守能力。这些新鲜血液让太阳队从1976-77赛季的倒数第一上升到1977-78赛季分区亚军，以49胜33负成功晋级季后赛。然而，在季后赛中被密尔沃基雄鹿队淘汰出局。
1978-79赛季，太阳队稳扎稳打，在全明星赛开赛之前，已经取得32胜20负的成绩。然而太阳的管理层对这个成绩依然不满意，为了第二轮更上一层楼，用罗恩·李、马蒂·拜恩斯和两个首轮选秀权从新奥尔良换来了莱昂纳德·罗宾逊。
这个交易使得太阳在常规赛结束后以50胜32负的成绩名列第二，创造了历史新高。在季后赛，罗宾逊更成为太阳队制胜的法宝，在第一轮直落三场淘汰波特兰开拓者队。
在第二轮五场决胜负的比赛中，太阳战胜了国王队，顺利进入了西部总决赛，但西部总决赛中被西雅图超音速队4-2击败出局。
1979-80赛季，新赛季的太阳队在常规赛中又取得了历史性的突破。在12月连续9连胜，在全明星开赛前，在22场比赛中只输了4场，这一赛季的常规赛成绩是55胜27负，但在竞争激烈的太平洋赛区还是屈居第3。
在季后赛的第一个对手还是堪萨斯城国王队，太阳连下三局取胜。然而太阳队在第二轮没有过洛杉矶湖人这个坎，被淘汰出局