1967-68赛季，由11支球队组成的AbA（美国篮球联盟）诞生，同时当时的圣迭戈火箭队和西雅图超音速队作为两支扩充新军进入NbA联盟。
火箭队用状元签选中帕特·莱利，但仍创下了15胜67负的耻辱战绩，是当时NbA的最多负场记录。但值得纪念的是，火箭队历史上的第一场NbA比赛是在1967年10月14日，于圣地亚哥体育馆内进行的。
1968-69赛季，火箭队得到球队历史上的第二名状元——埃尔文·海耶斯。海耶斯的到来迅速让球队的战斗力提升了不少，而海耶斯也凭借其优秀的表现和过人的实力成为那时火箭队中的头号巨星。
在海耶斯的率领下，火箭队力压众强队，历史上首次跻身季后赛，但在半决赛中再次倒在了老鹰队面前，无法季后赛第二轮的比赛。
1969-70赛季，在新帅亚历克斯·汉纳姆的率领下，火箭只取得27胜55负的成绩，以埃尔文·海耶斯一个人的力量根本无法帮助火箭队取得质的飞跃，在经历了几个惨淡的赛季之后，火箭队于1971年迁至西部的太空城——休斯顿市。
在火箭队刚来到休斯顿市的时候，球队的人气和上座率并没有得到明显的改善，平均每场主场观众只有区区4966人，这使得俱乐部的经营入不敷出。
1971-72赛季，尽管票房不佳，火箭的表现仍然令人尊敬。
已经打到第四个赛季的埃尔文·海耶斯平均每场得分（25.2）和篮板（14.6）都居联盟前列（第10）。在休斯敦的第一赛季，火箭取得34胜48负的成绩，位列太平洋分组第四。
1972-73赛季，开赛前，因火箭队球队战绩如此不堪入目使得当家球星埃尔文·海耶斯远走子弹队。交易之后的火箭队由鲁迪·汤姆贾诺维奇、杰克·马尔文、吉米·沃克和迈克·纽林挑起大梁。
另外，当时的火箭队中还有一位得分好手，那是NbA历史上的“罚球高手”之一——卡尔文·墨菲。在这些年轻人的努力下，火箭队在这一赛季常规赛最终以33-49位列分区第三。
鲁迪·汤姆贾诺维奇1974-75赛季，火箭队由汤姆贾诺维奇，墨菲和纽林领衔，火箭取得10胜5负的开局战绩。在常规赛季末，火箭队以41胜41负排在中央组第二，仅次于华盛顿子弹队。
这个赛季是约翰·埃根执教火箭的第二个完整赛季，也在迁到休斯敦后第一次出现季后赛中。在季后赛首轮三局两胜赛制下对阵纽约尼克队，火箭队以2比1赢得晋级下一轮。
但在西区半决赛中被波士顿凯尔特人队以4-1的总分淘汰出局。
1975-76赛季，火箭队没能再续辉煌，仅取得40胜42负的成绩无缘季后赛。那一赛季的大部分时间里，火箭队的首发阵容由鲁迪·汤姆贾诺维奇，卡尔文·墨菲，迈克·纽林，凯文·卡内特和埃德·拉特雷夫组成。
1976-77赛季，休斯敦火箭队迎来了一位“巨星”级球员——摩西·马龙。由汤姆贾诺维奇，墨菲，纽林，马龙，卡内特，和新秀后卫约翰·卢卡斯领衔的火箭队力压华盛顿，以49胜33负的战绩夺得中央组头名。
最后火箭队一路过关斩将杀进了分区的总决赛，但是因一个极具争议的罚球使得火箭队2-4落败。在这个赛季，摩西场均13.2分13.1个篮板，以总共437个进攻篮板位列联盟之首。
摩西·马龙曾帮助火箭队闯入总决赛
1977-78赛季，在一场普通的常规赛中，由于双方球员发生了不理智的冲突，湖人队的球员华盛顿误伤了火箭队的鲁迪·汤姆贾诺维奇，导致后者面部碎裂。