Футбольный клуб «Терек» основан в 1946 году под названием «Динамо». Через два года сменив имя на «Нефтяник», в 1958-м клуб вновь вернул себе первоначальное название.

Большую часть своей истории «Терек» провел в низших всесоюзных и российских лигах. В 1974 году впервые в своей истории «Терек» выиграл кубок РФСР.

В 1992 году по причине военных действий в Чеченской Республике клуб прекратил свое существование.

В 2001 году команда возродилась, под руководством Шахина Диниева заняв пятое место в зоне «Юг» второго дивизиона российского чемпионата, а через год стала победителем розыгрыша.

Самая успешная эра в истории клуба началась в 2003 году, когда грозненцы вышли в первый дивизион, а команду возглавил известный в прошлом футболист алматинского «Кайрата» Воит Талгаев. Тренер сделал ставку на возрастных и опытных футболистов: Олега Терехина, Дмитрия Хомуху, Максима Бокова, Андрея Федькова. В 2004-м «Терек» вышел в премьер-лигу, установив ряд рекордов, забив сто мячей и оформив впечатляющую 21-матчевую беспроигрышную серию, а лучший бомбардир клуба Андрей Федьков забил за сезон 38 мячей.

В том же году «Терек» сенсационно завоевал Кубок России – на московском стадионе «Локомотив» в финале со счетом 1-0 были обыграны самарские «Крылья Советов». Вместе с почетным трофеем команда получила право на выступление в еврокубках. Дебют в Кубке УЕФА получился очень успешным: грозненцы обыграли по сумме двух матчей польский «Лех» 2-0, но уже в следующем раунде уступили швейцарскому «Базелю».

В 2005 году клуб покинул премьер-лигу, не в последнюю очередь из-за того, что соперники приноровились к игре «Терека», да и наличие в составе возрастных футболистов не могло не сказаться на игре команды. Проведя в первом дивизионе два сезона, в 2008 году команда под руководством Воита Талгаева вернулась в элитный дивизион.

Долгое время велись разговоры, разрешать ли клубу проводить матчи в Грозном, и вот в первом туре нового сезона «Терек» сыграл домашний матч против все тех же самарских «Крыльев Советов» в Грозном на стадионе имени Султана Билимханова.