Футбольный клуб «Рубин» ведет свою историю с 1936 года, когда на базе завода имени С.П. Горбунова была создана футбольная команда. Свое нынешнее название клуб получил не сразу, в силу того что она представляла оборонное предприятие, которое нуждалось в некотором режиме секретности. Официально называться «Рубином» клуб стал в 1964 году, а до этого носил имена «Искра», «Крылья Советов», команда Ленинского района.

В 1948 году клуб первым из команд республики стал участвовать в чемпионате РСФСР. И сразу же показал свой характер, сыграв в товарищеском матче со «Спартаком» вничью, проигрывая по ходу встречи 2:6. В период с 1948 до 1957 клуб выступал в Поволжской зоне первенства РСФСР. Лидерами команды в это время были известные футболисты: Виктор Бойков, Арам Мусаилов, Григорий Руненков, Иван Ноктиков, Константин Сундатов.

В 1958 году команда была включена в состав участников подразделения «Б» чемпионата СССР. Именно этот год принято считать официальной датой основания «Рубина». 20 апреля произошло другое очень важное для клуба событие – был забит первый гол «Рубина» в чемпионате СССР – его автором стал Игорь Игнатов.

В 1959 году в команду пришел новый тренер – Николай Иванович Сентябрев. С его приходом началась «эпоха Сентябрева», длившаяся 12 лет.

В 1960 году клуб провел свои первые международный матчи с польскими командами «Скра» (Ченстохова) – 1:0, со сборной г. Тешина – 0:0 и с «Вислой» (Плоцк) – 8:0.

В 1964 году Правление спортклуба предложило сменить название команды на «Рубин». Название оказалось счастливым, и в 1965 году «Рубин» впервые в своей истории завоевал путевку в класс «А». Первая победа команды на таком уровне состоялась в Нальчике, был обыгран местный «Спартак». Итоговое место в дебютном для себя сезоне оказалось очень высоким – пятым.

В 1968 году состоялся дебют 19-летнего Виктора Колотова, будущего капитана сборной СССР. Виктор стал единственным игроком «Рубина», сыгравшим за сборную СССР.

В 1970 году команда заняла общее 25-е место в Союзе и 11-е в России – это лучшее достижение клуба в чемпионатах СССР. В 1971 году «Рубин» занял 22 место и покинул первую лигу.

В сезоне 1979 года казанцы установили антирекорд – 19-е место во второй лиге. В течение сезона в 23 матчах на выезде была одержана всего 1 победа.

В 1981 году «Рубин» возглавил Владимир Михайлов. Он проработал в клубе 7 лет. В 1985 году в команде появился Владимир Гаврилов, лучший на сегодняшний день бомбардир «Рубина» за всю его историю.

В 1989 году на пост наставника клуба пришел заслуженный тренер России – Иван Васильевич Золотухин. В связи с распадом СССР распался и чемпионат Союза. Вследствие чего вместо союзной «буферной» лиги «Рубин» оказался в первой лиге первого чемпионата России. Эта лига состояла из трех зон. «Рубин» оказался в «Центральной». В 1992 году произошло очень печальное событие – умер Иван Васильевич Золотухин. Его преемником на посту главного тренера «Рубина» стал Александр Владимирович Ивченко. Для клуба начались непростые времена: в 1993 году команда выбыла во 2-ю лигу, а в 1994 чуть не вылетела и из нее.

В 1994 году прекратилось сотрудничество с КАПО им. Горбунова. Постановлением главы администрации г. Казани от 13 марта 1995 года было зарегистрировано коммунальное учреждение «Футбольный клуб «Рубин».

В 1996 году клубом занялся мэр Казани Камиль Шамильевич Исхаков. Он стал гарантом финансового благополучия клуба. Были поставлены задачи выйти сначала в первую, а затем и в премьер-лигу. Команда впервые за много лет получила возможность пополнять свои ряды большим количеством новичков, а в структуре клуба наконец-то появилась резервная команда. «Рубин» очень мощно провел сезон-1997, завершив его серией из 13 побед и набрав 102 очка из 120 возможных, и вышел в первую лигу.

Задачу по выходу клуба в премьер-лигу брались решать многие – в период с 1998 по 2001 год в команде сменился не один наставник (в том числе, знаменитый Павел Федорович Садырин), пока на тренерский мостик не Курбан Бекиевич Бердыев. Под его руководством «Рубин» блестяще провел сезон-2002 и с первого места перешел в класс сильнейших.

Мало кто верил, что новичок премьер-лиги проявит себя настолько дерзко – в команду пришло много новых игроков (в основном, легионеров), и на налаживание внутрикомандных связей должно было уйти какое-то время. Однако Бердыеву удалось это без особых потерь, и после некоторой утряски команда выдала 10-матчевую серию без поражений и оказалась на 2-й строчке турнирной таблицы. К финишному отрезку команда подошла на 5-м месте, и для того, чтобы попасть в тройку призеров, ей необходимо было побеждать в трех оставшихся матчах. Эта задача была выполнена с блеском, и, одержав волевую победу в матче против ЦСКА, «Рубин» стал бронзовым призером чемпионата России.

После столь головокружительного успеха последовал неминуемый спад. Получился он довольно болезненным – казанцы завершили сезон на 10-м месте и провалились в Кубке УЕФА – победив в гостях венский «Рапид» 2:0, «Рубин» к безмерному огорчению своих болельщиком уступил австрийцам дома 0:3 и выбыл из розыгрыша.

После такого отрезвляющего душа последовала тотальная перестройка, многие лидеры покинули команду, им на смену пришли новые лица – как из других клубов, так и из собственных резервов. В итоге команда вновь начала демонстрировать футбол, который от нее ждали, а «Центральный» стадион в Казани и вовсе стал неприступной крепостью – за весь чемпионат ни одному клубу не удалось увезти оттуда 3 очка. По итогам розыгрыша «Рубин» оказался на 4-й строчке в турнирной таблице.

Два последующих сезона прошли для казанцев с переменным успехом – в 2006 году «Рубин» занял достойное 5-е место, но в следующем году последовал спад – лишь 10-е место. Во многом это можно объяснить уходом лучшего игрока команды из Татарстана – аргентинца Алехандро Домингеса, перешедшего в «Зенит» за 7,000,000 евро, что на тот момент являлось рекордным трансфером среди российских клубов. Также в июне 2007 года «Рубин» подстерегла еще одна утрата – в автомобильной катастрофе погиб один из самых талантливых воспитанников клуба Ленар Гильмуллин. В еврокубках команде вновь не удалось блеснуть – поражение в первом раунде Кубка УЕФА от «Пармы» в сентябре 2006-го (в квалификационном раунде был повержен белорусский БАТЭ) и вылет из Кубка Интертото на второй стадии годом позже.

Перед сезоном-2008 команду вновь ожидала основательная перетряска. Команду пополнили такие именитые футболисты как Сергей Семак (будущий капитан сборной России), Сергей Ребров, Саво Милошевич, вернулся вратарь Сергей Козко, из «Трабзонспора» был куплен талантливый турецкий форвард Карадениз. Результат превзошел все ожидания – «Рубин» стартовал с 7 побед подряд, что является рекордом чемпионатов России. И хотя пойти в таком графике по всему сезону команде не удалось, стартового преимущества хватило на весь чемпионат, и за три тура до его завершения было объявлено имя нового чемпиона России – в год своего 50-летия им стала команда из Казани.