Канчельскис начал заниматься футболом в своем родном Кировограде в спортивной школе «Звезда».
Его пригласил из второй лиги СССР, где он провел два года, в киевское «Динамо» Валерий Лобановский.
В 1989 году его впервые вызывают в сборную СССР, вскоре он перебирается в донецкий «Шахтер».
В феврале 1991-го главный тренер «Манчестер Юнайтед» Алекс Фергюсон обращает внимание на Канчельскиса во время товарищеской встречи Шотландия — СССР.
Петер Шмейхель, Эрик Кантона, Рой Кин, Райан Гиггз, Денис Ирвин, Брайан Робсон, Марк Хьюз — в эту звездную компанию смог вписаться и Канчельскис. Вместе они добились больших успехов.
В 1995 году Канчельскис стал игроком «Эвертона», где отыграл до 1997 года.
Далее в карьере футболиста была «Фиорентина», где адаптироваться ему было совсем непросто. Вдобавок в дело вмешались травмы.
В 2001-м из шотландского «Рейнджерс» Канчельскис на полгода отправляется в аренду в «Манчестер Сити», затем переходит в «Саутгемптон», но там практически не играет. После саудовского «Аль-Хиляль», игрок возвращается в Россию.
После окончания игровой карьеры Канчельскис пробовал себя в качестве клубного функционера, тренера и эксперта.
На данный момент Канчельскис возглавляет узбекский «Навбахор».