29 декабря 1977 года на базе мотострелкового полка Отдельной мотострелковой дивизии особого назначения (ОМСДОН) имени Дзержинского была сформирована учебная рота специального назначения (УРСН).
Военнослужащих в это подразделение отбирали из числа лучших спортсменов дивизии на добровольной основе. Кандидаты должны были иметь отличную физическую подготовку и обладать психологической устойчивостью. В 1989 году на базе роты был создан батальон, который в 1991 году стал отрядом специального назначения «Витязь».
В 1980 году отряду было поручено обеспечение безопасности участников Московской Олимпиады. В 1981 году «витязи» участвовали в освобождении детей, захваченных террористами в одном из сел близ Ижевска. В 1986 году они ликвидировали группу преступников, которые пытались захватить самолет в Уфе. В 1990 году «Витязь» совместно с группой «Альфа» провел спецоперацию по освобождению захваченных бандитами заложников в Сухумском следственном изоляторе.
Отряд принимал участие в разрешении всех межнациональных конфликтов на территории бывшего СССР, а также в разоружении незаконных вооруженных формирований на территории Чечни в 1994-1996 годах.
С 1999 года отряд выполняет задачи в ходе контртеррористической операции на территории Северо-Кавказского региона РФ. В 2002 году отряд участвовал в специальной операции по освобождению заложников, захваченных террористами на мюзикле «Норд ост» в Москве.