Анатолий Алябьев родился 12 декабря 1951 года в деревне Данилково Вологодской области. С детства увлекался лыжными гонками, во время службы в армии выполнил норматив мастера спорта. После этого занялся биатлоном, в 1979 году выиграл чемпионат СССР, а затем – Кубок страны.
На Олимпийских играх в Лейк-Плесиде в 1980 году выиграл три медали. Алябьев стал чемпионом в индивидуальной гонке на 20 км и помог команде выиграть «золото» в эстафете. В спринтерской гонке на 10 км стал бронзовым призером. После Олимпийских игр дважды выиграл «бронзу» чемпионатов мира (1981 и 1982 гг) в эстафете.
По окончании карьеры спортсмена работал тренером, в период с 1990 по 1998 гг участвовал в подготовке сборной команды России по биатлону на Олимпийских играх и чемпионатах мира.
Занимался преподавательской и научной деятельностью. Работал начальником кафедры лыжной подготовки и ускоренного передвижения Военного института физической культуры.
Кандидат педагогических наук, профессор. Кавалер ордена Трудового Красного Знамени.
Олимпийский комитет России выражает глубокие соболезнования семье, близким, друзьям, коллегам Анатолия Алябьева и всем поклонникам биатлона.