Действительно, практически все остальные страны, окружавшие Хазарский каганат, придерживались одной монотеистической государственной религии и с большим трудом принимали религиозные меньшинства, проживавшие на их территориях. В Хазарии же все было иначе: многочисленные источники сообщают о религиозном плюрализме и веротерпимости этого государства. Так, по сообщениям мусульманского автора ибн Русте, правитель дагестанской области Сарир, входившей в состав каганата, по пятницам ходил молиться в мечеть, по субботам в синагогу, а по воскресеньям в церковь. Географ Гардизи добавлял, что так делали и остальные жители Сарира. К данному сообщению следует отнестись скорее как к историческому анекдоту, показывающему, тем не менее, степень религиозной толерантности хазарского государства.

А вот уже более подробное описание судебной системы хазар у арабского географа Х века Абуль-Хасана аль-Масуди: «В хазарской столице по правилу семь судей (кади); два из них для мусульман; два — для хазар, которые судят в соответствии с Торой; два — для христиан, которые судят в соответствии с Евангелием; и один для саклабов, русов и других язычников, который судит согласно языческому [обычаю], т. е. по велению разума».

Далее Аль-Масуди подробно описывает, какие именно религии исповедовали различные слои населения Хазарии. Иудаизм, по его сведениям, был религией достаточно ограниченного, однако максимально влиятельного меньшинства: его придерживалась хазарская знать, царь, его свита и хазары царского рода. Большинство населения страны было мусульманами, из которых и состояло в основном войско Хазарии; они были также известны под названием «ал-ларисийа» или «арсийа».

Язычниками в Хазарии, по сведениям Масуди, были славяне (по-арабски «сакалиба») и русы. Под «русами» имелись в виду, несомненно, варяги с территории северной и центральной Руси. Географ пишет следующее об их языческих обычаях: «Они сжигают своих мертвецов вместе с их конями, утварью и украшениями. Когда умирает мужчина, его жену заживо сжигают вместе с ним, но если умирает женщина, то мужа не сжигают». Русы и славяне также служили в войске хазарского правителя.

Из других источников мы знаем, что язычество в форме тенгрианства исповедовали преимущественно тюркские обитатели каганата, в особенности савиры и сами хазары (за исключением правящей аристократии). Обожествляя солнце, гром, огонь и воду, главным они считали бога неба и солнца — Тенгри(хана). Богам поклонялись в капищах и священных рощах, принося в жертву лошадей.

Однозначного ответа на этот вопрос нет. С конца VIII — начала IX веков религией хазарской аристократии становится иудаизм. Однако, насколько сильно он был распространен среди всего населения каганата, сказать сложно. По мнению таких исследователей этой темы, как Б.  Заходер и В.  Минорский, иудаизм был религией лишь хазарской аристократии, т.  е. кагана и его окружения. О распространении иудаизма в Хазарии исключительно среди правящей элиты и аристократии также говорит и полное отсутствие каких-либо археологических памятников с выраженной иудейской символикой на территории каганата. Не найдены ни упоминающиеся в документах синагоги, ни религиозные школы, ни погребения, ни граффити, ни какие-либо другие свидетельства об исповедовании хазарами иудаизма.

Мусульманские источники (аль-Истахри, ибн Русте, ибн Хаукаль и др.) пишут о том, что большинство жителей Хазарии исповедуют христианство и ислам. Приведем выдержку из аль-Истахри (около 950 года): «Царь их — еврей [иудей]. У него около 4000 пешего войска. Хазары — магометане, христиане, евреи и язычники; евреи составляют меньшинство, магометане и христиане большинство; однако царь и его придворные — евреи; простой народ состоит главным образом из язычников».

При этом, по мнению аль-Масуди, войско хазар состояло в основном из мусульман, христиан и отчасти язычников (славян и варягов-русов). По сведениям других авторов, среди тюркских народов каганата большинство язычников составляли тенгриане, поклонявшиеся богу неба Тенгри.

Какое объяснение можно найти данной, достаточно удивительной для сурового средневекового менталитета, толерантности по отношению к другим религиям? Исследователь О. Б. Бубенок предположил, что религиозную толерантность хазар можно объяснить поликонфессиональностью и равнодушием к вопросам религии, свойственным для кочевых народов средневековья. Однако к IX—X векам жители Хазарского каганата уже были фактически оседлыми народами, жившими преимущественно в городских центрах и, помимо военной деятельности, занимавшимися земледелием, торговлей и ремеслом.

Другие исследователи дают иное объяснение этому феномену. Дело в том, что, по обычаям тех времен, религию надо было принять от центров религиозной пропаганды других государств — признавая тем самым эти государства в качестве своих патронов. Вспомним, к примеру, что византийский император потребовал вассальной зависимости от русского князя Владимира в качестве услуги за обращение русов в православную веру, и, чтоб избежать этого, Владимир начал свой знаменитый поход против Византии, захватив средневековый Херсон. По этой причине принятие христианской религии в качестве единственной веры государства значило бы для хазар попасть в вассальную зависимость от Византии или Рима, в то время как принятие мусульманства — зависимость от арабского халифата. С иудаизмом было проще — его можно было принять, не становясь вассалом ни одного другого государства. Что и сделала правящая верхушка хазар, сохранив при этом также и другие религии в качестве допустимых и не преследуемых государством. Поэтому на территории каганата и смогли уживаться такие разноплановые религии, как раввинистический иудаизм, византийское христианство, шиитский ислам, тенгрианское язычество и шаманизм.

Подобного религиозного плюрализма не знала, пожалуй, ни одна крупная держава того времени. Возможно, впрочем, что именно отсутствие консолидирующего фактора в виде единственной государственной религии стало одной из основных причин падения каганата в Х веке.