玄武既不是乌龟也不是蛇，它是一种由龟和蛇组合成的一种灵物。原始社会时期，玄武起源于对古代动物图腾崇拜。无论龟、蛇，抑或神鹿，其原形都是动物。而在所谓动物崇拜说中，仍然认为玄武是龟蛇的合体，有人认为龟、蛇崇拜分别起源于南方和北方地区。
新石器晚期，在黄河下游山东地区开始合流，最后组合为龟蛇合体的玄武形象。或说玄武的来源应从殷墟龟卜的角度去追溯，龟卜的意义是请龟的灵魂到冥间问于先祖，然后把结果带回，以卜兆的形式显示给世人。
龟和蛇在中国古代认为是灵兽，象征长寿，汉朝以前贵族常配以玉制龟佩，在日本受古代中国影响，取名和制作图徽常用龟图案。
把二十八宿分成四组，就是东方苍龙七宿、北方玄武七宿、西方白虎七宿、南方朱雀七宿。先民视龙为鳞虫之长，凤为百鸟之王，虎为百兽之长，龟为介虫之王，四者合称为四灵。
古代中国人用黑色的龟壳来占卜，俗称“龟卜”。其大概的意思就是请玄龟去冥间询问祖先一些问题，然后将答案带回，以卜兆的形式显示给世人。