社伝によれば、伝承上の孝元天皇5年、天八意思兼命がその御子神・天表春命らを従えて信濃国に天降り、この地に鎮座したのが創建と伝わる。天八意思兼命は『古事記』『日本書紀』の天岩戸神話で知恵を授けた神として知られ、その子・天表春命は『先代旧事本紀』によれば信濃国阿智の祝部(はふりべ)の祖とされる。渡来系の阿智氏がこの地に住み着いて代々祭祀を担ったと伝わり、諏訪の出雲系勢力に対する天孫系の駐留拠点であったとする説もある。平安時代の『延喜式』神名帳には信濃国伊那郡二座のひとつとして記載された式内社で、下伊那地方にわずか2社しかない式内社のひとつという格式を誇る。地元では相殿神・大山咋命にちなみ「山王さま…