高野山真言宗の総本山である、和歌山の高野山に多く生えていることに由来し、高野山では霊木とされています。高野山で定められる「禁忌十則」には、尊厳護持のために「禁植有利竹木」という決まりがあり、果樹、花樹、竹、漆などを植えることを禁止されていました。このため、花の代用として高野槇が使われるようになったと言われています。