日本神話の中で、大国主の神と一緒に国づくりで活躍する小人の神・少名毘古那神がこの薬湯を発見したとの言い伝えがあり、由来は神秘に包まれています。
「信玄の薬湯」の名は戦国時代以降。雄将・武田信玄が上杉謙信との合戦のため、八ヶ岳を巻いてこの奥蓼科を通る「信玄の棒道」を建設時にこの湯の薬効に驚き傷兵たちを湯治させました。それ以来「信玄の薬湯」と呼ばれるようになりました。
この薬湯の湯の花と湯塩（湯気が結晶したもの）は古文書にも霊薬として多く記されとても古くから採取されていたようです。
江戸時代中頃からは、湯を樽につめて薬用としての販売も始まり、明治初め頃から非常に盛んになり、それから昭和10年頃まで続きました。