当社は昔、神功皇后が三韓(朝鮮)征伐をなされた時、住吉大明神が海上を守護されたため、皇后は御凱旋のみぎり、ここに上陸されたが、霖雨が降り続いて軍を進めることが出来なかった。そこで、皇后は「鏡の池」で斎戒沐浴して当社を鎮祭し、晴を祈願されたという。以後、軍神として、又、海上の守護神として舟人の参詣する者が多かった。
播磨風土記に「昔大帯日子命、幸行別媛之處、道辺有長田、刺云、長田哉、故日長田里」(長田は尾上神社の所在地)とみえ、古くから発達した土地で、「高砂」という地名は、むかしこの辺一帯の総称で、尾上神社はいわゆる「高砂の尾上」といわれ、古歌・謡曲にも必ず「高砂の尾上云々」とうたわれた名所である。
醍醐天皇の御代、肥後の国阿蘇宮の神宮友成が上京のみぎり、当社に参拝し、相生の松を探ねた時、尉姥二神が顕れ給い、夫婦睦まじく歳久しく住み給いしという、目出度い古説は、人□に伝えられ、丹青に画かれ、詩歌に詠まれ、婚礼には島台と名づけて此の形をとり、正月には蓬莱に並べて祝っている。
豊臣秀吉の三木城攻め(中国征伐)の際、毛利・小早川・吉川の軍勢がこの海岸に上陸して軍陣をひいた。この戦乱のため、社頭は荒廃していたが、慶長九年池田輝政が姫路の藩主となった時、初代相生の松の根の上に社殿を移して修築、更に寛永二年本多忠政が鐘楼を建立した。
江戸時代には、『播磨鑑』や『播州名所巡覧図会』にも紹介され、司馬江漢や伊能忠敬、勤皇の志士である清川八郎なども訪れており、多くの人が訪れる観光スポットとなっていたようです。
名松林「尾上林」は、戦前には古松亭々として聳え、「松露」(松林に毎年春、秋になるとできるキノコの名前)の産地として知られ、また、長寿延命の「寿命餅」は、尾上神社の名物として賞味されていました。