船上城の築城については二説あり未だに正式な築城年代は不明である。
一つは三木城主：別府氏の支城として別府吉親が築城した説で当時は林ノ城と呼ばれ築城年代は永禄年間とされている。
もう一説は片山右近が林ノ城を廃城として船上城を築城した説だ。
だが天正六年に勃発した三木合戦の末に織田氏の占領下となるとこの地は蜂須賀正勝に与えられ次に生駒氏と城主がかわり天正十三年に一度は廃城となった。
しかし豊臣秀吉による「天正の国替え」で多くの大名が国替えとなると、この地域も片山右近が入封し城の大改修を行ったと云われている。
（前述の通り別説では新たに城を築城したと云われている）
天正十五年に切利支丹令によって右近が追放されるとこの地は秀吉の直轄領となる。
その後は「関ヶ原の戦い」後に池田氏の領有となり、更に元和二年に小笠原氏が入城すると明石城を新たに築城し船上城は廃城となった。

現在の船上城址は明石市新明町にある田園地の隅に古城大明神の祠が建っている。
特に遺構は残って無く近くの船上西公園に案内板があった。
この祠の周辺には田園以外何も無いために初見ではかなり分かり辛い場所にある。
遺構としては明石城に隣接している「織田家長屋門」が船上城から移築された門で唯一の遺構となる。