三木城は別所則治(べっしょのりはる)が築城した城だが築城年代は定かでは無い。
だが三木戦史によると明応元年前後に築城したと云われている。
則治は一度没落した播磨守護：赤松氏の再興に尽力するとその後も赤松氏の勢力拡大に貢献しこの地を与えられ三木城を築城した。
その後に播磨は乱世を迎えるが別所氏は三木城を居城とし乱世を乗り切る事となる。
永禄十一年に別所氏は織田信長に助力すると西播磨へ侵攻を開始し勢力を東播磨から西播磨まで拡大させ大名格となる。
しかし天正六年に別所氏当主：長治(ながはる)は急遽織田氏を離反すると、その織田氏の対抗勢力であった毛利氏に味方し三木城に立て籠もった。
別所氏の離反に続き小寺氏、荒木氏も織田氏を離反すると毛利氏討伐の織田軍大将：羽柴秀吉と対立した。
秀吉は翌七年から三木城の囲みを強化し兵糧攻めを行うと、半年もの間三木城内は飢えに苦しむ事となる。これが世に言う「三木の干殺し」であった。
抵抗むなしく長治は城兵の助命と引き換えに自刃すると三木城を開城した。
三木城落城後も城は使用され続けるが元和元年の一国一城令によって廃城となった。

現在の三木城址は上の丸公園内に遺構を残している。
公園内には模擬城壁や本丸跡の曲輪や「かんかん井戸」と呼ばれる井戸跡などを残している。
三木の干殺しで有名な城址の為か園内には無数の祠や石碑が祀られている。
本丸跡地には別所長治の辞世の句が祀られており、その跡地横には長治の銅像も建てられている。