大政奉還以前の学校は、武士のための学校系統と庶民のための学校系統の二つに大別される。幕府直轄領の港町だった兵庫地区は典型的な町人の町だったため、庶民向けの学校である寺子屋や私塾がみられた。大政奉還直後から、地方においては、各知藩事や官民先覚者によって学校創設が企図され、神戸・兵庫地区でも官民協力や民主導で自主的に先駆的・自然発生的公教育機関の設置が行われた。例えば、明親館や洋学伝習所、私立関山小学校の設置などが代表的である。

明治元年（1868）6月に開校された明親館は、海岸の防御と市内の保安にあたる「市兵隊」に入る若者への教育や、開港場として外国人に遅れをとらないよう青少年への教育のため、兵庫の豪商、神田兵右衛門（こうだひょうえもん）により兵庫の旧函館物産会所を校舎に開校したものである。県による積極的な助成措置により、入学条件や教授法、時間割などの統一化が図られ、教育機関であると同時に同地域における近代的な地方教育行政機関としての役割も担わせられた。また県は、同年8月には外国語教育の実施を目的とした洋学伝習所も設置した。一方、民主導の学校として、明治3年（1870）にはアメリカ帰りの関戸由義によって私立小学校の草分けである関山小学校が鯉川筋に開設された。後に、これらの学校は、明治5年（1872）公布の「学制」に基づく小学校へと引き継がれた。

近代学校をおこし国民を教化するため、明治5年（1872）8月2日に「学制」が公布された。これにより全国は８大学区（明治６年（1874）４月、７大学区に改訂）に分けられ、さらに１大学区は32中学区、１中学区は210小学区に分割された。当時摂津５郡のみだった兵庫県は、第4大学区（後に第3大学区）第23中学区に指定された。そして神戸はその第１小学区に、また兵庫は第２小学区になった。各小学区はさらに４組ずつに分割され、兵庫県と協議の上、各組ごとに学校を設立・維持した。

神戸地区（第１小学区）・兵庫地区（第２小学区）内では次々と小学校が設置されたが、その多くは寺院、民家、町会所などを仮校舎としていたため、施設・設備は貧弱なものだった。さらに、学制に基づいて制定された小学区の区画には実情に合わない点もあり、例えば第２小学区の兵庫地区は域内があまりにも広大だったため、学校の設立・就学条件などについて適切性を欠いていた。そのため明治10年（1877）12月、神戸・兵庫を通じて3小学区に再分割されたのである（後年、第一・神戸、第二・湊東、第三・兵庫）。またこうした学区再編成と並行して、学区内の各組が単独で小学校を設置する制度から、各小学区に区内小学校を設置する制度に転換された。

明治中期になると、近代化の影響から教育政策も推進されていった。国家体制の確立に呼応して、初代文部大臣・森有礼（もりありのり）は教育の領域でも国家富強を狙い、学校制度を改革した。明治19年（1886）に「小学校令」が制定されると、小学校は尋常、高等の二段階に変更され、前者では4年の義務教育も定められた。神戸においても、第一～第三の各学区で尋常小学校が増設されたり、三区を通じて高等小学校が一校設置されたりと、小学校令に基づく学校が置かれた。この時期には初期小学校が新しいものに改築されつつあり、今日の小学校建築の原型とも言えるI字型、L字型、コの字型などの校舎が登場する。

森の死後に教育政策を担った井上毅（いのうえこわし）は、国民の教育水準を高めて各種技術・生産労働に従事できる近代社会人を養成するため、明治26年（1893）以降、職業に有する知識や技能を教授する実業補習教育を拡充した。神戸市においても、明治29年（1896）に湊東区で湊川実業補習学校が、明治31年（1898）には湊西区で兵庫実業補習学校、神戸区で神戸商業補習学校がそれぞれ開設された。これらは兵庫県下で初めての実業補習学校であり、小学校以外の市立学校が創設される先駆けとなった。

近代教育制度の整備と就学の督励に重点が置かれた明治初期に対して、明治中期以降は小学校の整備が充実し就学率の向上がみられ、徐々に学校衛生普及の機運が高まった。特に注目されるものは「学校医」の設置である。神戸では、国が明治31年（1898）1月に勅令を公布するよりも早く対応がなされており、明治27年（1894）7月から既に兵庫、湊川、神戸の3小学校で学校医が嘱託として置かれていた。その他、痘そう（天然痘）やトラホーム（伝染性慢性結膜炎）の予防や根絶のため学校内に治療所なども設けられたように、港町神戸が外国貿易の窓口であるという立地条件によって早くから防疫思想が普及・徹底され、多面的な対策が講じられていたことを如実に示している。

明治後期には、「教育市長」として有名な坪野平太郎（つぼのへいたろう）が、教育行政制度や教育内容・条件整備面で刷新を行い、数多くの業績を残した。明治34年（1901）5月27日に2代目神戸市長として就任した坪野は、実業補習学校や市立中学校、幼稚園の整備などを推進する中央政府の動向に呼応した教育政策を展開し、学校増設に寄与した。特に、就学児童急増への対策として小学校の整備に注力した坪野は、小学校を合併・統合する従来の方針から分離・増設する方針へと転換し、明治34年のうちに一挙に7校を増設したほか、一人の教師が半日単位で複数クラスを受け持つ「二部授業」制度を採用して、市民に広く教育を普及させようと努めた。

大正期に入ると、第一次世界大戦での連合国からの特需景気による工業の発展・輸出拡大と、須磨町との合併により、神戸市は飛躍的な発展を遂げた。それに伴い、社会基盤の整備、とりわけ小学校の整備は最も重要な政策課題となる。しかし、教育費は各学区の「家屋税」を中心とした財源によっていたため、財源の学区間不均等と、それに伴う教育条件の不均等の問題に対して学区制廃止の議論が本格化した。大正8年（1919）3月31日、学区が市に統一されると、学区廃止後の教育施設の拡張・整備が広められ、小学校の新設・増設や増改築が行われたほか、幼稚園の普及や、中等・高等学校の拡充がなされた。

学区間の教育格差から学区制廃止がなされた一方で、資本主義の発展により就職時の学歴が重視されるようになったことから中産階級の中等教育熱は高まり、神戸においても中等教育機関の整備・拡充が緊急課題となった。対策として市内の公立中学校の新設は進められたが、大正10年（1921）の県立第一・第二・第三神戸中学校3校合計の入学定員が850人に対して志願者は2208人を数えたことからもうかがえるように、入学難は容易に解消されなかった。そこで受け皿となったのが私立中学校であり、特に大正期には多く設立された。明治前期の神戸女学院をはじめとして、明治中後期の親和女学校、関西学院、松蔭女学校、神戸育英義塾、森女学校、神戸家政女学校のほか、大正期には、後の滝川中学校、甲南中学校、甲南高等女学校、女子高等技芸学校、神戸村野工業学校、成徳実践女学校、須磨女学校、睦高等技芸塾、神港中学校、山手高等女学校、野田高等女学校が、昭和に入ってからは灘中学校、六甲中学校などが新設され、発展していく。