見出し通りですが、OracleXE(XE-11g)のインストール時にORA-01034が発生しました。
ここで書かれている現象と全く同じ。
https://stackoverflow.com/questions/16545412/problems-installing-oracle-database-express-edition-11g
いろいろ試した所、どうやら自サーバーのホスト名が解決できないことが原因っぽい。
なので、きちんと名前解決できるようにしてやればOK。
手っ取り早いのは/etc/hostsにエントリを追加。