Shigeru Ono lahir pada 26 September 1918 di wilayah prefektur Hokkaido, Jepang. Sebagaimana dikisahkan dalam buku memoar Rahmat Shigeru Ono
(halaman: 9), ketika menginjak usia awal 20-an, Ono di luar dugaan
berhasil menembus ujian masuk sekolah kemiliteran yang terkenal amat
sulit ditaklukkan. Dapat memasuki sebuah sekolah kemiliteran di masa itu
dipandang sangat prestisius di mata masyarakat Jepang yang mana negeri
mereka memang tengah berkonflik dengan daratan China.
Namun garis takdir Ono ternyata menuntun dia untuk bertugas pada
sebuah negeri bekas jajahan Belanda yang terletak jauh di sebelah
selatan tanah kelahirannya. Di tanah bekas jajahan Belanda itu, Ono
mendapat banyak kesempatan untuk bergaul secara langsung dengan rakyat
pribumi Hindia Belanda. Bahkan Ono juga berkesempatan untuk ikut melatih
ilmu kemiliteran kepada beberapa orang pemuda pribumi. Rentetan
penderitaan bangsa pribumi yang harus diterima sebagai imbas penjajahan
Belanda dan masa pendudukan Jepang, pelan tapi pasti mulai memantik rasa
simpati Ono terhadap mereka.Hingga pasca berakhirnya Perang Dunia II, Shigeru Ono memilih sebuah keputusan besar dalam hidupnya, dengan tetap tinggal di Indonesia dan tidak mau kembali ke Jepang. Selanjutnya, Shigeru Ono yang telah dianggap sebagai pengkhianat oleh negara asalnya, mulai sibuk bertempur bahu-membahu bersama pasukan pribumi Indonesia untuk menghadang pasukan Belanda yang mencoba kembali menduduki Indonesia, hingga akhir Desember 1949.
Setelah berakhirnya masa perang, kehidupan Ono berjalan tidak menentu, kewarganegaraan Jepangnya telah dicabut dan ia sendiri pun belum resmi diterima sebagai Warga Negara Indonesia, ia juga harus kerja serabutan untuk menyambung hidupnya. “Pada masa itu, saya tidak punya kewarganegaraan, sejak 1951 saya sudah mengajukan permintaan kewarganegaraan Indonesia, namun tak ada tanggapan hingga pertengahan 1950-an“, jelas Shigeru Ono, yang kemudian bernama Rahmat Shigeru Ono setelah menjadi WNI.
Momen terindah Shigeru Ono sebagai mantan pejuang kemerdekaan terjadi pada 1958. Ketika itu Presiden Soekarno menganugerahkan kepadanya Bintang Veteran dan Bintang Gerilya, yang menjadikannya diakui sebagai pejuang kemerdekaan Indonesia yang kelak berhak dimakamkan di Taman Makam Pahlawan Kalibata. “Saya hampir tak punya apa-apa. Tidak punya rumah, pekerjaan, dan kewarganegaraan. Hanya petani Indonesia saja yang memberi kami makan, pakaian, dan tempat bernaung“, kenang Shigeru Ono pada masa awal kemerdekaan dulu.