El terremoto, de magnitud 6,7, fue detectado en la noche de miércoles a jueves a 67 kilómetros de la ciudad de Sapporo, capital de la isla de Hokkaido.
El terremoto provocó fuertes temblores, según la cadena de televisión pública NHK.
Sin embargo, las autoridades descartaron la alerta de tsunami.
A consecuencia del sismo fallecieron dos personas, una de ellas un anciano de 82 años que se cayó de una escalera en su casa durante los temblores.
"Dos personas fallecieron a consecuencia del terremoto en Hokkaido, informó el portavoz del Gabinete nipón, Yoshihide Suga.
Además, se reportaron 125 heridos y 39 desaparecidos.
También: Sismo de magnitud 5,9 sacude la región rusa de Cheliábinsk
El temblor destruyó cinco viviendas en el poblado de Atsuma y dos en la ciudad de Sapporo.
La gobernadora de Hokkaido, Harumi Takahashi, canceló el viaje a Rusia tras el terremoto.
"La visita a (la isla rusa de) Sajalín ha sido cancelada", dijo a Sputnik un portavoz del gobierno regional alegando la necesidad de tomar medidas tras el seísmo.
El funcionario añadió que la visita, prevista originalmente para el período del 6 al 8 se septiembre, es imposible en las circunstancias actuales, y que "una nueva fecha será acordada más tarde".
El primer ministro del Japón, Shinzo Abe, no cambiará sus planes de visitar Rusia tras el terremoto.
"Ahora no se habla de cambios (en los planes de la visita)", expresó Yoshihide Suga, citado por la agencia Kyodo.
Se espera que Abe visite a Rusia entre el 10 y el 13 de septiembre, donde se reunirá con el presidente ruso Vladímir Putin.