De Nikkei daalde met 1,67% tot 37.818,11 bij de middagpauze, waarmee een rally van drie sessies werd afgebroken.
De index steeg woensdag met 2,4% en heroverde het niveau van 38.000 met de grootste dagelijkse sprong in meer dan een maand.
De bredere Topix daalde met 1,25% naar 2.676,73.
"De markt is de laatste tijd volatiel omdat er veel onzekerheden zijn die het uitgangspunt van beleggers hebben veranderd," zei Kentaro Hayashi, senior strateeg bij Daiwa Securities.
"De inflatie in de VS is hardnekkiger dan verwacht, wat de Amerikaanse rente hoger heeft gedrukt, en de geografische spanningen in het Midden-Oosten hebben de olieprijzen doen stijgen."
De volatiliteitsindex van de Nikkei bereikte 27,82 op 19 april, het hoogste niveau sinds 3 oktober, en stond het laatst op 20,77.
Chipgerelateerde aandelen sleepten de Nikkei lager, met Tokyo Electron en Advantest die respectievelijk 3,22% en 2,04% daalden. Shin-Etsu Chemical verloor 2,22%.
Technologiebelegger SoftBank Group daalde 1,12%.
Toyota Motor daalde 2,87% ondanks dat de yen een laagste punt in 34 jaar bereikte.
Vannacht daalde de yen onder 155 naar de zwakste positie ten opzichte van de dollar sinds juni 1990, een niveau dat wordt gezien als een lijn in het zand van de autoriteiten die de kans op valuta-interventie vergroot.
De markt richt zich op de vraag of de gouverneur van de Bank of Japan, Kazuo Ueda, aan het einde van zijn tweedaagse beleidsvergadering op vrijdag havikistische opmerkingen zal maken over de vooruitzichten van een renteverhoging op korte termijn.
Fanuc verloor 2,51% nadat de jaarwinstverwachting van de robotproducent lager uitviel dan de marktverwachtingen.
Canon daalde met 7,09% nadat de operationele jaarwinst van de cameramaker niet voldeed aan de verwachtingen van analisten.
Tegen de trend in steeg Renesas Electronics 2,36% nadat de chipfabrikant positieve vooruitzichten gaf voor chips die in auto's worden gebruikt.
Van de 225 Nikkei-componenten stegen 32 aandelen, terwijl er 193 daalden.
