De Nikkei stond bij de ochtendpauze 0,56% lager op 38.189,54.
De bredere Topix daalde 0,64% tot 2725,70.
Er wordt algemeen verwacht dat het Federal Reserve Open Market Committee (FOMC) de rente aan het einde van zijn tweedaagse vergadering op woensdag ongewijzigd zal laten, omdat de Amerikaanse inflatie hoog blijft.
Amerikaanse aandelen eindigden lager vannacht, toen de markten economische cijfers wogen die stijgende arbeidskosten en een verslechterend consumentenvertrouwen lieten zien.
Hoewel de markten de verwachtingen voor een renteverlaging door de Fed dit jaar al hebben teruggeschroefd, blijven beleggers op hun hoede voor de havikistische boodschap die Fed-voorzitter Jerome Powell tijdens zijn persconferentie zal afgeven.
Het grote verschil in beleidsrente tussen Japan en de VS blijft druk uitoefenen op de yen, wat vragen oproept over hoe een buitensporige zwakte van de valuta de lokale economie en de rentevooruitzichten van de Bank of Japan zal beïnvloeden.
Het risico van valuta-interventie, en het vermoeden dat Tokio misschien al heeft ingegrepen, hield beleggers ook alert.
"In die zin denk ik niet dat mensen erg enthousiast zullen zijn om aandelen te kopen terwijl de yen zo zwak is," zei Hiroshi Namioka, hoofdstrateeg bij T&D Asset Management.
Van de 225 bestanddelen van de Nikkei gingen er slechts 44 vooruit, tegenover 181 die daalden.
Bij de individuele aandelen zorgden winstcijfers en aandelenspecifiek nieuws voor een aantal duidelijke winnaars en verliezers.
Aandelen van Lasertec, een maker van chipgerelateerde apparatuur, stegen 16,1% nadat het bedrijf dinsdag na beursuren een winst bekendmaakte die de verwachtingen overtrof.
West Japan Railway Co steeg woensdag 7,7% na haar besluit om 4,1% van haar eigen aandelen terug te kopen.
JGC Holdings Corp was de grootste daler en daalde 11,2% na een teleurstellende omzetverwachting.
