上海的多家银行提供日元兑换服务，包括以下几家主要银行：

1. 中国银行：作为中国四大国有商业银行之一，中国银行在上海有多家分支机构，提供日元兑换服务。

2. 工商银行：也是中国四大国有商业银行之一，工商银行在上海设有多家分支机构，可以办理日元兑换。

3. 农业银行：同样是中国四大国有商业银行之一，农业银行在上海设有多家分支机构，提供日元兑换服务。

4. 交通银行：作为中国五大国有商业银行之一，交通银行在上海设有多家分支机构，可以办理日元兑换。

此外，还有其他银行也提供日元兑换服务，如招商银行、兴业银行、中信银行等，这些银行在上海也设有分支机构，可以满足客户的日元兑换需求。

需要注意的是，不同银行的兑换汇率和手续费可能有所不同，客户在进行日元兑换时可以比较各家银行的优惠政策，选择最适合自己的银行。另外，客户在进行日元兑换时需要提供有效的身份证明和相关的兑换证件。