может ли сотрудник банка открыть ИП на розничную торговлю?

Да, ограничений на регистрацию в качестве ИП, гражданам, имеющим работу законодательством не предусмотрено. Профессиональных ограничений (как например для аудиторов) у сотрудников банка не имеется.

Ограничение может содержаться в трудовом договоре с работодателем. Если такового не имеется - регистрируйтесь. Лишь бы успевали заниматься предпринимательской деятельностью, помимо основной работы.