Nissans koncernchef Hiroto Saikawa utses samtidigt till tillförordnad styrelseordförande.
Beslutet fattas trots att franska Renault, där Carlos Ghons är både koncernchef och styrelseordförande, uppmanat Nissans styrelse att skjuta på beslutet, rapporterar Reuters med hänvisning till källor.
Ghosn greps på en flygplats i Japan i måndags. Polisen slog till sedan Nissan presenterat en internutredning enligt vilken han har förskingrat företagets pengar och samtidigt dolt hur mycket han faktiskt tjänat.
I japanska medier rapporteras att Ghosn under flera års tid redovisat ungefär hälften av sin årliga ersättning på totalt tio miljarder yen (cirka 800 miljoner kronor).
Carlos Ghosn är en av bilvärldens superstjärnor, på senare tid som styrelseordförande i Mitsubishi och Nissan samt koncernchef på Renault.
Många bedömare varnar nu för att alliansen mellan Renault och Nissan, som inleddes 1999, kan bli problematisk att hålla vid liv utan Ghosn kvar i toppen, då han är en av arkitekterna bakom upplägget.