... se a casa está em nome de sua mãe, com o falecimento dela, teria de requerer inventário e partilha da casa. Enquanto isso, o imóvel pode ser alugado, sendo metade do aluguel pertencente ao seu irmão. Após a partilha, se o irmão quiser vender, teria de ser de comum acordo entre vc e ele OU ele teria de requerer a venda por meio da justiça, caso não haja acordo (vc se recuse a vender sua parte).

É isso.

Olá ! Voce não ter afinidade com seu irmão, isto não retira o direito de herança de seu irmão ! Então, o caminho é promover a partilha e tratar da alienação (venda) do imóvel e dividir ou dinheiro ou voce alugar a metade do imóvel e pagar aluguel a ele ! Simples assim.

Não importa se sua mãe cedeu a casa a vc, seu irmão tem os mesmos direitos sucessórios que vc.