Fala Herbert,
acho que vc está misturando um monte de conceitos.
1 - Toda vez que vejo um if [ $? -eq ... ], desconfio, quase com certeza que o script está muito mal escrito.
A função do if é testar instrução, então não tem por que c executar a instruçõ e testar o seu retorno. Otimize isso assim:
if who | grep usuario &> /dev/null
then
echo "logado"
else
echo "não logado"
fi
Mas o erro não está aí, estou só te mostrando como otimizar e programar limpo.
2 - &> só passou a funcionar no bash 4.0. Se vc estiver abaixo dessa versão, já era!
3 - Existe um vetor do sistema que te devolve o $? de cada um dos componentes de uma linha com pipes (|) é o PIPESTATUS, veja:
$ who | grep usuario &> /dev/null
$ echo ${PIPESTATUS[@]}
0 1
Isso significa que o who foi bem sucedido e o grep deu zebra.
4 - Como o grep não dá erro caso não case com ninguém, basta mandar a saída primária para /dev/null, ou usar a facilidade que o próprio grep oferece:
$ who | grep -q usuario