beforeAction返回的应该是true或者false，要直接输出的话，应该还是返回false，通过response指定输出的内容，类似这样

Yii::$app->response->format = Response::FORMAT_JSON;
Yii::$app->response->data = array(
    'status' => -1,
    'message' => '请先登录',
    'url' => \Yii::$app->getHomeUrl()
);
return false;