https://api.line.me/oauth2/v2.1/token または https://api.line.me/v2/oauth/accessToken を使用してのユーザーアクセストークンの更新で、パラメータのrefresh_tokenの有効期限が切れていた場合の動作について、ということでしたら以下のようになります。
有効期限の切れたrefresh_tokenを指定して上記APIを呼び出すと、ステータスコード400 Bad Requestが返されて呼び出しは失敗します。 リフレッシュトークンの有効期限が切れた場合はユーザーに再ログインさせる必要があります。 このエラーレスポンスについては、各バージョンの以下のリファレンスの、「アクセストークンを更新する」の「エラーレスポンス」に記載されています。
同APIリファレンスの、リクエストボディのパラメータの説明に記載のとおり、リフレッシュトークンはアクセストークンの有効期限が切れてからも有効で、アクセストークンの有効期限切れ後も10日間は使用できます。
(v2.1) https://developers.line.me/ja/docs/social-api/managing-access-tokens/
(v2) https://developers.line.me/ja/docs/social-api/managing-access-tokens-v2/