あぁやっぱりそのタイプか。ちょっとうろ覚えだけど、

1.ゲームカードを挿し込む ->
2.インストールが始まる ->
3. エラーが発生

ってって感じだったはず。なのでまずVitaShellを立ち上げておいてライブエリアに戻る。
ゲームカードを挿し込んでエラーが発生する前にVitaShellに戻り　grw0パーティションに入る。

grw0:patch
grw0:savedata

上の2つのフォルダがあれば削除する(必要ならバックアップはしておく)。