自動レタッチブラシを使うと異常終了するとのことですが、それは困った症状ですね。私はWindows Vistaの環境で確認しましたが、RAWでもJPGでも正常に動作しました。

操作の手順などを詳しく説明して、ニコンで再現テストをしてもらうしか方法がないと思います。
特定のファイルで自動レタッチブラシが正常に動作するようであれば、正常に動作するファイルと異常終了するファイルをニコンに送ることで調査が進展する可能性がありますので、出来るだけたくさんのファイルで実験してみて下さい。

直接的な解決策にはなりませんが、参考になれば幸いです。