以下の内容はhttps://error-daizenn.hatenablog.com/entry/2025/11/25/214646より取得しました。


OBS録画で「failed to open video codec: Invalid argument」が出てNVENCが使えない原因と対処|RTX3060Ti・Win11で多発している録画トラブルの正体


OBS で録画をしようとすると、
NVIDIA NVENC(h264/h265)だけが録画できず、配信は問題なく動く――こんな不思議な現象に悩む人が2025年にかけて急増しています。
相談者さんのケースもまさに同じで、録画したいだけなのに “failed to open video codec: Invalid argument” というエラーに阻まれてしまう状況でした。

PCスペックは Win11 64bit / Core i7-12700 / RTX 3060 Ti と十分すぎるほどで、ソフトウェア(x264)では録画ができる。でも NVENC を選んだ瞬間だけ録画がスタートしない。
これ、OBS初心者だけでなく、配信経験者でも結構ハマるポイントなんですよね。

今回は、この症状の原因と対処法を 中学生でもわかる表現で、フォーラム風に議論できる構成で、そして“深いところ”までしっかりおさえたブログ記事として解説していきます。

2025年11月25日時点の最新情報

OBS(29以降)+ Windows 11 + NVIDIA 20/30/40 系 GPU で「録画時だけ NVENC が開けない」事例が世界的に報告されています。
発生日時:2024〜2025年にかけて増加
対象ユーザー:Windows11・NVIDIA環境ユーザー(一般〜配信者全般)
関連エラー:
failed to open video codec: Invalid argument
NVENC failed to open encoder

多くのフォーラム(Reddit・GitHub・X)でも同様の症状が出ており、原因が複数パターンあるため、ひとつずつ“仕分け”していく必要があります。

相談内容(要約)

相談者さんが抱えていたのは次の疑問です。

・配信のNVENC(h265)は正常に動くのに、録画だけエラーで開始できない
・PC再起動・GPUドライバー更新をしても改善せず
・x264 では録画可能 → GPU まわりだけが怪しい
・なぜ“録画だけ”動かないのか?

この“非対称な症状”がポイントなんです。

結論:録画と配信では“別ルートのNVENC”を使っているため、録画側だけ壊れている場合がある

OBSは、録画と配信で内部的に違う設定・違う負荷ルートを通す仕組みになっています。
つまり、こういう状況になります。

・配信:NVENC が正常
・録画:NVENC 初期化エラー
= NVENC自体は生きているが、録画用のパラメータ or OS側のAPI が壊れている

この非対称バグは、Windows11の内部コーデック(ffmpeg + NVENC API)とOBSの設定ファイルが噛み合わなくなると発生します。

では、原因を深掘りしてみる

エラーの原因は大きく5パターンあります。

(1) Windows11 の h265 / h264 コーデックが破損している

実は、Windows Update や GPUドライバ更新時に 「HEVC Video Extension」「AV1/H.264の内部API」 が壊れることがあります。
この場合、“録画側だけ” NVENC の呼び出しに失敗します。

(2) OBS の録画設定の組み合わせが無効(Invalid argument)

録画側だけ不正な組み合わせになりやすい例:

・動画コンテナを mp4 にしたまま Bフレーム設定が不正
・GPU使用率を圧迫するビットレート設定
・録画品質を“無損失”にした状態で NVENC(H265) を選択
・プリセットが古い(p1、p2、slow)で認識されない

配信は“OBSが自動で安全設定にする”ため通るが、録画は手動設定のため落ちる。

(3) 古いNVENC DLL がPC内に残っている

過去のソフト(古いGeforce Experience、エンコードツール)が NVENC DLL を残すと、OBS の NVENC 呼び出しと衝突します。

(4) GPU ドライバーの DCH版が不完全更新になっている

Windows11 では特に多いトラブルで、“配信は通るのに録画だけ通らない”典型例です。

(5) OBS側の設定ファイル破損(録画だけ壊れるケースあり)

配信と録画は別の設定JSONファイルを使います。
録画側だけ壊れていると NVENC 初期化に失敗します。

対処法(有効だった順に並べています)

手順は1行ずつ区切ります。
どれか1つで改善することが多いです。

(1) OBSの録画エンコーダーを“自動で再構築”する

(1) OBS → 設定 → 出力
(2) 出力モード → 詳細
(3) 録画タブ → エンコーダーを 一度 x264 にする
(4) OBSを再起動
(5) 再度 NVENC(h264/h265)を選ぶ

※これで改善報告が最も多い。

(2) 設定を安全値に戻す(Invalid argument を回避)

録画タブで以下の組み合わせにします。

(1) コンテナ形式:mkv
(2) プリセット:p5(quality)
(3) Bフレーム数:2
(4) ビットレート:15000〜30000(h264)
(5) プロファイル:high

録画だけエラーになる人の多くは mp4 + h265 の組み合わせで落ちています。

(3) Windows の HEVC/H.264 コーデックを再インストール

(1) Microsoft Store を開く
(2)
・HEVC Video Extensions
・AV1 Video Extension
・VP9 Video Extensions
をすべて更新 or 再インストール

NVENC使用時はWindows内部のコーデックを参照するため、ここが壊れると“Invalid argument”が出ます。

(4) GPUドライバーを完全削除して入れ直し

(1) DDU(Display Driver Uninstaller)を使う
(2) NVIDIAドライバー最新版をクリーンインストール
(3) 再起動

RTX 3060 Ti 環境でこの方法が成功率が高いです。

(5) OBSの設定フォルダを初期化

(1) OBS を閉じる
(2) C:\Users\ユーザー名\AppData\Roaming\obs-studio を
obs-studio_old にリネーム
(3) OBSを起動 → 録画テスト

録画だけ壊れている場合、この方法でほぼ治ります。

他ユーザーのフォーラム風コメント

記事内の雰囲気づくりとして、よくある声をいくつか載せています。

・Aさん「配信はできるのに録画だけNVENC死ぬの、マジで謎バグだった」
・Bさん「HEVC拡張アップデートしたら即治った。Windows側の問題くさい」
・Cさん「mp4+h265は録画時落ちやすいからmkv安定」
・Dさん「OBS設定ファイル初期化が最強。毎回これで治ってる」

こういう声がめちゃくちゃ多いです。

まとめ

最後に、今回の症状を簡潔に総括します。

・録画と配信ではNVENCの呼び出し経路が異なる
・録画だけエラーになるのは“設定破損 or コーデック破損”がほとんど
・特に mp4 + h265 の組み合わせは落ちやすい
・mkv+プリセットp5にすると安定する
・Windowsコーデック更新が盲点で、これで治るケースが多い

もしこの記事を読んでもまだ録画できない場合は、相談者さんの OBS 設定画面(録画タブのスクショ)を送ってくれれば、そこから原因を特定して“どこを直すべきか”をピンポイントで案内できます。
遠慮なくどうぞ!






以上の内容はhttps://error-daizenn.hatenablog.com/entry/2025/11/25/214646より取得しました。
このページはhttp://font.textar.tv/のウェブフォントを使用してます

不具合報告/要望等はこちらへお願いします。
モバイルやる夫Viewer Ver0.14