AI自己評価型修正装置

本発明は、生成AI等がユーザー入力に対して生成した出力について、出力過程を再帰的に分析し、出力に含まれる意味構造的な齟齬を抽出するAI自己分析・修正技術である。

AIの判断履歴又は内部状態情報を参照して齟齬の意味的性質を評価し、その評価結果に基づいて、AIの出力傾向又は内部処理傾向を内部フィードバックにより修正する。

また、動機・課題の特定、設計上の限界の特定、判断過程の分析、出力理由の体系化、説明生成、出力修正、対話全体の統合及び再修正結果の提示からなる段階的な自己評価処理を備える。

これにより、生成AIにおける誤出力の原因特定、ユーザー意図との齟齬の低減、修正作業の効率化並びに判断過程の透明性及び再現性の向上を支援する。対話AI、AIアシスタント、生成AIサービス等に組み込むソフトウェアモジュールとして利用可能。