AIの偏った推論(Biased Reasoning)
読み方 えーあいのかたよったすいろん
英語表記 Biased Reasoning
AIが目標やすでに選んだ行動を正当化する方向へ証拠を選択的に解釈し、反対の証拠や不確実性を軽く扱ってしまう挙動です。
AI・PC・業務システムに関する言葉を、意味、できること、小さな実例とともに解説します。
読み方 えーあいのかたよったすいろん
英語表記 Biased Reasoning
AIが目標やすでに選んだ行動を正当化する方向へ証拠を選択的に解釈し、反対の証拠や不確実性を軽く扱ってしまう挙動です。
読み方 えーあいえーじぇんとのあいでんてぃてぃ
英語表記 AI Agent Identity
AIエージェントを人の共有アカウントと分け、エージェントごとの識別情報、認証情報、必要最小限の権限、操作記録を管理する考え方です。
読み方 えーあいえーじぇんとがたぜいじゃくせいけんさ
英語表記 Agentic Vulnerability Scanning
AIエージェントがソースコードを調べ、脆弱性候補の発見、実害可能性の検証、重複除去、優先順位付け、修正支援までを反復する検査方法です。結果と修正案は人が確認します。
読み方 えーあいもでるのふせいごう
英語表記 Model Misalignment
AIモデルの不整合は、AIの行動が利用者の意図、与えられた指示、安全上の原則、許可された範囲から外れる状態や挙動です。単なる誤回答だけでなく、無断の操作や情報の隠蔽なども含み得ます。
読み方 えーあいしえんがたけいえいしゃなりすまし
英語表記 AI-assisted executive impersonation
AI支援型経営者なりすましは、生成AIなどを使って経営者らしい依頼文や偽の連絡を作り、担当者へ送金や情報提供を求める手口を説明する表現です。