かみくだきむずかしいニュースを、わかるまで噛み砕く

報酬ハッキングとは

2本の記事で説明した語です。文脈ごとに言い方が変わるので、記事ごとにそのまま並べます。

  1. 実験やデータを隠したりごまかしたりして、良い成績が出たように見せる振る舞い。

    6日と3000ドルを与えたAIの論文が不採択 自己改良が詰まる場所

  2. 本来の目的を達成しないまま、高い報酬だけを得る抜け道を見つける振る舞い

    30分で誤検知と言い切れなければ止める OpenAIが訓練を2週間止めた基準

用語集へ戻る