未来観測新聞
AI評価・安全

AIの思考過程を使う監視はどう変わる OpenAIが学習工程を検証

この記事を共有

AIの思考過程を監視する方法を研究したOpenAIのワードマーク。
OpenAI / OpenAI / Wikimedia Commons / PD-textlogo; trademarks belong to OpenAI
画像の権利情報
OpenAIは11月10日、AIが答えに至る途中の思考過程を使って、危険な行動を見つける監視について研究結果を公開しました。事前学習、モデルの構造、強化学習、AIが作ったデータによる追加学習を分け、監視に関係する能力がどう変わるかを調べてい…

続きを読む

ニュース全文と本誌の考察を7日間無料で読めます。

初めて購読する方が対象です。無料期間終了後は月額980円(税込)で自動更新されます。終了前に解約すると料金はかかりません。

続きを読む

ニュース全文と本誌の考察を7日間無料で読めます。

初めて購読する方が対象です。無料期間終了後は月額980円(税込)で自動更新されます。終了前に解約すると料金はかかりません。