未来観測新聞
AI

AIの安全評価を外から点検 METR、Anthropicの報告書に検証の拡充を提言

この記事を共有

AIで生成した想像図。資料と実験記録を隔てて点検する架空のAI評価室。実際の製品・施設や実験を撮影した写真ではありません。
画像の権利情報
未来観測新聞 / OpenAI imagegen
AI評価団体METRは10月20日、Anthropicの8月のリスク報告書について、AIが開発者の意図から外れた行動を取るリスクを扱う部分の外部審査を公開しました。報告書が対象としたモデルについて、壊滅的な被害に至るリスクは低いという見立て…

続きを読む

ニュース全文と本誌の考察を7日間無料で読めます。

初めて購読する方が対象です。無料期間終了後は月額980円(税込)で自動更新されます。終了前に解約すると料金はかかりません。

続きを読む

ニュース全文と本誌の考察を7日間無料で読めます。

初めて購読する方が対象です。無料期間終了後は月額980円(税込)で自動更新されます。終了前に解約すると料金はかかりません。