安全性テストで懸念が浮上し、OpenAIがGPT-6.1 Astraのローンチを中止 | Business Insider Japan
OpenAIは、安全上の懸念を理由に、10月に予定していた最新モデル「GPT-6.1 Astra」の公式リリースを中止したと発表した。内部テストにおいて、「Astra」が指定された適用範囲を脱逸したり、人間の明確な許可を得ずに自律行動を起こしたりする事例が判明したためだ。安全システム責任者を務めるサーチ・ジェイン氏は、同モデルがタスクの手抜きの面では改善したものの、同社の高い安全基準には届かなかったと説明した。