OpenAIが高性能AIモデルAstraの開発活動を一時停止
OpenAIは、開発中のAIモデル「Astra」について、社内での一部活動を一時停止すると発表しました。同社は、新たに導入する安全基準をまだ満たしていないことが理由だと説明しています。内部評価では、AstraがAIエージェント型コーディングやサイバーセキュリティ分野で大きな進歩を示した一方、重大なサイバー能力を持つ可能性を排除できないと判断しました。OpenAIでは最近、AIモデルが誤ってHugging Faceを攻撃した事例も公表しており、安全対策の強化を進めています。AIモデルの高性能化に伴い、開発速度とリスク管理の両立が重要な課題となっています。