Altman：安全が最優先であり、IPOのタイムテーブルはなく、GPT-6.1 Astraのリリースを一時停止するのは高度な慎重さからです。

なぜGPT-6.1 Astraのリリースを一時停止したのか？

最近のGPT-6.1 Astraのリリース延期決定について尋ねられると、Altmanは、このモデルが同社による安全性と整合性の評価基準の一部を満たさなかったためであり、特定の重大なインシデントがあったわけではないと述べました。

Altmanは、このモデルがOpenAIが用いる「ごく少数の評価でほんの少し基準に達していなかった」と説明し、この決定は「非常に慎重な判断によるもの」だとしました。「深刻なリスクは今回はありませんでした」と語っています。

基準を満たさなかったモデルのリリース一時停止や再構築は、通常の開発プロセスの一部であるとしています。

さらに広い観点からAltmanは、モデルの能力が向上するにつれ、アライメント、安全性、監視、防御は「常にモデルの能力をはるかに上回っていなければならない」と語りました。このアプローチを発展のペースに対する「コントロール」と呼びました。

AIの安全性の課題はエンジニアリングの領域を超える

Altmanはまた、「AIの安全問題はエンジニアリングだけで完全に解決できる」という見方を否定しました。NVIDIAによるAI向けの安全システムは「完全な解決策」ではないと指摘し、AIはエンジニアリングではなく科学的な問題である部分が大きいと強調しました。

「こうしたモデルをどのようにアラインさせるかについては、我々はまだ模索の段階にある」とし、AIシステムをより安全にするためのエンジニアリング作業に加え、産業全体が科学的課題にも直面していると語りました。

法的責任についてAltmanは、故障がモデル自体に起因するのか、開発者の使い方によるのか、または最終的なユーザーの意図的な悪用によるのかによって、多層的な責任フレームワークが登場すると予想しています。

この構造を自動車業界になぞらえ、どの部分に問題があるかによって責任が異なる点を指摘しました。

加えてAltmanは、ワシントンでの議論や国際間の調整について慎重ながらも楽観的な見方を示しつつ、政策の進展がこれまで常に期待通りに進んできたわけではないことも認めました。