OpenAIは現在、評価向上の一環としてGPT-4の後継者を育成中である。同社は、サム・アルトマン最高経営責任者(CEO)と3人の取締役を中心とする安全・セキュリティ委員会を設置し、安全上の懸念に対処している。
オープンAIは先日のブログで、人工知能(AGI)への進化を目指す次期フロンティアモデルの訓練を開始すると発表した。しかし、GPT-4後継機のリリース時期や能力に関する詳細は未発表のままだ。
OpenAIの安全文化と意思決定に関する精査
ジェネレーティブAIのトップランナーであるにもかかわらず、OpenAIは倫理的な精査に直面している。元研究者のヤン・ライクとグレッチェン・クルーガーは、同社が安全文化とプロセスを軽視していると指摘し、意思決定、説明責任、透明性の改善の必要性を強調した。
"OpenAIは最近、次のフロンティアモデルのトレーニングを開始しました。その結果、人工知能(AGI)への道において、次のレベルの能力をもたらすシステムを期待しています"
OpenAIの批判への対応と安全性へのこだわり
ChatGPTの正確性に関する欧州連合(EU)からの最近の批判が、オープンエイの課題に拍車をかけている。さらに、女優のスカーレット・ヨハンソンは、彼女の声が無断で使用されたとして同社を告発し、問題をさらに複雑にしている。
OpenAIは現在、安全性を今後のAIプログラムの重要なセールスポイントとして位置づけている。同社は、責任あるAI開発と規制遵守へのコミットメントを示すことを目指している。
主要役員で構成される安全・セキュリティ委員会を新設し、今後3ヶ月間で安全プロセスの評価と強化を行う。この取り組みは、今月上旬のOpenAIの安全チームの解散に続くものである。
OpenAIは、GPT-4の後継機を開発する一方で、その安全性についての精査に直面している。同社はAI開発における安全性の重要性を強調し、これらの懸念に対処するための委員会を設置した。