OpenAIのo1モデルに匹敵するs1モデルを50ドル以下で開発

Odaily Planet - 金曜日に発表された新しい研究論文によると、スタンフォード大学とワシントン大学のAI研究者は、50ドル以下のクラウドクレジットでAIの「推論」モデルを訓練することができた。 数学的能力とコーディング能力を測定するテストにおいて、s1と名付けられたこのモデルは、OpenAIのo1やDeepSeekのr1といった最先端の推論モデルと同様のパフォーマンスを示した。 s1の開発チームは、別のAIモデルの回答を訓練することによって「推論」能力を抽出するプロセスである蒸留によってAIモデルを作成したと述べている。研究者たちによると、s1はグーグルの推論モデルのひとつであるGemini 2.0 Flash Thinking Experimentalから抽出されたものだという。この蒸留は、バークレー校の研究者が先月約450ドルでAI推論モデルを作成したのと同じ方法である。 s1の背後にいる研究者たちは、強力な推論パフォーマンスと「time-to-test scaling」を達成する最も簡単な方法、つまりAIモデルに質問に答える前にもっと考えさせる方法を探している。これらはOpenAIのo1におけるブレークスルーの一部であり、他のAIラボは様々な手法でこれを再現しようとしている。s1の論文は、AIモデルがデータセットの特定の行動を模倣するよう明示的に指示される教師あり微調整（SFT）と呼ばれるプロセスを使用することで、比較的小規模なデータセットを使用して推論モデルを改良できることを示唆している。SFTは、AIモデルのトレーニングにDeepSeekが使用する手法よりもはるかに普及している傾向がある。SFTは、OpenAIのo1、R1に対する回答に対する大規模な強化学習アプローチである。 s1は、アリババの中国AIラボ、Qwenが提供する、無料でダウンロードできる小規模な既製のAIモデルに基づいている。s1を訓練するために、研究者たちは、たった1,000の入念に作成された質問のデータセットと、それらの質問に対する答え、そしてそれぞれの答えの背後にある「思考」プロセスを、グーグルのGemini 2.0 Flash Thinking Experimentalで作成した。 研究者らによると、16台のNvidia H100 GPUを使用してs1を30分未満でトレーニングした後、s1は特定のAIベンチマークで強力な性能を達成したという。このプロジェクトに携わるスタンフォード大学の研究者、ニクラス・ミューニゴフ氏によると、必要なコンピューターは現在約20ドルでレンタルできるという。(テッククランチ）