• 制作者：森重 真純（Galirage）

• 更新日時：2024年12月24日

  【レポート】12_Days_of_OpenAI_2024_12_24.pdf

<aside> 💬

以下のZenn記事に、より整理された情報をまとめました◎

https://zenn.dev/galirage/articles/openai-12-days

</aside>

Day 1 の要点

https://youtu.be/iBfQTnA2n2s?si=kXiXlIv06pYRZH4z

1. 「12 Days of OpenAI」の始まりを告知

   • 毎平日に渡って新しい機能やリリースを行うイベント。
   • 短いデモや発表を通じて、最新の取り組みを少しずつ公開していく。

2. 初日には2つの発表があると紹介

   1. o1モデルの正式版（フルバージョン）をリリース

      • 以前はプレビュー版だった「o1 preview」を改良し、
        • よりスマート
        • より高速
        • マルチモーダル対応
        • 指示への従属性向上
      • 特に科学者・エンジニア・コーダー向けの高度な性能に言及。
      • 「o1 preview」からの性能向上をグラフで示し、競技数学やコード生成などで大きく性能アップしている。

      

      「o1モデルのパフォーマンス比較グラフ：競技数学（AIME 2024）、競技プログラミング（CodeForces）、PhD レベルの科学的質問（GPQA Diamond）における、GPT-4、o1 preview、o1の精度比較を示すグラフ。全ての分野でo1が最高性能を示している。」

   2. 新たなサブスクリプションプラン「ChatGPT Pro」の発表

      • 月額200ドルのプラン。
      • 無制限のモデル使用（o1などが自由に使える）。
      • 「o1 pro mode」を使った場合、さらに高難度タスクで小さな性能差ではあるが有利に働く。
      • 「o1 pro mode」は競技数学など難度の高い問題での正答率や信頼性が向上する。
      • 信頼性（Reliability）についてのグラフを紹介し、pro modeでは回答の安定性がさらに高い。

      

      

3. o1モデルの具体的なデモ

   • コーディング、速度、高難度問題、マルチモーダルへの対応などが紹介される。

   • Roman emperorsのリストを生成するデモ。

     • o1は、14秒で思考が完了（左図）。
     • o1-previewは、33秒で思考が完了（右図）。

     

     

   • システム図の画像からの推論などをデモ。

     

     

     

4. 「ChatGPT Pro」のデモ

   • 競技化学のような非常に難しい問題に対して、o1 pro modeを使い、数分考えるケースを紹介。

   • 「思考が長くなる（数分単位で計算する）」場合にpro modeが活用できるシーンを説明。

     

     

     

5. APIにo1を今後提供する計画に言及

   • 「o1をAPIでも使えるように準備中」とアナウンス。
   • 機能呼び出し（構造化出力、ファンクションコーリングなど）への対応予定。

Day 2 の要点

https://youtu.be/yCIYS9fx56U?si=V3YqlIiIO7xvoQAZ

1. o1モデルのAPI提供に向けたカスタマイズ機能「強化学習型ファインチューニング（Reinforcement Fine-Tuning = RFT）」を発表

   • 標準的なSFT（Supervised Fine-Tuning）ではなく、RL技術を使った新しいファインチューニング。
   • 独自の評価器（リワード関数）を使い、正解を強化する仕組みを開放予定。

2. RFT（Reinforcement Fine-Tuning）の背景とメリット

   • o1を自社の特定ドメインに合わせてさらに高度化する際、ドメインごとの正解パターン（複雑なタスクなど）を学習できる。
   • 数十〜数百程度の学習例（データセット）でも、新しい推論経路を学習可能。

3. 研究者や企業向けのプレビュー提供

   • 大学や研究機関、エンタープライズが対象のアルファプログラムを案内。
   • 2024年に一般公開予定だが、その前に協力パートナーを募る。

4. 実例デモ： 遺伝子疾患研究への応用

   • 研究者ゲストを招き、数百例のレア疾患報告データをRFTで学習し、
   • 症状のリストから原因遺伝子を推定するタスクを高い精度で実行。
   • 従来手法より優位な結果を示す例を紹介。

   

   

   

   

   

   

   

   

   

   

   

   

   

5. 「o1 RFT」を活用するためのAPIワークフロー例

   • Pythonで例示されたUI上で、JSONLフォーマットの学習データと「grader（評価器）」をアップロードし、強化学習を実行する流れを紹介。
   • 学習完了後、元のベースモデルをカスタマイズした形で利用可能に。