New models and developer products announced at DevDay

Tags

Top Highlights

• 今日、私たちはAssistants APIをリリースします。これは、開発者が自身のアプリケーション内でエージェントのような体験を構築できるようにするための第一歩です。

• GPT-4ターボはより高性能で、2023年4月までの世界情勢を把握している。128kのコンテキスト・ウィンドウを持ち、1つのプロンプトに300ページ以上のテキストを入力することができます。GPT-4ターボは、GPT-4に比べて、入力トークンで3倍安く、出力トークンで2倍安く提供することができます。

• 新しい3.5ターボは、改良された命令フォロー、JSONモード、並列関数呼び出しをサポートしています。例えば、JSON、XML、YAMLを生成するようなフォーマット・フォロー・タスクにおいて、我々の内部検証では38%の改善が見られました。

• このAPIによって導入された重要な変更点は、持続的で無限に長いスレッドです。これにより、開発者はスレッドの状態管理をOpenAIに委ねることができ、コンテキスト・ウィンドウの制約を回避することができます。Assistants APIでは、新しいメッセージを既存のスレッドに追加するだけです。

• 検索：独自のドメインデータ、製品情報、ユーザーから提供されたドキュメントなど、モデル外の知識でアシスタントを補強します。つまり、ドキュメントの埋め込みを計算して保存したり、チャンキングや検索アルゴリズムを実装したりする必要はありません。アシスタントAPIは、ChatGPTで知識検索を構築した経験に基づいて、どのような検索手法を使用するかを最適化します。

• 開発者は、音声合成APIを介してテキストから人間品質の音声を生成できるようになりました。当社の新しいTTSモデルは、6つのプリセット音声から選択でき、tts-1とtts-1-hdの2つのモデルバリエーションがあります

• GPT-4ターボの入力トークンはGPT-4より3倍安い0.01ドル、出力トークンは2倍安い0.03ドル。 GPT-3.5 Turboの入力トークンは、以前の16Kモデルより3倍安い0.001ドルで、出力トークンは2倍安い0.002ドルです。