gpt-4-turboのAPIがリリースされたので、10万文字の文章で早速試してみる | DevelopersIO

Tags

Top Highlights

• 利用できるトークン数は128,000トークンとなり、これまでOpenAIが提供するGPT-4のAPIの利用可能だった最大のトークン数が32,000トークンであったことから約4倍の情報を扱うことができるようになりました。

• gpt-4-turboを利用したい場合は、モデルとしてgpt-4-1106-previewを指定すると利用できます。

• 本一冊の文章を一度のリクエストで処理できる

• 10万文字の文字列を利用しましたが、実際の処理にかかった時間は30秒程度でした。

• 江戸川乱歩さんの「少年探偵団」という青空文庫の本

• 文字列をカウントすると10万5000文字程度でした。