Claudeのプロンプトキャッシュ機能はなかなか画期的。ほとんど同一のプロンプトを少しずつ変えて投げ続ける用途は結構あるので、連続してCallしてくれる限りはキャッシュ利用で安く・早くできる機能は、かなり魅力的に映る事業者もいると思う(弊社含む)。
Share this post
Nishika AI News Letter - Issue #72
Share this post
Claudeのプロンプトキャッシュ機能はなかなか画期的。ほとんど同一のプロンプトを少しずつ変えて投げ続ける用途は結構あるので、連続してCallしてくれる限りはキャッシュ利用で安く・早くできる機能は、かなり魅力的に映る事業者もいると思う(弊社含む)。