DSPyは、LLMアプリケーションをプロンプト(AIに与える指示文)を書くのではなく、Pythonプログラムとして構築するためのフレームワークだ。 タスクの入力と出力を構造化して定義し、必要に応じてプロンプトの生成や改善、評価に基づく最適化を行える。

OrcaRouterをカスタムプロバイダーとして追加。Anthropic、Googleなど200以上のモデルを単一エンドポイントで呼び分け、自動ルーティングでコーディングコストを約40%削減。