DSPyは、LLMアプリケーションをプロンプト(AIに与える指示文)を書くのではなく、Pythonプログラムとして構築するためのフレームワークだ。 タスクの入力と出力を構造化して定義し、必要に応じてプロンプトの生成や改善、評価に基づく最適化を行える。

Tom Fenton moves from local AI concepts to hands-on tools for matching LLMs to hardware, running local chatbots with Ollama and benchmarking AI performance.