LLMアプリケーションの高度化

1. Prompt Engineering

「モデルへの指示」を最適化する

定義

LLMの出力を望ましい、信頼できる、安全なものにするために、自然言語の入力を設計・構造化・改善する技術。

コア原則

• 役割の付与 (Role): 「あなたはシニアエンジニアです」
• 形式の指定 (Format): 「JSON形式で出力してください」
• 例示 (Few-shot): 入出力のペアを提示してパターンを学習させる
• 思考の連鎖 (CoT): 「ステップバイステップで考えてください」

課題

指示の曖昧さ、コンテキスト不足、複雑すぎるタスクの詰め込みによる性能低下。

2. Context Engineering

「モデルが見る情報」を最適化する

定義

LLMが回答を生成する前に参照するすべての情報（履歴、ユーザー、外部ドキュメント、ツール等）を設計・選択・オーケストレーションする技術。

主な手法

• RAG (Retrieval-Augmented Generation): 外部知識を検索して注入。
• コンテキスト圧縮 (Compression): トークン制限に対応するため、情報を要約。
• メモリ管理 (Memory): 短期記憶（会話）と長期記憶（知識）の活用。

Promptとの違い

3. Harness Engineering

「モデルを取り巻く環境」を最適化する

定義

生のLLMを信頼できる自律的エージェントに変えるために、制約、フィードバック、観測性、ツール統合、状態管理などを設計する技術。

主要コンポーネント

重要性

モデルの能力（IQ）を、システムの設計（環境）によって最大限に引き出し、プロダクション品質へと昇華させる。