全部入れるより検索+要約の併用が効く。キャッシュ前提のプロンプト設計が鍵。
境界の切り方が成否を分ける。データ取得の責務をサーバー側へ寄せる構成が定着。
アプリ層よりインフラ・ツール層に注目。エンジニア採用も活発。