技術 SiftoのAI基盤設計：複数LLMをちゃんと扱うためにやったこと — OpenRouter・コスト分析まで
はじめにLLM を使ったアプリは、最初の一歩だけを見るとかなり簡単です。ひとつの provider を決めて、その API を叩き、必要な機能をつなげていけば、とりあえずは動きます。実際、初期の段階ではそのやり方でまったく問題ありません。むしろ最初から大げさな抽象化を入れるより、そのほうが速いです。ただ、その状態で開発を進めていくと、すぐに別の問題が見えてきます。たとえば、事実抽出にはこのモデルが...
