Oriental Nippon Development

技術 · AI機能

LLM 開発サービス

本番のLLMエンジニアリング。モデル選定、RAG、ファインチューニング、評価、ガードレール。

技術

LLMで構築するもの

タスク・コスト・データ境界によるモデル選定
検索拡張生成(RAG)
スキーマに根拠づけたText-to-SQL
ファインチューニングとアダプター
オフライン・オンラインの評価
プロンプトとモデルのバージョン管理

選ばれる理由

本番でLLMを届けるエンジニア

設計・評価・運用までを一貫して行うAIのパターン。LLMを、型付けされテストされたコード、劣化を止めるCIゲート、最初のリリースからの可観測性という規律で使いこなします。

LLMをインフラのコード化、自動デプロイ、ランブックとともに既存のスタックへ無理なく組み込み、お客様のエンジニアが自ら運用できる状態で引き渡します。苦戦しているコードを引き継ぐ場合も、正直に監査し、全面的な作り直しなしに改善します。

のユースケース

LLMのユースケース

データに質問する

顧客単位のデータに自然な言葉で質問。

文書Q&A

規程やマニュアルに根拠づけた回答。

大規模な分類

チケット、メール、リードの振り分け。

多言語のワークフロー

日本語と英語のコンテンツ処理。

進め方

LLMの進め方

  1. 01

    業務を理解する

    ユーザーの動き、例外ケース、運用の実態を整理します。

  2. 02

    アーキテクチャと土台

    環境、CI/CD、規模に合ったモジュール構成を用意します。

  3. 03

    縦に薄く切って作る

    毎回のイテレーションで、動く機能を端から端まで届けます。

  4. 04

    本番を見据えた連携

    すべての連携にリトライ、冪等性、ログ、テストを入れます。

  5. 05

    実ユーザーで試行

    実際に使われる現場でテストします。

  6. 06

    引き継ぎまたは運用

    ドキュメント、ADR、引き継ぎ会を用意するか、私たちが運用します。

進め方を見る

よくある質問

LLM: よくある質問

LLMの経験があるエンジニアはいますか?

はい。LLMを本番案件で提供してきたチームがいます。SES、専属のラボ型ODC、範囲を決めたプロジェクトのいずれでも体制を組めます。

既存のLLMのコードを引き継げますか?

はい。2週間の監査から始め、最初の1か月で効果の出やすい改善を行い、全面的な作り直しなしに本番品質へ引き上げる計画を合意します。

どのくらいで開始できますか?

通常は2〜3週間で、お客様のツールやプロセスへのオンボーディングを含めて開始できます。

はじめる

スマートな開発を始めましょう
Oriental Nipponと今日から

30分の無料相談で、最適なチーム・契約形態・最初のマイルストーンをご提案します。

相談を予約