AI基盤FDE-0121 · 業務委託

稼働中の生成AIシステムを守る LiteLLMガードレール設計・構築

稼働中の生成AIシステムにおいて、LiteLLMを活用したガードレール機能の設計・実装と運用設計の見直しを担当します。フルリモート。

LiteLLMAzure OpenAIAWS Bedrockガードレール運用設計PII

募集が終了している場合や、条件が変わっている場合があります。応募・ご相談の際に、募集状況、応募条件、報酬、契約条件を確認します。

募集の背景

本番稼働中の生成AIシステムにおける運用改善案件です。運用設計の見直しから、LiteLLMを活用したガードレール機能（PII監査・プロンプトインジェクション対策）の設計・構築、Azure OpenAI・AWS Bedrockのコスト調査、モデルEoL通知機能の構築、テスト計画・実施まで幅広く担当します。

仕事内容

既存運用課題に対する運用設計の見直し
LiteLLMガードレールの設計・実装（PII監査・プロンプトインジェクション対策）
Azure OpenAI・AWS Bedrockのコスト調査
モデルEoL通知機能の構築
テスト計画の策定・実施
ガードレール機能の設計・実装
運用設計書
テスト結果

活かせる経験

LLM APIの連携・設定経験（LiteLLM等）
AzureまたはAWS環境の設計・構築経験
外国籍不可

歓迎する経験

Azure OpenAIまたはAWS Bedrockの利用経験
運用設計書・ガイドライン等の作成経験

仕事の進め方

運用設計の見直し
ガードレール構築・テスト
検証・引き継ぎ

応募から仕事開始までの流れ

応募 → ご経験・希望条件の確認 → 面談・条件調整 → 契約・仕事開始

契約形態・商流・報酬・業務範囲は、案件をご紹介する際に確認し、ご案内します。