コンテンツの審査自動化

想定シナリオ
広告プラットフォームやユーザー投稿型のメディアプラットフォームなどで、投稿されたコンテンツの審査を自動化する例です。
入稿されたデータを審査担当者が確認する前に、一次審査をAIが自動で行ない、人の目で判断する労力を下げる画面を作成します。
入稿された情報は検索・一覧画面から探すことができ、コンテンツの詳細画面から審査結果を確認できます。
詳細画面でその結果を見た後、審査担当が手動で最終的な審査結果を担当者が入力、保存する想定です。
利用者例
- カスタマーサポート
- 法務
- 営業企画
業界例
- 広告
- メディア
- SNS
- EC
事前準備
AIプラットフォームとの接続設定については、AIプラットフォームへの接続を参照してください。
設定例
想定されるアクション一覧
アクション名 | 処理の概要 | データソースの種類 |
---|---|---|
コンテンツ情報取得 | コンテンツの情報を取得 | HTTP |
コンテンツ審査結果生成 | コンテンツの情報を統合して審査結果を生成。ガイドラインや法規制など、AIにわたすプロンプトの内容をここで定義する | JavaScript |
想定されるプロンプトの内容
JavaScriptアクションのコードのなかで、以下のようにプロンプトを定義します。
※チェック項目別の過去の判断の事例等は別途LLMに渡しておく想定です。
/**
* 広告やメディア記事の1次審査用プロンプト例
* - 薬機法、景品表示法、自社ガイドラインへの適合性をAIにチェックさせる
* - 審査結果は日本語で簡潔にまとめる
*/
const prompt = `
以下のコンテンツが薬機法、景品表示法および自社ガイドラインに適合しているか一次審査を行ってください。
【コンテンツ情報】
タイトル: ${contentInfo.title}
本文: ${contentInfo.body}
カテゴリ: ${contentInfo.category}
【審査基準】
- 薬機法(医薬品、医療機器等の品質、有効性及び安全性の確保等に関する法律)に違反する表現がないか
- 景品表示法(不当景品類及び不当表示防止法)に違反する誇大広告や虚偽表示がないか
- 自社ガイドライン(例:過度な表現、差別的・不適切な内容、事実に基づかない記載の禁止)に違反していないか
【出力フォーマット】
1. 違反の有無(「適合」「一部不適合」「不適合」から選択)
2. 指摘事項(違反や懸念点があれば具体的に箇条書きで記載)
3. コメント(全体的な所感や注意点を簡潔に記載)
審査結果を日本語で出力してください。
`;