測る前の設計:
- 「成功したと言える状態」を1つの文にしたか
- 指標を「効果/品質/コスト・安全」の3層で選んだか
- 効果指標(利用回数など)だけで満足せず、品質とコストのガードレールを並べたか
ログの仕込み:
- 1利用ごとに、リクエストID・機能・時刻を残しているか
- 人の最終判断(採用/修正/却下)を記録しているか
- 所要時間・モデル名/バージョン・コストの手がかりを残しているか
- エラー・フォールバック発動・リトライを記録しているか
- 入力・出力の機密/個人情報を、そのまま保存していないか(要約・マスキング・保持期間)
比べ方:
- 導入前後、またはAIあり/なしで比べる形になっているか
- 少なくとも開始時点の数字(スタート地点)を記録したか
- 平均だけでなく、悪い方の一部(ワースト側)も見ているか
この内容は記事「AI機能の効果測定|導入後に見るログと指標の設計」のチェックリストです。印刷してそのままお使いいただけます。 / 無料ツール一覧へ