開発と人道活動の評価方法には階層があり、ほとんどすべての公共コミュニケーションはその最下層で行われます。 ラダーを理解すると、どの主張が証拠によって裏付けられ、どの主張が表現によって裏付けられているかがすぐにわかります。
測定ラダー
| レベル | 例 | 必要なもの | 報告の頻度 |
|---|---|---|---|
| 入力 | 50,000ドルが費やされました。 1,100カートン調達 | 会計記録 | 一般 |
| 活動 | 12回の審査を実施 | アクティビティログ | 一般 |
| 出力 | 3,400人の子供が検査を受けた。 610人が治療を受けている | 番組記録 | 一般 |
| 結果 | 入院した子供の82%が退院基準に達した | 定義された基準によるフォローアップ記録 | 珍しい |
| インパクト | 流域内の死亡率は、想定されていたものと比較して低下しました | 比較グループまたは信頼できるモデリング | レア |
なぜ「人々が到達した」という意味があまりにも小さいのか
このフレーズには標準的な定義がありませんが、まさにそれが人気の理由です。 組織によっては、次のいずれかを意味する場合がありますが、それらはすべて同じ言葉の正当な解釈です。
- 有形の物品やサービスを受けた人。
- セッションに参加した人、何かが変わったかどうか。
- 支援を必要としないと判明した人を含む、検査を受けた人々。
- 世帯員は 1 人の受取人から数えられ、1 つの食料小包が 6 人に届くことになります。
- プログラムが実施されている地区の人口。
- ラジオメッセージやポスターキャンペーンの視聴者。
同じフレーズで 6 つすべてがカバーされているため、2 つの組織のリーチ数を比較しても何の比較にもなりません。 有益な質問は単純です。相手が何を受け取りましたか。また、それを受け取ったことがどのようにわかりますか。
反事実、ほとんどの主張は静かに失敗します。
ある地区での栄養失調による入院が、栄養プログラムが実施されていた 1 年間に集中したと仮定します。 プログラムが原因である可能性があります。 豊作、道路の修復、同じ地区での別の機関の仕事、検査プロトコルの変更、または人口の他の場所への移動も同様です。
プログラムが変化を引き起こしたことを証明するには、プログラムがなければ何が起こっていたかを知る必要があります。 ランダム化計画、一致比較地区、差異内差異分析などの厳密なアプローチが存在し、費用がかかります。 小さな組織に彼らがいないのはまったく当然のことです。 合理的でないのは、因果関係を主張しながら、それを確立するための比較を欠いていることです。
反事実がなければ、影響に関する主張は、あなたがたまたまその場に居合わせた偶然についての話です。
プログラムの効果を帰属させる際の中心的な問題
弁護可能な主張には実際にどのような内容が含まれるのか
- 定義された指標「栄養状態の改善」ではなく、閾値を設けた具体的な措置、たとえば、定められた退院基準までの回復などである。
- 分母入院した子供のうち回復したのは何人ですか? 分子だけではデフォルト率と死亡率が隠蔽されます。
- 期間と場所日付のない請求は何も照合することができず、地区レベルの取り組みを国の数字で説明すべきではありません。
- 測定方法誰が、どのように、どのようなサンプルを使ってデータを収集したのか。 資金が自分たちに依存しているスタッフの自己申告の数字は、第三者による検証よりも弱い証拠です。
- 認められた制限最も信頼性の高い報道は、立証できないことを明らかにするものです。 自身の不確実性を表明する組織は、通常、何かを測定している組織です。
疑問を抱かせる 4 つの主張
| 請求 | なぜ問題になるのか |
|---|---|
| 「Xドルで命が救われる」 | 治療を受けたすべての子供が生存するわけではなく、すべての生存者が治療を必要とするわけではないことを無視して、平均出産費用を保証された個別の結果として扱います。 |
| 「あなたの寄付金は100%現場に寄付されます」 | 虚偽、または他の人が諸経費を支払っているため真、または諸経費が発生していないため真、これが弱点です |
| 「100万人を達成しました」 | ほとんどの場合、年やプログラムにわたる大まかに定義された連絡先の集合体 |
| 3 年連続で同じ成功率が報告されている | 実際のプログラムは変動します。 変わらない数字は、測定が行われているのではなく、目標が再設定されていることを示唆しています |
小さな組織の正直な立場
若い組織では管理された評価を実行することはできません。そうでないふりをすることは、それを認めるより悪いです。 しかし、代替手段は沈黙ではありません。 日付、数量、指定されたサプライヤー、目的地、損失とともに報告される成果は検証可能であり、累積され、後で真の成果を測定するための材料となります。
HopePlates は、子どもの栄養失調の救済と栄養療法に取り組んでいます。 私たちは、寄付が何を買うのかをインプットとアウトプット(調達量、サプライヤー、目的地、日付)で説明し、単独で集めたものではなく、集めたものと使ったものの合計を公表します。 変換には測定ではなく発明する仮定が必要となるため、これらを人命を救う算術に変換することは意図的に避けています。
よくある質問
アウトプットとアウトカムの違いは何ですか?
成果とは、組織が提供したものです。子供たちは検査を受け、紙パックが配布され、セッションが開催されました。 回復率、学校への進学率、病気の回避など、人々にとって何が変わったかが結果です。 出力は内部記録から数えられます。 結果にはフォローアップが必要です。
なぜ「人々に届く」ことがこれほど頻繁に批判されるのでしょうか?
標準的な定義がないからです。 これは、治療を受けている人からラジオメッセージを聞いている人まで、あらゆる意味を含むため、2 つの組織の数字は比較できず、どちらも利益を示すものではありません。
慈善団体が寄付で命が救われると言うのは間違いですか?
これは、平均的な実現コストを約束された個別の結果に変換する単純化です。 通常、基礎となる数値は実際のコスト計算です。 生存は感染、距離、経過観察などに左右されるため、この構図は確実性を誇張している。
厳格な影響評価を行った組織にのみ資金を提供すべきでしょうか?
この規則は、多くの優れた組織を含む、ほぼすべての小規模で新しい組織を除外することになる。 より実践的なテストは、出力レポートが具体的で、日付があり、検証可能であるかどうか、また組織が測定していないものについて正直であるかどうかです。
寄付金の 100% が現場に寄付されるとはどういう意味ですか?
通常は、別の資金提供者が管理をカバーしているか、組織がコストを異例に分類しているか、あるいはおそらく発生すべきコストを発生していないことが考えられます。 これは会計上のステートメントではなくマーケティングステートメントであり、3 つのうちのどれに当てはまるかを尋ねる価値があります。
結果の請求を自分で確認するにはどうすればよいですか?
指標の定義、分母、期間、場所、データの収集者を尋ねます。 これら 5 つのうちの 1 つが欠けている申し立ては、組織の理事会を含む組織外の者によって評価されることはできません。
出典と参考資料
- Sphere ハンドブック — パフォーマンス指標と最低基準 (回収率やデフォルト率のしきい値など)
- 品質と説明責任に関する中核的な人道基準
- 開発援助を評価するためのOECD DAC基準
- プログラム評価における反事実分析と帰属に関する方法論的文献
- HopePlates の透明性ページ — 日付付きの出力、サプライヤー、使用総額