TensorFlow を使用して責任ある AI への取り組みを ML ワークフローに統合する方法をご確認ください

システムはどのようなユーザーを対象としているか？

システムによる予測や推奨、決定の持つ真の影響力を評価するためには、実際のユーザーがどのようにシステムを使用しているのかを知ることが重要です。開発の早い段階で、多様なユーザーからフィードバックをもらいましょう。

使用しているデータは代表的なデータセットか？

データのサンプリングは、実際のユーザーに応じて（例: 全年齢層が対象なのに高齢者のトレーニング データしかない）、かつ実際の状況に応じて（例: 年間を通じて使用するのに夏期のトレーニング データしかない）行われていますか？

現実世界や人間のバイアスがデータに含まれていないか？

データの根底にあるバイアスは、既存の固定概念を強化する複雑なフィードバック ループの原因になる可能性があります。

どのような方法でモデルのトレーニングを行えばよいか？

モデルに公平性と解釈可能性をもたらし、プライバシーとセキュリティに配慮したトレーニング方法を選びます。

モデルのパフォーマンスをどのように把握するか？

さまざまなユーザー、ユースケース、使用コンテキストにわたって現実世界のシナリオでのユーザー エクスペリエンスを評価します。まず dogfood でテストを繰り返し実行し、リリース後も継続してテストを行います。

複雑なフィードバック ループが存在していないか？

システムの全体的な設計に細部まで慎重に取り組んだとしても、機械学習モデルを現実世界のデータに適用した場合、100% 完璧に動作することはめったにありません。稼働中のプロダクトに問題が発生した場合は、その問題が、既存の社会的なデメリットと合致するものか、また短期および長期ソリューションによってどのように影響を受けるかを検討してください。