Sebuah lembaga keuangan mengembangkan model machine learning untuk memprediksi kelayakan kredit calon peminjam. Model ini dilatih menggunakan data historis yang mencakup demografi (usia, jenis kelamin, etnis) dan riwayat keuangan. Setelah diterapkan, ditemukan bahwa model secara konsisten memberikan skor kredit yang lebih rendah kepada kelompok etnis tertentu, meskipun riwayat keuangan mereka serupa dengan kelompok lain yang mendapatkan skor lebih tinggi. Masalah etika apakah yang paling dominan muncul dalam skenario ini dan bagaimana cara mengatasinya?