Словарь
Bias (смещение)
Bias — систематический перекос в данных, который модель выучивает и воспроизводит. Что это простыми словами и чем отличается от случайной ошибки.
Bias (смещение, предвзятость) — систематический перекос, при котором данные отражают реальность нечестно, завышая или занижая что-то в одну сторону. В отличие от случайной ошибки, которая скачет туда-сюда и в среднем гасится, bias давит постоянно в одном направлении.
Опасность bias в ИИ: модель, обученная на смещённых данных, выучивает перекос и уверенно его воспроизводит, придавая человеческим предубеждениям вид объективной математики. Классика — ошибка выжившего, когда в данных только «дошедшие», и вывод искажён отсутствием остальных.
Лечится bias в данных, а не в алгоритме: репрезентативность, аудит по группам, прозрачность. Подробно — в статье «Bias в данных».