TechFusion.ruНовостиAI Fairness 360 избавит нейросети от предрассудков

AI Fairness 360 избавит нейросети от предрассудков

Нейротлон

Предрассудки, предубеждения и стереотипное мышление не требуют особых способностей и могут самостоятельно развиваться у систем искусственного интеллекта. Чтобы избежать этого, компания IBM разработала решение AI Fairness 360

Специалисты неоднократно заявляли о том, что самообучаемые нейросети способны выказывать предвзятость и действовать стереотипно. Недавно ученые Кардиффского университета и Массачусетского технологического института доказали это в своем исследовании причин возникновения предрассудков. Именно для решения этой проблемы IBM создала AI Fairness 360.

Комплексная программа AI Fairness 360 проверяет системы искусственного интеллекта на наличие предубеждений. Решение состоит из девяти алгоритмов, которые проводят анализ в разных областях и выдают общий результат. Код программы размещен в открытом доступе на GitHub.

Использование разработки IBM позволит избежать оценочных суждений искусственного интеллекта, снизить вероятность ошибок, а также восполнить пробелы в «знаниях» нейросети, если при обучении использовался недостаточно полный и сбалансированный датасет.

Иллюстрация на обложке: pixabay.com