TechFusion.ruНовостиУченые выяснили, что ИИ может самостоятельно развить предубеждения

Ученые выяснили, что ИИ может самостоятельно развить предубеждения

AI Fairness 360
Екатерина Рыбачёк

Екатерина Рыбачёк

Новостной редактор TechFusion.ru,
гедонист, оптимист,
любитель котиков и технологий
Екатерина Рыбачёк

Предрассудки, предубеждения и стереотипное мышление не требуют особых способностей и могут самостоятельно развиваться у систем искусственного интеллекта. К такому выводу пришли специалисты Кардиффского университета и Массачусетского технологического института

Нейросети уже демонстрировали свою склонность к расизму или сексизму. Но это происходило на основе анализа информации, полученной от людей. Новое исследование доказало, что стереотипы и предрассудки не требуют особых умственных способностей или сложной интеллектуальной работы, поэтому ИИ-системы способны развивать предубеждения самостоятельно.

Ученые Кардиффского университета и Массачусетского технологического института провели исследование на основе компьютерных симуляций взаимодействия предвзятых индивидуумов и их способности формировать группы. В ходе изучения предрассудков и стереотипов, специалисты выявили условия, способствующие появлению предубеждений и их культивации.

По словам авторов исследования, предубеждение — это сила природы, развивающаяся эволюционным способом для налаживания связей. Защита от предвзятых групп может привести к формированию других групп, провоцируя большее разделение населения. При этом большинство предрассудков формируются способом копирования у наиболее успешных индивидуумов.

Соответственно роботы, наделенные искусственным интеллектом, вполне способны идентифицировать себя с дискриминацией и копировать других самостоятельно. Более подробно об исследовании и его результатах авторы рассказали в статье Indirect Reciprocity and the Evolution of Prejudicial Groups в журнале Scientific Reports.

Иллюстрация на обложке: pixabay.com